Unabhängige Analysen und Informationen zu Geopolitik, Wirtschaft, Gesundheit, Technologie

CEO von OpenAI schlägt Alarm wegen KI und ChatGPT

Sam Altman ist verliebt in KI und GPT-4, hat aber auch Angst vor der dunklen Seite. Seine größte Sorge: Desinformation und gefälschte Cyberangriffe. Bisher wurde jedoch nur eine begrenzte Version der KI veröffentlicht, als ob es noch viel mehr gäbe, das veröffentlicht werden wird, nachdem die Öffentlichkeit die aktuellen Versionen absorbiert hat. Nach Ansicht von TN wird die einzige Antwort auf die von der KI erzeugten Desinformationen darin bestehen, alle anderen Äußerungen zu zensieren, einschließlich der verfassungsrechtlich geschützten Äußerungen, und dabei das gleiche GPT-4 zu verwenden. Das Chaos wird folgen. ⁃ TN-Redakteur

Der CEO von OpenAI, Sam Altman, und Fang Bingxing, der als “Vater der chinesischen Firewall” gilt, haben sich dem Mitbegründer von OpenAI, Elon Musk, angeschlossen, um auf die Gefahren der künstlichen Intelligenz (KI) hinzuweisen.

“Wir müssen hier vorsichtig sein”, sagte der 37-jährige Altman letzte Woche gegenüber ABC News und fügte hinzu: “Ich denke, die Leute sollten froh sein, dass wir ein wenig Angst davor haben.”

“Ich mache mir vor allem Sorgen, dass diese Modelle für groß angelegte Desinformationen verwendet werden könnten … Jetzt, da sie immer besser darin werden, Computercode zu schreiben, könnten sie für offensive Cyberangriffe verwendet werden.”

Dennoch glaubt Altman, dass es sich um “die großartigste Technologie handeln könnte, die die Menschheit je entwickelt hat”.

OpenAI ist das Unternehmen hinter Chat GPT, das vor weniger als zwei Wochen “GPT-4” auf den Markt gebracht hat. Der hochentwickelte Chatbot kann nahezu perfekte Ergebnisse bei den SAT-Mathetests erzielen und erreicht 90 % bei der US-Anwaltsprüfung.

Und er hat Konkurrenten…

Auch andere KI-basierte Start-ups machen überraschende Fortschritte in diesem Bereich. RAD AI hat kürzlich die erste KI-Marketingplattform auf den Markt gebracht, die Emotionen versteht, und einige der weltweit größten Unternehmen nutzen sie bereits.

GenesisAI ist ein Startup, das einen Marktplatz aufbaut, der es jedem Unternehmen ermöglicht, KI und Automatisierung in sein Geschäft zu integrieren. Das bedeutet, dass KI bald ein ebenso integraler Bestandteil eines Unternehmens sein könnte wie die Mitarbeiter selbst. -Benzinga

Laut Altman verwendet ChatGPT-4 jedoch deduktives Denken im Gegensatz zum Auswendiglernen, was zu ungenauen Ergebnissen führen kann.

“Das, wovor ich die Leute am meisten zu warnen versuche, ist das, was wir das ‘Halluzinationsproblem’ nennen”, so Altman gegenüber ABC News. “Das Modell wird selbstbewusst Dinge behaupten, als wären sie Tatsachen (aber sie sind völlig erfunden).

Altman ist der Meinung, dass die KI im Allgemeinen reguliert werden muss.

“Es wird andere Leute geben, die einige der Sicherheitsgrenzen, die wir setzen, nicht einhalten”, sagte er. “Ich denke, die Gesellschaft hat nur eine begrenzte Zeit, um herauszufinden, wie sie darauf reagieren, wie sie das regulieren und wie sie damit umgehen soll.”

Auch Fang Bingxing, der Vater von Chinas so genannter Great Firewall, ist besorgt über GPT-4 und ähnliche KI.

Fang zufolge können solche Chatbots zu einem “Informationskokon” führen (im Gegensatz zum freien Informationsfluss in China?)

“Die Sichtweise der Menschen kann manipuliert werden, wenn sie alle möglichen Antworten von der KI erhalten”, sagte er gegenüber Red Star News, einer Tochtergesellschaft der staatlich unterstützten Chengdu Economic Daily, wie SCMP berichtet.

Fang, ein Informatiker und ehemaliger Regierungsbeamter, gilt weithin als Chefkonstrukteur von Chinas berüchtigtem Internet-Zensur- und Überwachungssystem. Er spielte eine Schlüsselrolle bei der Schaffung und Entwicklung der Großen Firewall, einem ausgeklügelten System von Internetfiltern und -sperren, mit dem die chinesische Regierung kontrollieren kann, worauf ihre Bürger online zugreifen können.

Die Große Brandmauer wurde in den vergangenen zehn Jahren verstärkt und blockiert den Zugang chinesischer Internetnutzer zu einer Vielzahl ausländischer Websites und Online-Dienste wie Facebook, Twitter und Google. -SCMP

Fang warnte auch davor, dass die KI, wenn sie sich weiterentwickelt, eine Bedrohung für die Menschheit darstellen könnte.

“Jetzt ist es einfach eine Software, die in einem Online-Chat-ähnlichen Szenario eingesetzt wird. Wenn sie in Robotern und Autos zum Einsatz kommt, müssen wir wachsam sein, denn sie könnte den Menschen Schaden zufügen.