Eric Schmidt ist ein globaler Spitzentechnokrat und offensichtlicher Nachfolger von Henry Kissinger, beide Mitglieder der elitären Trilateralen Kommission, die das Quellgebiet der modernen Technokratie ist. Der Vergleich von KI mit Atombomben ist falsch, denn Atombomben zerstören tatsächlich Materie, während KI noch damit kämpft, ein Auto in einer geraden Linie zu fahren. Will Schmidt damit andeuten, dass KI zu einer Massenvernichtungswaffe wird? ⁃ TN-Redakteur
Der ehemalige Google-CEO Eric Schmidt verglich KI mit Atomwaffen und forderte ein Abschreckungsregime, das der gegenseitigen Zerstörungsgarantie ähnelt, die die mächtigsten Länder der Welt davon abhält, sich gegenseitig zu vernichten.
Schmidt sprach am 22. Juli auf dem Aspen Security Forum bei einer Podiumsdiskussion über nationale Sicherheit und künstliche Intelligenz über die Gefahren der KI. Auf die Frage nach dem Wert der Moral in der Technologie erklärte Schmidt, dass er selbst in den Anfängen von Google naiv gewesen sei, was die Macht von Informationen angeht. Dann forderte er, dass die Technologie besser mit der Ethik und Moral der Menschen, denen sie dient, in Einklang gebracht werden sollte, und stellte einen bizarren Vergleich zwischen KI und Atomwaffen an.
"We are not ready for the negotiations that we need." – @ericschmidt #AspenSecurity pic.twitter.com/As749t6ZyU
— Aspen Security Forum (@AspenSecurity) July 22, 2022
Schmidt stellte sich eine nahe Zukunft vor, in der China und die USA einen Vertrag über KI abschließen müssten. In den 50er und 60er Jahren arbeiteten wir schließlich eine Welt aus, in der es eine “No Surprise”-Regel für Atomtests gab und diese schließlich verboten wurden”, sagte Schmidt. “Das ist ein Beispiel für ein Gleichgewicht des Vertrauens oder des Mangels an Vertrauen, es ist eine ‘keine Überraschungen’-Regel. Ich bin sehr besorgt, dass die amerikanische Sichtweise auf China als korrupt oder kommunistisch oder was auch immer und die chinesische Sichtweise auf Amerika als gescheitert … es den Leuten erlauben wird zu sagen: ‘Oh mein Gott, die führen etwas im Schilde’, und dann beginnt eine Art von Verwirrung. Man beginnt eine Sache, bei der man, weil man aufrüstet oder sich vorbereitet, die andere Seite auslöst. Wir haben niemanden, der daran arbeitet, und doch ist die KI so mächtig.”
KI und maschinelles Lernen sind eine beeindruckende und häufig missverstandene Technologie. Sie ist größtenteils nicht so schlau, wie die Leute glauben. Sie kann Kunstwerke auf Meisterwerk-Niveau erstellen, Menschen in Starcraft II schlagen und rudimentäre Telefonanrufe für Benutzer tätigen. Versuche, es zu komplizierteren Aufgaben zu bewegen, wie z. B. ein Auto durch eine Großstadt zu fahren, sind jedoch nicht so gut verlaufen.
Schmidt stellte sich eine nahe Zukunft vor, in der sowohl China als auch die USA Sicherheitsbedenken haben, die sie zu einer Art Abschreckungsvertrag über KI zwingen. Er spricht von den 1950er und 60er Jahren, als die Diplomatie eine Reihe von Kontrollmechanismen für die tödlichsten Waffen der Welt entwickelt hat. Doch bis die Welt den Vertrag über das Verbot von Nuklearversuchen, SALT II und andere bahnbrechende Gesetze auf den Weg bringen konnte, waren Jahrzehnte voller Atomexplosionen und vor allem die Zerstörung von Hiroshima und Nagasaki nötig.
Die beiden japanischen Städte, die Amerika am Ende des Zweiten Weltkriegs zerstörte, töteten Zehntausende von Menschen und bewiesen der Welt den ewigen Schrecken von Atomwaffen. Die Regierungen Russlands und Chinas beeilten sich daraufhin, diese Waffen herzustellen. Die Art und Weise, wie wir mit der Möglichkeit leben, dass diese Waffen eingesetzt werden, ist die sogenannte “Mutual Assured Destruction” (MAD), eine Abschreckungstheorie, die sicherstellt, dass, wenn ein Land eine Atombombe einsetzt, es möglich ist, dass jedes andere Land dies auch tut. Wir setzen die zerstörerischste Waffe der Welt nicht ein, weil die Möglichkeit besteht, dass dadurch zumindest die Zivilisation rund um den Globus zerstört wird.
Trotz Schmidts farbenfroher Kommentare wollen oder brauchen wir kein MAD für KI. Zum einen hat sich die KI noch nicht einmal annähernd als so zerstörerisch wie Atomwaffen erwiesen. Aber die Menschen in Machtpositionen fürchten diese neue Technologie, und das meist aus den falschen Gründen. Es wurde sogar vorgeschlagen, die Kontrolle über Atomwaffen an KI zu übertragen, da diese besser über den Einsatz von Atomwaffen entscheiden könnten als Menschen.
Das Problem mit der KI ist nicht, dass sie die potenziell weltzerstörerische Kraft einer Atomwaffe hat. Das Problem ist vielmehr, dass KI nur so gut ist wie die Menschen, die sie entwickelt haben, und dass sie die Werte ihrer Schöpfer widerspiegelt. KI leidet unter dem klassischen “Garbage in, garbage out”-Problem: Rassistische Algorithmen machen rassistische Roboter, jede KI trägt die Vorurteile ihrer Schöpfer in sich, und ein Chatbot, der auf 4chan trainiert wurde, wird böse.
Das ist etwas, was Demis Hassabis – der CEO von DeepMind, der die KI trainiert hat, die Starcraft II-Spieler besiegt – besser zu verstehen scheint als Schmidt. In einem Interview im Juli im Lex Fridman-Podcast fragte Fridman Hassabis, wie eine so mächtige Technologie wie die KI kontrolliert werden könnte und wie Hassabis selbst vermeiden könnte, von dieser Macht korrumpiert zu werden.
