Der dritte und letzte Teil einer Serie über Kate Crawfords „Atlas of AI“
Seymour Hersh
Kate Crawford ist eine Pionierin in der Warnung vor den Gefahren der künstlichen Intelligenz, während die Welt mit zunehmender Ungleichheit ringt. In einem jüngsten Essay, „Eating the Future: The Metabolic Logic of AI Slop“, schreibt Crawford über KI-generierte Bilder, darunter ein von einer iranischen Nachrichtenagentur veröffentlichtes „Foto“ eines angeblich abgeschossenen amerikanischen F-35-Jets – das Ergebnis eines Angriffs, der gar nicht stattgefunden hatte. Crawford wies auf Beweise für KI hin:
„Das Gras unter der F-35 ist unheimlich grün und unberührt. Irgendetwas stimmt nicht. All diese Bilder sind KI-generiert, auf den ersten Blick realistisch, und sie werden massenhaft in den sozialen Medien und darüber hinaus geteilt. Dies ist das Gebiet der Slopaganda.“ So nennt Crawford eine neue Waffe in einem Krieg der Worte zwischen denen, die die Komplexität von KI verstehen, und denen, die es nicht tun.
„Politische Führer spielen eine zentrale Rolle bei der Verbreitung von Slop“, schreibt sie. „Der Oberste Führer Ayatollah Ali Khamenei veröffentlichte auf seinem offiziellen X-Konto ein KI-Bild von Raketenstarts unter koranischen Versen, das über sechs Millionen Mal angesehen wurde.“ Westliche Führer täten dasselbe, merkt sie an: „Präsident Trump teilt häufig generierte Darstellungen seiner selbst als Rockstar, König und goldene Statue im Zentrum seines Gaza-Resorts.“ „In gewisser Weise“, fügt Crawford hinzu, „sind diese Bilder ‚klassisches Slop‘: hyper-fotorealistisch, Game-Engine-Beleuchtung, geometrisch unmögliche Perspektiven. Es ist ein rekonstituierter KI-Brei aus Stockfotos, Werbespots, Reddit und Pinterest. Einfach Wasser hinzufügen.“
Sie fährt fort: „KI-Slop ist voller revisionistischer Realitäten, zieht massenhaft Aufmerksamkeit auf sich, bevor die echten Bomben fallen. Doch in einem anderen Sinne ist KI-Slop gar nicht daran interessiert, die Reihenfolge von Ereignissen darzustellen oder wie Realität auszusehen. Slop ist nicht das Territorium; es überzieht es nur mit synthetischem Schleim. Es flutet die Zone mit KI-Scheiße.“
Es gibt auch andere Ansichten über KI, die nicht in Crawfords Tonfall Alarm schlagen. Aaron Ginn ist Geschäftsführer und Mitbegründer eines Datenzentrums, das er als nächste Generation der KI beschreibt. In einem kürzlich erschienenen Essay in der Washington Post mit dem Titel „AI Extremists Are Peddling Science Fiction“ argumentiert Ginn, dass die KI-Debatte „von zwei Extremen beherrscht wird. Doomer glauben, KI werde gottgleich und zerstöre uns. Eiferer glauben, KI werde gottgleich und rette uns.“ Beide Ansichten seien durch die Vorstellung verbunden, dass KI „die menschliche Intelligenz übertreffen und sich der menschlichen Kontrolle entziehen werde“. Beide Positionen, so Ginn, „wurzelten in Science-Fiction, nicht in Wissenschaft. Und beide ignorieren, wie Innovation tatsächlich funktioniert.“
„Es gibt einen dritten Weg“, schreibt er, der mit einer grundlegenden Wahrheit beginnt: „Technologien sind erfolgreich, wenn sie Leben verbessern.“ Er nennt den Buchdruck, Antibiotika, Autos und das Internet als Verbesserungen des täglichen Lebens, die akzeptiert wurden, weil „sie Probleme lösten. KI wird demselben Muster folgen.“
Crawford will von solchen Behauptungen wenig wissen: „Die tiefen Verflechtungen zwischen dem Technologiesektor und dem Militär sind nun in eine stark nationalistische Agenda eingebettet“, schreibt sie in Atlas of AI. „Die Rhetorik über den KI-Krieg zwischen den Vereinigten Staaten und China treibt die Interessen der größten Technologieunternehmen dazu, mit größerer staatlicher Unterstützung und weniger Einschränkungen zu arbeiten. Unterdessen wird die Überwachungsrüstung von Behörden wie der NSA und der CIA nun auch im Inland auf kommunaler Ebene eingesetzt, im Zwischenraum kommerziell-militärischer Verträge von Firmen wie Palantir“, das von PayPal-Milliardär Peter Thiel mitgegründet wurde, einem Unterstützer Donald Trumps, der offen über die potenzielle militärische Nutzung von KI spricht.
Crawford zitiert Thiel über den militärischen Vorteil durch KI: „Vergessen Sie die Sci-Fi-Fantasie: Was an tatsächlich existierender KI mächtig ist, ist ihre Anwendung auf relativ banale Aufgaben wie Computer Vision und Datenanalyse. […] Diese Werkzeuge sind dennoch für jede Armee wertvoll – um einen Informationsvorteil zu gewinnen.“
Crawford sieht jedoch einen enormen Einsatz von KI in Polizei und innerstaatlicher Überwachung: „Undokumentierte Migranten werden mit logistischen Systemen der totalen Informationskontrolle und -erfassung gejagt, die einst für außerrechtliche Spionage reserviert waren. Systeme zur Entscheidungsfindung im Sozialwesen werden genutzt, um anomale Datenmuster zu verfolgen, um Menschen von Arbeitslosenunterstützung auszuschließen und sie des Betrugs zu beschuldigen. Kennzeichenerfassungstechnologie wird von privaten Haussicherheitssystemen verwendet – eine weit verbreitete Integration zuvor getrennter Überwachungsnetzwerke.
„Das Ergebnis ist eine tiefgreifende und schnelle Ausweitung der Überwachung und eine Verwischung der Grenzen zwischen privaten Auftragnehmern, Strafverfolgungsbehörden und dem Technologiesektor, befeuert durch Rückvergütungen und Geheimverträge. Es ist eine radikale Neuzeichnung des bürgerlichen Lebens, bei der die Machtzentren durch Werkzeuge gestärkt werden, die mit den Logiken von Kapital, Polizei und Militarisierung sehen.“
Und dann ist da Jeff Bezos, der Multi-Milliardär und Gründer des Amazon-Imperiums, der KI genutzt hat, um den Handel, den analytischen Einsatz von Tagelöhnern, den Buchhandel, das Geschäft mit Hochzeiten in Venedig und das Geschäft mit der Raumfahrt zu revolutionieren. Seine heutige Leidenschaft besteht darin, mit modernster KI Blue Origin voranzutreiben, sein Raumfahrtunternehmen, von dem er glaubt, dass es bald Astronauten und Fracht zum Mond schicken wird. Eine Hoffnung wäre es, Rohstoffe und andere Ressourcen zu finden und abzubauen, die auf der überbevölkerten und übernutzten Erde irgendwann nicht mehr verfügbar sein werden.
Crawford sagt, Bezos und seine Milliardärskollegen, die sich in KI-inspirierte Weltraumträume vertiefen, hätten „eine grundsätzlich beunruhigende Beziehung zur Erde“. „Ihre Vision der Zukunft“, schreibt sie, „umfasst nicht die Minimierung der Öl- und Gasförderung oder die Eindämmung des Ressourcenverbrauchs oder gar die Verringerung der ausbeuterischen Arbeitspraktiken, die sie bereichert haben. Stattdessen spiegelt die Sprache der Tech-Elite den Siedlerkolonialismus wider, der darauf abzielt, die Erdbevölkerung zu verdrängen und Territorium für die Rohstoffgewinnung zu erobern.“
Für die Superreichen, schreibt Crawford, „ist die Ideologie dieser Weltraum-Spektakel zutiefst mit der der KI-Industrie verflochten. Extremes Vermögen und Macht aus Technologieunternehmen ermöglichen es nun einer kleinen Gruppe von Männern, ihr eigenes privates Weltraumrennen zu verfolgen. Sie bauen auf dem Wissen und den Infrastrukturen der öffentlichen Raumfahrtprogramme des 20. Jahrhunderts auf und stützen sich oft auch auf staatliche Finanzierung und Steueranreize. Ihr Ziel ist nicht, Ausbeutung und Wachstum zu beenden, sondern sie auf das gesamte Sonnensystem auszudehnen.
„Der Weltraum ist zur ultimativen imperialen Ambition geworden, Symbol für eine Flucht vor den Grenzen der Erde, der Körper und der Regulierung. Es ist vielleicht keine Überraschung, dass viele der Silicon-Valley-Elite in die Vision investieren, den Planeten zu verlassen. Die Weltraumkolonisierung passt gut zu den anderen Fantasien von lebensverlängernder Diät, Bluttransfusionen von Teenagern, Gehirn-Uploads in die Cloud und Vitaminen für Unsterblichkeit. Blue Origins Hochglanz-Werbung ist Teil dieses dunklen Utopismus. Es ist ein geflüstertes Rufen, Übermensch zu werden, alle Grenzen zu überschreiten“ – biologische, soziale, ethische und ökologische. „Unter diesen Visionen von schönen neuen Welten liegt vor allem Angst: Angst vor dem Tod – individuell und kollektiv – und Angst, dass die Zeit tatsächlich abläuft.“
Was ich an KI am beunruhigendsten finde, ist der aktuelle Drang der Milliardäre dieser Welt nach Dominanz. Wie Bezos es mit Amazon getan hat, haben sie brillante Systeme geschaffen, von denen wir zunehmend abhängig sind – Systeme, die aber auch reif für Ausbeutung, Gewalt und Unterdrückung sind. Sie könnten die Zukunft der 8,2 Milliarden Bürger der Welt prägen. Die Frage ist: Wer wird die Kontrolle haben?
