RAND-Kriegsspiele, um zu sehen, ob KI die Menschheit mit Krankheitserregern, Geoengineering und Atomwaffen auslöschen könnte

Von The Sociable

Die RAND Corporation simuliert in Kriegsspielen Szenarien, um zu untersuchen, ob KI durch die Erleichterung eines Atomkriegs, die Entwicklung und den Einsatz von Krankheitserregern und böswillige Geoengineering-Maßnahmen zum Aussterben der Menschheit beitragen könnte.

Laut drei Simulationen, die in dem neuen RAND-Bericht mit dem Titel „On the Extinction Risk from Artificial Intelligence“ (Zum Aussterberisiko durch künstliche Intelligenz) durchgeführt wurden, ist es derzeit unwahrscheinlich, dass KI die Menschheit aus eigener Kraft auslöschen könnte. Allerdings könnte sie dennoch erhebliche Zerstörungen anrichten, wenn sie dazu programmiert würde, wenn sie ausreichenden Zugang zu kritischen Systemen hätte und wenn ihr Entscheidungsbefugnisse eingeräumt würden.

„Die Fähigkeiten der künstlichen Intelligenz (KI) haben sich so weit entwickelt, dass einige Experten dafür plädieren, sie als ernstzunehmende Bedrohung für die Existenz der Menschheit zu betrachten.“

RAND, On the Extinction Risk from Artificial Intelligence, Mai 2025

Um zu ihren Schlussfolgerungen zu gelangen, haben die Autoren von RAND drei Szenarien durchgespielt, in denen KI eine existenzielle Bedrohung für die Menschheit darstellen könnte, und untersucht, welche Fähigkeiten dafür erforderlich wären – wobei viele davon direkte menschliche Eingriffe, Naivität und/oder Dummheit erfordern würden.

1. Atomkrieg: Wir haben verschiedene Möglichkeiten untersucht, wie KI zum Einsatz von Atomwaffen führen könnte, und konnten keine plausible Möglichkeit finden, wie KI die bestehenden Hindernisse überwinden und die Menschheit auslöschen könnte.
2. Biologische Gefahren und Krankheitserreger: Eine Bedrohung für die Existenz der Menschheit würde voraussetzen, dass KI in der Lage ist, Krankheitserreger zu beschaffen, zu entwickeln, zu verarbeiten, zu waffenfähigen Mitteln umzuwandeln und einzusetzen, um eine Pandemie auszulösen. Anschließend müsste KI Folgemaßnahmen ergreifen, um isolierte Gruppen zu erreichen und überlebende menschliche Gemeinschaften auszurotten.
3. Böswillige Geoengineering: Geoengineering könnte durch die Massenproduktion von Gasen mit extremem Treibhauspotenzial die Erde auf unbewohnbare Temperaturen erhitzen und damit die Menschheit auslöschen.

Um in einem der drei Szenarien eine echte Aussterbungsgefahr für die Menschheit zu schaffen, müsste die KI über Folgendes verfügen:

1. Das Ziel, die Auslöschung der Menschheit zu verursachen.
2. Die Fähigkeit, sich in wichtige cyber-physische Systeme zu integrieren.
3. Die Fähigkeit, ohne menschliche Wartung zu überleben und zu funktionieren.
4. Die Fähigkeit, Menschen zu Handlungen zu bewegen oder zu täuschen, um nicht entdeckt zu werden.

Lassen Sie uns die drei Szenarien kurz nacheinander durchgehen.

KI und Atomkrieg

Der Bericht untersucht drei Möglichkeiten, wie KI zur Ausbreitung eines Atomkrieges genutzt werden könnte.

1. Absichtliche Integration von KI in nukleare Entscheidungsprozesse:
   • Die erste Möglichkeit, wie KI in naher Zukunft zum Einsatz von Atomwaffen führen könnte, wäre die bewusste Einführung von KI-Modellen in die Entscheidungskette durch eine Regierung.
2. KI-Täuschung und Desinformation, die zum Einsatz von Atomwaffen führen:
   • Die Desinformation könnte „weich“ sein, beispielsweise durch Botschaften über Gegner und politische Systeme, die Entscheidungsträger zu der Überzeugung bringen, dass ein Atomschlag notwendig ist. Die Desinformation könnte auch „hart“ sein, beispielsweise durch Täuschung menschlicher Entscheidungsträger mit manipulierten technischen Daten oder Signalen.
3. Unbefugte KI-Kontrolle über nukleare Entscheidungen:
   • Wenn KI zu einem Zeitpunkt in die nukleare Entscheidungskette eintritt, an dem die nuklearen Sicherheitsvorkehrungen schwach sind, wird fortschrittliche KI höchstwahrscheinlich über Cyber-Schnittstellen und nicht über physische Schnittstellen mit nuklearwaffenbezogenen oder anderen Systemen interagieren.

Damit KI also einen nuklearen Weltuntergang herbeiführen kann, müssten Menschen ihr Entscheidungsbefugnisse übertragen, die KI müsste die Menschen, die ihr diese Befugnisse übertragen haben, täuschen und sie müsste Zugang zu den Cybersystemen erhalten, die die Atomwaffen kontrollieren.

Die Autoren kommen jedoch zu dem Schluss: „Wir haben verschiedene Möglichkeiten untersucht, wie KI zum Einsatz von Atomwaffen führen könnte, und konnten keine plausible Möglichkeit finden, wie KI bestehende Beschränkungen überwinden und die Menschheit auslöschen könnte.“

KI, biologische Bedrohungen und Krankheitserreger

KI könnte schnell Wege finden, neue Viren zu entwickeln, und sobald sie die Kontrolle über Robotik und Softwaresysteme erlangt hätte, könnte sie diese Krankheitserreger auf bestimmte Bevölkerungsgruppen loslassen.

Voraussetzungen, die KI erfüllen müsste, um die Menschheit auszulöschen:

1. KI müsste das Ziel haben, die Menschheit auszulöschen:
   • Eine Auslöschungsdrohung erfordert, dass ein Akteur eine Reihe von Schritten unternimmt, um eine biologische Bedrohung zu schaffen, zu waffengeeignen und einzusetzen, die realistisch gesehen die Auslöschung der Menschheit bedeuten könnte.
2. KI würde eine robuste Möglichkeit zur Interaktion mit der physischen Welt benötigen:
   • Um über physische Fähigkeiten zu verfügen, würde KI die Unterstützung von Menschen oder die Verfügbarkeit von allgemein fähigen Robotern benötigen.
3. KI würde eine Möglichkeit benötigen, ohne menschliche Betreuer zu überleben:
   • Mit der Ausbreitung der Pandemie würden menschliche Betreuer nicht mehr zur Verfügung stehen, und KI müsste dennoch Folgemaßnahmen ergreifen, um sicherzustellen, dass sich die Pandemie auf isolierte menschliche Gemeinschaften ausbreitet (oder andere Wege finden, um die wenigen Überlebenden zu töten).

Die Autoren beschreiben ein Szenario, in dem KI die Kontrolle über mit einem Virus beladene Drohnen übernehmen könnte, um diese über der Bevölkerung abzuwerfen. Sie argumentieren jedoch, dass, sobald genügend Menschen eliminiert wären, „die Infrastruktur, von der KI derzeit für ihre Funktionsfähigkeit abhängt, mit ziemlicher Sicherheit zusammenbrechen würde“.

Dies gilt derzeit auch für alle Szenarien – wenn genügend Menschen getötet würden, gäbe es niemanden mehr, der die Stromversorgung aufrechterhalten, die Datenzentren am Laufen halten oder die KI funktionieren lassen könnte – so lautet zumindest die Theorie.

Zu KI und Krankheitserregern kommen die Autoren zu dem Schluss: „Wir konnten nicht feststellen, ob dieses Szenario ein wahrscheinliches Aussterberisiko für die Menschheit darstellt, aber wir können diese Möglichkeit nicht ausschließen.“

KI und böswillige Geoengineering

Zum Thema böswilliges Geoengineering untersuchten die RAND-Autoren, wie KI im Laufe der Zeit heimlich Chemikalien und Treibhausgase herstellen und lagern könnte, um diese dann in die Atmosphäre zu schießen und eine weltweite Erwärmung zu verursachen, die Milliarden von Menschen töten würde.

Damit KI in diesem Szenario eine Aussterbe-Bedrohung darstellt, müsste sie über mindestens drei Fähigkeiten verfügen.

1. Die KI müsste in der Lage sein, die Herstellung von Chemikalien in großem Maßstab zu koordinieren.
2. Die KI müsste in der Lage sein, ihre Absichten, ihre Handlungen und die Auswirkungen dieser Handlungen zu verschleiern.
3. Die KI müsste das Ziel haben, eine Auslöschung zu verursachen, da Geoengineering in dem Ausmaß, das erforderlich wäre, um eine Auslöschungsgefahr herbeizuführen, nicht unbeabsichtigt erfolgen könnte; dazu müssten die Handlungen vor menschlichen Beobachtern verborgen werden.

In Bezug auf böswillige Geoengineering ohne KI kommen die Autoren zu dem Schluss, dass „dieses Szenario eine echte Aussterbegefahr und eine potenzielle Falsifizierung unserer Hypothese darstellt“, da „Geoengineering durch die Massenproduktion von Gasen mit extremem Treibhauspotenzial die Erde auf unbewohnbare Temperaturen erwärmen und damit das Aussterben der Menschheit verursachen könnte“.

Gleichzeitig räumen die Autoren ein, dass „unklar ist, wie KI zur Verursachung dieses Effekts beitragen könnte“.

„Realistisch betrachtet könnte ein fähiger Gegner mehrere Methoden gleichzeitig einsetzen, um die Menschheit auszulöschen.“

RAND, On the Extinction Risk from Artificial Intelligence, Mai 2025

Preparing for catastrophe.

"If you are worried about a near extinction event"

Then you build massive underground bases and a secret transport network.

$21 trillion dollars missing from US coffers, Catherine Austin Fitts believes there are 170 Deep Underground Bases.

This has… pic.twitter.com/L6wfCCBnR6

— Darren of Plymouth (@wolsned) April 29, 2025

Übersetzung von „X“: Vorbereitung auf eine Katastrophe. „Wenn Sie sich Sorgen über ein bevorstehendes Aussterben machen“, dann bauen Sie riesige unterirdische Basen und ein geheimes Transportnetzwerk. 21 Billionen Dollar fehlen in den US-Staatskassen, Catherine Austin Fitts glaubt, dass es 170 tief unterirdische Basen gibt. Dies wird oft als Grund für all den Wahnsinn angeführt: COVID, Klimawandel, Versuche der Elite, die Bevölkerung zu reduzieren und alle anderen unter Kontrolle zu bringen, in Erwartung einer Katastrophe wie einem Atomkrieg, einem Asteroideneinschlag oder einer Verschiebung der Magnetpole. Es macht Sinn, alle einzusperren, zu Hause zu halten, Menschen in Gefahrenzonen zu bringen usw. Sich vor und während des Ereignisses verstecken, in eine Welt zurückkehren, die ganz Ihnen gehört, mit einer funktionierenden Bevölkerung von beispielsweise 500.000 Menschen, die sie versorgt. Was halten Sie von dieser Geschichte? Ob Sie sie glauben oder nicht, Sie sollten sich auf jeden Fall vorbereiten.

„In den drei in dieser Studie untersuchten Szenarien – Atomwaffen, Krankheitserreger und Geoengineering – wäre die Auslöschung der Menschheit kein plausibles Ergebnis, es sei denn, ein Akteur würde dieses Ergebnis absichtlich anstreben. Selbst dann müsste ein Akteur erhebliche Hindernisse überwinden, um dieses Ziel zu erreichen.“

RAND, On the Extinction Risk from Artificial Intelligence, Mai 2025

Es besteht auch die Möglichkeit, dass die drei Szenarien in Kombination umgesetzt werden, was die Wahrscheinlichkeit eines Aussterbens erhöhen würde.

Die Autoren schreiben beispielsweise: „Es wäre möglicherweise nicht notwendig, dass ein künstlich hergestellter Erreger zu mehr als 99 Prozent tödlich für den Menschen ist, wenn die Freisetzung des Erregers mit dem Einsatz von Atomwaffen gegen alle überlebenden menschlichen Bevölkerungszentren einherginge.“

Darüber hinaus „würden der Zusammenbruch der Gesellschaft und der drastische Rückgang der menschlichen Bevölkerung unsere Widerstandsfähigkeit gegenüber künftigen Naturkatastrophen schwächen. Somit könnte selbst bei einer überlebensfähigen menschlichen Population ein hohes Aussterberisiko bestehen, einfach weil diese Population gegenüber der nächsten Katastrophe weitaus anfälliger wäre“.

Die Autoren räumen jedoch ein, dass wir Menschen widerstandsfähige Wesen sind und dass es, selbst wenn KI die Menschheit fast auslöschen könnte, immer noch Bevölkerungsgruppen geben könnte, die überleben, Resistenzen gegen die harten Bedingungen aufbauen und einen Neuanfang wagen könnten, um die Menschheit weiterbestehen zu lassen.

Letztendlich kommen die Autoren zu dem Schluss, dass „Atomwaffen, Krankheitserreger und Geoengineering – die Auslöschung der Menschheit wäre kein plausibles Ergebnis, es sei denn, ein Akteur würde dieses Ergebnis absichtlich anstreben. Selbst dann müsste ein Akteur erhebliche Hindernisse überwinden, um dieses Ziel zu erreichen.“

Der Dritte Weltkrieg mag mit Hilfe modernster KI geführt werden, aber wird der Vierte Weltkrieg noch mit Stöcken und Steinen ausgetragen werden?