Führende KI-Unternehmen rechnen offenbar mit einem folgenschweren Zwischenfall innerhalb der nächsten sechs bis zwölf Monate. Wie Axios am 9. Oktober berichtet, bereiten sich die Verantwortlichen bereits hinter verschlossenen Türen auf den Tag danach vor – und auf den politischen Aufstand, der folgen könnte.
Führungskräfte von OpenAI, Anthropic und weiteren KI-Unternehmen spielen laut Axios Szenarien durch, bei denen künstliche Intelligenz eine Katastrophe auslöst oder für einen grossangelegten Angriff missbraucht wird.
Besonders gefürchtet werden Cyberangriffe, die Finanzsysteme lahmlegen, den Internetzugang unterbrechen oder sogar die Strom- und Wasserversorgung beeinträchtigen könnten.
Das Bemerkenswerte: Zahlreiche Brancheninsider halten einen schwerwiegenden Zwischenfall nicht mehr für eine entfernte Möglichkeit. Einige erwarten laut Axios, dass er bereits innerhalb der nächsten sechs bis zwölf Monate eintreten könnte. Es handelt sich allerdings um Einschätzungen anonymer Quellen, nicht um eine gesicherte Prognose.
Die Konzerne planen bereits für den politischen Aufstand
Im Mittelpunkt der Vorbereitungen steht laut dem Bericht nicht allein die technische Bewältigung einer möglichen Katastrophe. Die Unternehmen beschäftigen sich intensiv mit der Frage, wie Öffentlichkeit und Politik reagieren würden.
Denn sollte ein KI-System ausser Kontrolle geraten oder von Kriminellen für einen verheerenden Angriff eingesetzt werden, könnte die Forderung nach einem Entwicklungsstopp oder drastischen gesetzlichen Einschränkungen laut werden.
Deshalb bereiten sich die Unternehmen darauf vor, Mitglieder des US-Kongresses möglichst rasch über die Technologie und ihre Risiken zu informieren. Damit wollen sie offenbar auch Einfluss darauf nehmen, welche Gesetze nach einer möglichen Krise beschlossen werden.
OpenAI bestätigte gegenüber Axios, regelmässig unterschiedliche Krisenszenarien durchzuspielen. Das Unternehmen betonte jedoch, diese Ereignisse keineswegs als unvermeidlich zu betrachten. Anthropic lehnte eine Stellungnahme ab.
Wer kontrolliert die Unternehmen, wenn ihre Technologie zur Gefahr wird?
Der Bericht wirft eine grundlegende Frage auf: Wenn selbst führende Entwickler schwerwiegende Zwischenfälle für möglich halten, weshalb wird die Technologie gleichzeitig immer tiefer in Wirtschaft, Verwaltung und kritische Infrastrukturen integriert?
Besonders brisant ist, dass sich die Unternehmen laut Axios bereits darauf vorbereiten, die politische Reaktion auf eine mögliche Katastrophe mitzugestalten.
Die Konzerne entwickeln damit nicht nur Technologien, deren Risiken sie selbst diskutieren. Sie wollen auch mitbestimmen, welche Regeln nach einem möglichen Scheitern gelten.
Ob tatsächlich eine KI-Katastrophe bevorsteht, ist ungewiss. Dass führende Unternehmen bereits den politischen und gesellschaftlichen Ausnahmezustand danach durchspielen, ist jedoch eine bemerkenswerte Entwicklung.
