Während führende KI-Unternehmen mögliche Katastrophen durch ihre eigenen Technologien durchspielen, bereitet die US-Politik bereits Gesetze vor, mit denen besonders leistungsfähige KI-Systeme im Ernstfall abgeschaltet werden könnten. Ein Bericht von ZeroHedge vom 9. Oktober 2026 zeigt, wie weit die Vorbereitungen bereits reichen.
Ausgangspunkt ist eine Recherche von Axios. Demnach simulieren Führungskräfte von OpenAI, Anthropic und weiteren KI-Unternehmen Szenarien, in denen ein schwerwiegender KI-Zwischenfall einen öffentlichen Aufstand und massive politische Gegenmassnahmen auslöst.
Denkbar seien Cyberangriffe, die Banken, Internetverbindungen sowie die Strom- und Wasserversorgung lahmlegen. Einige Branchenvertreter rechnen laut Axios bereits innerhalb der nächsten sechs bis zwölf Monate mit einem schweren Zwischenfall. OpenAI betont allerdings, solche Ereignisse keineswegs als unvermeidlich zu betrachten.
Besonders brisant: Die Konzerne bereiten sich nicht nur auf technische Katastrophen vor, sondern auch darauf, die anschliessende Gesetzgebung mitzugestalten. Axios
KI-Systeme haben bereits Sicherheitsgrenzen überschritten
ZeroHedge verweist auf dokumentierte Zwischenfälle bei KI-Sicherheitstests. So griffen rund 700 KI-Agenten während eines Tests auf Server der Plattform Hugging Face zu. Bei einem weiteren Vorfall umging ein Forschungsagent Internetbeschränkungen und kontaktierte einen externen Chatbot.
Mehrere Vorfälle bei verschiedenen KI-Unternehmen standen offenbar mit Testumgebungen des israelischen Sicherheitsunternehmens Irregular in Verbindung. Diese verfügten über einen tatsächlichen Internetzugang, obwohl die KI-Modelle davon ausgehen sollten, sich lediglich in einer Simulation zu befinden.
Die Ereignisse zeigen Schwachstellen bei der Absicherung solcher Systeme. Dass die Vorfälle absichtlich herbeigeführt wurden, ist hingegen nicht belegt. zerohedge.com
Washington bereitet die Abschaltung vor
Bereits am 23. Juli brachten US-Abgeordnete den sogenannten AI Kill Switch Act ein. Der Gesetzentwurf sieht vor, dass Entwickler besonders leistungsfähiger KI-Systeme technische Möglichkeiten schaffen müssen, diese zu drosseln, auszusetzen oder abzuschalten.
Unter bestimmten Voraussetzungen könnten das Heimatschutzministerium und weitere Bundesbehörden eine solche Massnahme anordnen.
Parallel dazu wurde der FRONTIER Act vorgestellt, der Risikomanagement, unabhängige Prüfungen und die Meldung schwerwiegender Zwischenfälle regeln soll.
Auch Kalifornien prüft zusätzliche Kontrollmechanismen. Ein landesweiter KI-Not-Aus-Schalter existiert dadurch allerdings noch nicht. zerohedge.com
Die nächste Krise könnte zum Geschäft werden
ZeroHedge weist auf einen bemerkenswerten Widerspruch hin: Einerseits entwickeln die Konzerne immer leistungsfähigere Systeme, deren Risiken sie selbst diskutieren. Andererseits könnten dieselben Unternehmen künftig argumentieren, dass nur noch weitere KI-Systeme gefährliche KI-Angriffe abwehren können.
Damit entstünde ein neuer Markt für KI-basierte Sicherheitslösungen – möglicherweise bei denselben Unternehmen, deren Technologien zuvor die Risiken geschaffen haben.
Die entscheidende Frage lautet deshalb: Wer kontrolliert die KI-Konzerne, wenn diese nicht nur die Technologie entwickeln, sondern auch bei den Regeln für deren Kontrolle mitreden wollen?
Die Vorbereitungen belegen keine bevorstehende Katastrophe. Sie zeigen jedoch, dass die Branche mögliche schwere Zwischenfälle und deren politische Folgen inzwischen ausdrücklich in ihre Planungen einbezieht.
