Die KI, von der sie nicht wollen, dass du sie hast

Von Dr. Robert W. Malone

Biologische Intelligenz, staatliche Macht und der neue Biosicherheitsstaat

Anthropic ist ein in den USA ansässiges Unternehmen für künstliche Intelligenz, das 2021 von ehemaligen Führungskräften und Forschern von OpenAI, darunter Dario Amodei, gegründet wurde. Es entwickelt die „Claude“-Familie von KI-Modellen und konzentriert sich stark auf KI-Sicherheit, Alignment sowie Anwendungen im Bereich der nationalen Sicherheit.

Die jüngsten Einschränkungen von Anthropic hinsichtlich des öffentlichen Zugangs zu seinen fortschrittlichsten KI-Systemen für die biologische Forschung offenbaren etwas weitaus Bedeutenderes als eine Debatte über künstliche Intelligenz.

• Sie offenbaren die Entstehung einer neuen Doktrin.
• Leistungsstarke Funktionen für die Öffentlichkeit werden eingeschränkt.
• Leistungsstarke Funktionen für Regierungen und zugelassene Institutionen bleiben bestehen.
• Die Begründung lautet Biosicherheit.

Laut Anthropic verfügen seine fortschrittlichsten Modelle über Fähigkeiten für anspruchsvolle biologische Forschung. Das Unternehmen hat Bedenken geäußert, dass diese Systeme bei fortgeschrittenem Versuchsdesign, biologischer Argumentation und anderen Aktivitäten helfen könnten, die missbraucht werden könnten.

Leistungsstarke Technologien bergen Risiken

Das vorgebrachte Argument ist einfach. Diese Fähigkeiten seien angeblich viel zu gefährlich für unabhängige Wissenschaftler, kleine Labore, Unternehmer, Bürgerforscher und die breite Öffentlichkeit. Doch in den Händen von Regierungen und den Institutionen, denen die Regierungen ihr Vertrauen schenken, seien sie irgendwie sicher.

Welche Beweise stützen diese Schlussfolgerung?

Bevor wir die Kontrolle über diese Technologien an Regierungen und deren bevorzugte Partner übergeben, sollten wir vielleicht die Erfolgsbilanz der Institutionen prüfen, die dieses Vertrauen einfordern.

Derselbe staatliche Apparat, der sich nun als Hüter der biologischen KI positioniert, hat jahrelang umstrittene „Gain-of-Function“-Forschungsprogramme finanziert, beaufsichtigt, verteidigt und in vielen Fällen verschleiert.

Jahrelang verfolgte Senator Rand Paul Fragen zu den Finanzströmen der NIH, zur EcoHealth Alliance, zum Wuhan Institute of Virology und zu dem bürokratischen Hütchenspiel, das es Behörden oft ermöglicht, sich von der Verantwortung zu distanzieren, während sie die Kontrolle über Finanzierung und Politik behalten. Es lässt sich mittlerweile kaum leugnen, dass Bundesmittel durch ein komplexes Netzwerk aus Zuschüssen, Unterverträgen, ausländischen Labors und Forschungspartnern flossen, die sich mit zunehmend riskanter virologischer Forschung befassten. Es sind starke Hinweise darauf aufgetaucht, dass von den USA unterstützte Forschung zu Arbeiten beigetragen hat, die für die Entwicklung von SARS-CoV-2 relevant waren, und ein Teil dieser Arbeiten fand in Laboren hier in den Vereinigten Staaten statt.

Ein aufschlussreicher Aspekt dieser Geschichte ist nicht die Forschung selbst, sondern der Aufwand, der erforderlich war, um grundlegende Fakten darüber aufzudecken.

Um Antworten zu erhalten, waren jahrelange Untersuchungen des Kongresses, Vorladungen, Anhörungen, Dokumentenanforderungen, Whistleblower, Rechtsstreitigkeiten und unerbittlicher öffentlicher Druck erforderlich. E-Mails wurden zurückgehalten. Unterlagen wurden nur zögerlich herausgegeben. Definitionen wurden geändert. Die Behörden schienen wiederholt mehr daran interessiert zu sein, Programme und ihren Ruf zu schützen, als für Transparenz zu sorgen.

Das ist kein Beweis für ein System, das sich durch Offenheit und Rechenschaftspflicht auszeichnet.

Es ist ein Beweis für ein System, das sich der Kontrolle widersetzt.

Was uns zum Kongress bringt

Was hat der Kongress tatsächlich mit den Informationen getan, die er aufgedeckt hat?

Es gab Anhörungen. Es gab Berichte. Es gab scharf formulierte Briefe, Vorladungen, Weiterleitungen und öffentliche Konfrontationen. Doch die grundlegende Struktur bleibt weitgehend intakt. Dieselben Behörden finanzieren weiterhin Forschung (mit der bemerkenswerten Ausnahme von USAID, deren Forschungsaktivitäten mit „doppelter Funktion“ teilweise auf andere Behörden verlagert wurden). Dieselbe Biodefense-Bürokratie arbeitet weiter. Die gleichen Fördermechanismen funktionieren weiterhin. Die gleichen Versäumnisse bei der Aufsicht, die ursprünglich Anlass zur Sorge gaben, bleiben praktisch unverändert. Wer das System in Frage stellt, wird nicht nur mundtot gemacht, sondern von der Regierung ausgegrenzt. Ihre Dienste werden nicht mehr benötigt. Ihre Meinungen sollten nicht berücksichtigt werden.

Der Kongress hat seine Fähigkeit zur Untersuchung unter Beweis gestellt. Er hat seine Fähigkeit zum Regieren nicht unter Beweis gestellt.

Dieses Versagen ist von Bedeutung, da die Debatte über biologische KI die Existenz einer kompetenten und rechenschaftspflichtigen Aufsicht voraussetzt. Doch die jüngste Geschichte der Gain-of-Function-Forschung legt genau das Gegenteil nahe. Wenn der Kongress schon Schwierigkeiten hatte, eine sinnvolle Aufsicht über traditionelle biologische Forschungsprogramme auszuüben, warum sollte dann jemand davon ausgehen, dass er bei der Überwachung von KI-Systemen, die die biologische Forschung dramatisch beschleunigen können, erfolgreicher sein wird?

Die Frage drängt sich auf

Warum wird Anthropic – oder irgendeinem anderen Pionierunternehmen im KI-Bereich – gestattet, Technologien voranzutreiben, die laut den eigenen Führungskräften beispiellose biologische Risiken bergen?

Und wenn diese Fähigkeiten wirklich so gefährlich sind, wie behauptet wird, wer genau übt dann die Aufsicht aus?

Derzeit scheint die Antwort ein kleiner Kreis aus Unternehmen, Bundesbehörden, Auftragnehmern und ausgewählten Partnern zu sein, die Entscheidungen im Namen aller anderen treffen.

Das ist keine Strategie für die Biosicherheit.

Es ist eine Machtkonzentration.

Dann ist da noch die Frage der operativen Kompetenz

Erst in diesem Jahr erhoben Bundesstaatsanwälte Anklage gegen den NIH-Forscher Claude Kwe und den NIH-Wissenschaftler Vincent Munster im Zusammenhang mit dem mutmaßlichen Schmuggel von biologischem Material, darunter Mpox-Proben, in die Vereinigten Staaten.

Dieselben Institutionen, die uns versichern, dass fortschrittliche biologische KI-Fähigkeiten streng kontrolliert werden müssen, sind nicht in der Lage, den illegalen und unrechtmäßigen weltweiten Transport von biologischem Material durch staatliche Forscher zuverlässig zu kontrollieren, und können auch den Transport und die Überwachung gefährlicher Krankheitserreger innerhalb ihrer eigenen Forschungsökosysteme nicht kontrollieren.

Die Öffentlichkeit soll glauben, dass zukünftige KI-Systeme, die in der Lage sind, die Biotechnologieforschung und die Entwicklung von Biowaffen zu beschleunigen, irgendwie kompetenter gehandhabt werden als die Krankheitserreger und das biologische Material, die bereits unter staatlicher Aufsicht stehen.

Warum sollte irgendjemand das glauben?

Das tiefer liegende Problem ist, dass das Argument der Biosicherheit davon ausgeht, die Regierung sei ein einheitlicher Akteur.

Das ist sie nicht.

Die Regierung ist ein weitverzweigtes Geflecht aus Behörden, Auftragnehmern, Universitäten, Militärlabors, Geheimdiensten, Fördermittelempfängern, Subunternehmern und internationalen Partnern. Viele Experten, die an hochrangigen Operationen der US-Regierung beteiligt sind, beschreiben die Struktur eher als eine Ansammlung separater Regierungen – jede Behörde auf Kabinettsebene ist halbautonom.

Die Befürworter einer zentralisierten Kontrolle sprechen oft so, als würde die Übertragung der Verantwortung an „die Regierung“ das Problem lösen.

In Wirklichkeit verlagert sich dadurch lediglich der Ort des Problems.

• Die gleichen Anreize bleiben bestehen.
• Die gleichen menschlichen Schwächen bleiben bestehen.
• Die gleichen bürokratischen Versäumnisse bleiben bestehen.
• Die gleichen Interessenkonflikte bleiben bestehen.
• Die gleiche Geheimhaltung bleibt bestehen.

Und nun gibt es eine weitere Entwicklung.

Laut Aussagen, die kürzlich dem Amt des Direktors der Nationalen Nachrichtendienste zugeschrieben wurden, hat die US-Regierung die im Ausland durchgeführte biologische Forschung über ein Netzwerk internationaler Partnerschaften und Labore eingeräumt. Es scheint, als habe eine aktive, anhaltende „Auslagerung“ von biologischer Forschung mit doppeltem Verwendungszweck stattgefunden. „Doppelter Verwendungszweck“ ist ein höflicher und politisch korrekter Euphemismus für biologische Forschung, die entweder für die biologische Verteidigung oder für die biologische Kriegsführung genutzt werden kann.

Ob diese Programme nun als biologische Verteidigung, Vorsorge im Bereich der öffentlichen Gesundheit, Bedrohungsminderung, Überwachung von Krankheitserregern oder als etwas anderes bezeichnet werden, ist fast nebensächlich.

Die zentrale Tatsache ist, dass biologische Forschung bereits über ein komplexes internationales Ökosystem betrieben wird, das nur wenige Bürger verstehen und das noch weniger politische Entscheidungsträger vollständig überblicken können. Aus welchem Grund auch immer befinden sich diese Biolabore oft in Krisengebieten, wie beispielsweise an der ukrainisch-russischen Grenze, was den Eindruck erweckt, dass sie für Hintergedanken genutzt werden. Dass die Bezeichnung „Doppelfunktion“ offenbar als Deckmantel für eigentlich verbotene Forschungs- und Entwicklungsaktivitäten im Bereich der biologischen Kriegsführung dient. Es lässt sich argumentieren, dass der wahre Grund, warum die US-Regierung so zögert, das UN-Biowaffenübereinkommen („Übereinkommen über das Verbot der Entwicklung, Herstellung und Lagerung bakteriologischer (biologischer) Waffen und Toxinwaffen sowie über deren Vernichtung“) so zu ändern, dass es mit durchsetzbaren Sanktionen versehen wird, darin liegt, dass es dazu genutzt werden könnte, die US-Regierung für Aktivitäten in diesem Bereich zur Rechenschaft zu ziehen.

Dennoch wird uns nun gesagt, dass eben diesen Institutionen der exklusive Zugang zu KI-Systemen anvertraut werden sollte, die in der Lage sind, die biologische Forschung und Entwicklung – einschließlich „Dual-Use“-Aktivitäten – dramatisch zu beschleunigen.

Gleichzeitig schalten die Regierung und transnationale Konzerne durch die Einschränkung des öffentlichen Wissens und des Zugangs zu fortschrittlichen KI-Systemen die öffentliche Kontrolle effektiv aus.

Diese Behauptung verdient Skepsis

Fortschrittliche KI wird dazu beitragen, gefährliche biologisch-technische Systeme zu entwickeln. Das ist eine Tatsache.

Hier ist eine weitere unangenehme Realität. Fortschrittliche biologische KI birgt echte Risiken für die Biosicherheit, sodass eine Beschränkung des Zugangs innerhalb der Vereinigten Staaten feindliche Nationen nicht daran hindert, ähnliche Fähigkeiten zu entwickeln oder zu erwerben. Tatsächlich können wir so sicher sein, wie die Sonne im Osten aufgeht, dass sie dies tun werden und bereits tun.

Das Aufkommen von DeepSeek hätte jede Illusion zerstören müssen, dass fortschrittliche KI-Fähigkeiten dauerhaft auf eine Handvoll amerikanischer Unternehmen beschränkt bleiben können. Innerhalb weniger Monate hat ein chinesisches Unternehmen gezeigt, dass viele der Fähigkeiten, von denen man zuvor annahm, sie erforderten enorme Ressourcen und privilegierten Zugang, zu weit geringeren Kosten repliziert werden können, als Experten vorhergesagt hatten. Ob man DeepSeek nun als Innovationserfolg, als Problem der nationalen Sicherheit oder als Marktstörung betrachtet – die Lehre ist dieselbe: Wissen verbreitet sich. Informationen und Technologie kennen keine Grenzen.

Es ist unwahrscheinlich, dass China, Russland, der Iran, Nordkorea und andere gegnerische Staaten freiwillig die Forschung an Technologien einschränken, die strategische Vorteile in den Bereichen Biotechnologie, biologische Verteidigung, pharmazeutische Entwicklung, Charakterisierung von Krankheitserregern oder potenziellen Programmen für biologische Waffen bieten könnten. Wenn bahnbrechende KI-Systeme die biologische Forschung sinnvoll beschleunigen können, werden sich diese Fähigkeiten unweigerlich verbreiten.

Das Ergebnis könnte eine Welt sein, in der US-Bürger, unabhängige Wissenschaftler und kleinere Forschungseinrichtungen zunehmenden Einschränkungen ausgesetzt sind, während ausländische Regierungen ihre eigenen Programme mit wenigen vergleichbaren Auflagen weiter vorantreiben.

In diesem Szenario beseitigt die Politik das Risiko nicht. Sie konzentriert lediglich die Fähigkeiten auf Staaten und große Institutionen, in der Hoffnung, dass Amerikas geopolitische Konkurrenten sich dafür entscheiden, nicht denselben technologischen Weg einzuschlagen. DeepSeek legt nahe, dass diese Hoffnung kaum belohnt werden dürfte.

Derzeit gibt es keinen internationalen Rahmen, der in der Lage wäre, KI-gestützte biologische Forschung zu kontrollieren. Es gibt keinen durchsetzbaren Vertrag, kein Inspektionssystem, das diesen Namen verdient, und keinen Grund zu der Annahme, dass sich geopolitische Rivalen freiwillig zurückhalten werden. Die Biowaffenkonvention ist ein Relikt aus einer anderen Zeit. Sie enthält keine sinnvollen Überprüfungsbestimmungen, keine wirksamen Durchsetzungsbefugnisse und bietet keine Möglichkeit, Nationen daran zu hindern, Fähigkeiten zu entwickeln, die sie als strategisch wichtig erachten. Sie vermittelt den Anschein von Kontrolle, ohne dass viel Substanz dahintersteckt.

Es scheint auch keine Möglichkeit zu geben, den Geist wieder in die Flasche zu stecken.

Die Frage ist, wer diese Fähigkeiten erhält

Anthropic und andere scheinen auf ein Modell hinzuarbeiten, bei dem Regierungen, große Unternehmen, Geheimdienste, militärische Organisationen und zugelassene Partner weiterhin Zugang haben, während die Öffentlichkeit zunehmend eingeschränkte Versionen erhält.

Die öffentliche Begründung lautet Sicherheit.

Die praktische Auswirkung ist die Konzentration von Macht.

Doch bevor wir diese Fähigkeiten an die Institutionen abtreten, die uns jahrelange Kontroversen um Funktionsgewinn, undurchsichtige Biowaffenabwehrprogramme, internationale Forschungsnetzwerke, Versäumnisse bei der Aufsicht über Auftragnehmer und wiederholte Kämpfe um Transparenz beschert haben, sollten die Bürger eine einfache Frage stellen.

Was genau hat diese herrschende Klasse getan, um dieses Vertrauen zu verdienen?

Viel Gerede, Potemkinsche Aufsicht und keine Gesetzgebung.

Die jüngste Geschichte legt die einfache, transparente und klare Antwort nahe: so gut wie nichts. Es scheint, als seien „die Handlungsanreize nicht aufeinander abgestimmt“.