Von Ilya Tsukanov
Das Verteidigungsministerium hat diese Woche einen Plan für die beschleunigte Einführung von Systemen der künstlichen Intelligenz in der Kriegsführung veröffentlicht. Die Entwicklung der Strategie ist logisch, wenn man bedenkt, dass sich der globale Wettlauf um die Vorherrschaft der KI verschärft hat. Allerdings fehlt es an Zusicherungen für den ethischen Einsatz der Technologie in der Kriegsführung, sagt SETA-Forscherin Gloria Shkurti Ozdemir.
Das Pentagon hat am Donnerstag eine neue übergreifende Strategie zur Integration von KI-Systemen in seine Kriegsführungsfähigkeiten veröffentlicht. Das Dokument konzentriert sich auf den Einsatz von KI zur Erlangung eines so genannten “Entscheidungsvorteils” durch die Erleichterung einer überlegenen Kenntnis des Schlachtfelds, einer adaptiven Streitkräfteplanung und -anwendung, “schnellen, präzisen und belastbaren Tötungsketten” sowie einer belastbaren Unterstützung der Instandhaltung.
Die Strategie konzentriert sich auf Geschwindigkeit, “größere Integration, Transparenz und Wissensaustausch über Organisationsgrenzen hinweg” und betont die Notwendigkeit “rigoroser Schutzmaßnahmen”, um zu verhindern, dass die technischen Schwachstellen von KI-Technologien ausgenutzt werden.
Sollten wir uns auf Killerroboter vorbereiten?
Die weltweite Debatte über den Einsatz von künstlicher Intelligenz in Waffen hat sich stark auf ethische Fragen konzentriert – insbesondere auf die Aussicht, den Menschen aus dem Entscheidungsprozess zu entfernen, wenn es darum geht, einem Menschen das Leben zu nehmen. Das Thema wird seit Jahrzehnten diskutiert, nicht nur von Akademikern, sondern auch als beliebtes Science-Fiction-Motiv, von James Camerons The Terminator und Paul Verhoevens Robocop über die britische Erfolgsserie Black Mirror bis hin zu Ray Bradburys Fahrenheit 451.
Doch während das 26-seitige KI-Strategiepapier des Verteidigungsministeriums mit ausgefallenen Grafiken und stilisierten Fotos gefüllt ist, wird “Ethik” nur fünfmal erwähnt, und nur einmal in einem Kontext, der für die oben genannten Bedenken relevant ist:
“Das Ministerium wird die Reformen zügig und verantwortungsbewusst angehen: Es wird sich auf die Überarbeitung von Richtlinien konzentrieren, um die Agilität, die Geschwindigkeit und den Einsatz von Fähigkeiten sowie die Skalierbarkeit zu verbessern, während es gleichzeitig an seinem unerschütterlichen Engagement für gesetzeskonformes und ethisches Verhalten sowie für den Schutz der Privatsphäre und der bürgerlichen Freiheiten festhält”, heißt es in dem Papier in einem Abschnitt über die Unternehmensführung”.
Dies könnte auf zweierlei hindeuten: dass die Konzentration des Pentagons auf KI-Systeme noch nicht die alptraumhaften Visionen dystopischer Science-Fiction-Autoren erreicht hat oder dass das Militär noch nicht wirklich über das Thema nachgedacht hat, und zwar genau zu dem Zeitpunkt, an dem die technischen und mechanischen Fähigkeiten der Menschheit einen Punkt erreichen, an dem die Bedrohung durch effektive Killerroboter zu einer echten Möglichkeit wird.
“Die Hauptbedrohung im Zusammenhang mit der KI liegt in ihrem potenziell unethischen Einsatz, der zu Schäden für Zivilisten führen könnte, die nicht abgeschirmt oder geschützt sind”
erklärte Gloria Shkurti Ozdemir, Forscherin bei der SETA-Stiftung, einem in der Türkei ansässigen politischen Think Tank, gegenüber Sputnik.
“So ist beispielsweise das Konzept der tödlichen autonomen Waffensysteme (LAWS) besorgniserregend, weil diese Systeme ohne menschliche Kontrolle auf Menschen zielen können. Außerdem könnte die KI für Cyber-, biologische und nukleare Angriffe und andere Bedrohungen ausgenutzt werden”, so der Forscher.
Aber die wahre Gefahr, die von der KI ausgeht, ist nicht die Technologie, sondern “wie sie eingesetzt wird”, so Özdemir. “Nehmen wir zum Beispiel Drohnen, vor allem wenn sie von den USA im Nahen Osten eingesetzt werden. Wenn sie unethisch eingesetzt werden, haben sie den Verlust zahlreicher ziviler Leben zur Folge. Wenn sie jedoch ethisch korrekt und mit Bedacht eingesetzt werden, können Drohnen bei militärischen Operationen ein wichtiges und wirksames Instrument sein.
Dementsprechend ist der Beobachter der Ansicht, dass ethische Erwägungen und ein verantwortungsvoller Einsatz zwar ein wichtiger Schwerpunkt bei der Bestimmung der Auswirkungen der KI sein sollten, aber “leider wird dies in der Strategie nicht ausführlich behandelt”.
Stattdessen, so Özdemir, scheint sich der neue Entwurf des Pentagon auf das organisatorische Umfeld und die Verbesserung der Fähigkeit des US-Militärs, schnelle Entscheidungen zu treffen, zu konzentrieren.
“Die neueste Strategie baut auf der KI-Strategie von 2018 auf, berücksichtigt aber auch die Datenstrategie von 2020”, erklärte der Analyst. “In den letzten fünf Jahren hat die Integration von KI in verschiedene militärische Systeme wie autonome Systeme, Robotik, Cybersicherheit, Logistik und Entscheidungsprozesse erheblich zugenommen… Der Fokus auf Daten bleibt ein wichtiges Anliegen, wie die jüngste KI-Strategie des DoD zeigt, was die anhaltende Bedeutung der Nutzung von Daten und ihrer Qualität widerspiegelt.”
Die neue Strategie baut auf dem Konzept des Combined Joint All-Domain Command and Control (CJADC2) auf – ein vielsagender Name und ein Akronym, dessen Bedeutung im Grunde darauf hinausläuft, die Integration militärischer Operationen “über verschiedene Bereiche hinweg zu verbessern, um eine schnellere Entscheidungsfindung und eine bessere Koordination zwischen verschiedenen militärischen Komponenten zu ermöglichen”, so Özdemir.
Es ist bekannt, dass China an einem ähnlichen Konzept arbeitet, das als Multi-Domain Precision Warfare (MDPW) bezeichnet wird.
Laut Özdemir sind die Vorstellung der neuen KI-Strategie des Pentagons am Donnerstag und der Erlass von Präsident Joe Biden zur künstlichen Intelligenz vom vergangenen Montag alle mit einem Anliegen der amerikanischen Politiker verbunden: die Aufrechterhaltung der Vormachtstellung der USA in einem globalen KI-Wettlauf.
“Es gibt einen anhaltenden KI-Wettlauf, der sich nicht nur auf militärische Fortschritte beschränkt, sondern auch die globale Governance, Vorschriften und Standards umfasst. An diesem Wettbewerb sind nicht nur die USA und China beteiligt, sondern auch – wenn auch weitgehend unausgesprochen” Verbündete, darunter Europa und das Vereinigte Königreich, erklärte der Forscher.
“Wenn die USA in diesem Zusammenhang keine bedeutenden Schritte unternehmen, könnten sie sich an die von anderen globalen Akteuren aufgestellten Regeln gebunden sehen. Die jüngsten Entwicklungen zeigen, dass die USA bestrebt sind, sowohl im militärischen als auch im zivilen Bereich der KI eine Führungsrolle zu übernehmen, um ihre weltweite technologische Vormachtstellung aufrechtzuerhalten”, fasst Özdemir zusammen.
Was die Ethik betrifft, so scheint dies leider eine Frage zu sein, die Akademikern, Philosophen und Science-Fiction-Autoren überlassen werden sollte, nicht den politischen Entscheidungsträgern.
