Könnte „Kallisti“ der Beginn eines weiteren Trojanischen Pferd-Szenarios sein? Perspektive
Die US Defense Advanced Research Projects Agency (DARPA) hat ihr „Theory of Mind“-Programm in „Kallisti“ umbenannt – ein Begriff, der in der Mythologie mit dem „Apfel der Zwietracht“ und dem Beginn des Trojanischen Krieges in Verbindung gebracht wird.
Vergangenen Monat kündigte die DARPA ihr algorithmisches Theory of Mind-Programm an, das darauf abzielt, das Verhalten der Gegner des Pentagons vorherzusagen und zu manipulieren.
Laut der ursprünglichen Sondermitteilung zum Theory of Mind-Programm:
„DARPA ist daran interessiert, neue Fähigkeiten zu entwickeln, die es den Entscheidungsträgern im Bereich der nationalen Sicherheit ermöglichen, Strategien zur Abschreckung oder zur Schaffung von Anreizen für Handlungen von Gegnern zu optimieren […] Das Ziel eines bevorstehenden Programms wird es sein, eine algorithmische Theorie des Geistes zu entwickeln, um das Situationsbewusstsein von Gegnern zu modellieren und künftiges Verhalten vorherzusagen.“
Inzwischen hat die DARPA den Begriff „Theory of Mind“ sowie die explizite Erwähnung der Optimierung von „Strategien zur Abschreckung oder Incentivierung gegnerischer Aktionen“ aus der Programmbeschreibung entfernt. In der neu angekündigten Kallisti-Version heißt es nun:
„Das Ziel des Kallisti-Programms ist es, ein algorithmisches Modell des Situationsbewusstseins gegnerischer Plattformen zu entwickeln und künftiges Verhalten vorherzusagen.“ – DARPA, Kallisti-Programm, Januar 2025
Der Name „Kallisti“ stammt aus der griechischen Mythologie. Die Göttin Eris, Symbol für Zwietracht und Streit, war wütend darüber, nicht zu einer Hochzeit eingeladen worden zu sein. Sie schrieb „Kallisti“ („für die Schönste“) auf einen goldenen Apfel und warf ihn in die Festgesellschaft.
Drei Göttinnen beanspruchten den Apfel für sich:
- Hera: Göttin der Ehe und Familie
- Athene: Göttin der Weisheit und Kriegskunst
- Aphrodite: Göttin der Liebe und Schönheit
Zeus überließ die Entscheidung dem trojanischen Prinzen Paris. Um ihn zu beeinflussen, versprachen ihm die Göttinnen verschiedene Gaben: Hera bot Reichtum und Macht, Athene Weisheit und militärischen Erfolg, und Aphrodite versprach ihm die weltweit schönste Frau – Helena, die allerdings bereits mit König Menelaos von Sparta verheiratet war. Paris entschied sich für Aphrodite und entführte mit ihrem Segen Helena, was den Trojanischen Krieg auslöste.
Eris hatte Chaos gesät – und nun wirft auch die DARPA ihren eigenen algorithmischen Zankapfel in das geopolitische Spiel.
Welche Art von Zwietracht könnte durch die Vorhersage und Manipulation menschlichen Verhaltens entstehen, um Ergebnisse zu erzielen, die für die nationale Sicherheit der USA von Vorteil sind?
„Kallisti will Entscheidungsträgern mehr Optionen für Anreizsysteme bieten und gleichzeitig unerwünschte Eskalationen verhindern.“ – DARPA, Kallisti-Programm, Januar 2025
Die Programmbeschreibung von Kallisti erläutert weiter:
„Das Programm wird nicht nur versuchen, die aktuelle Strategie eines Akteurs zu verstehen, sondern auch eine zerlegte Version der Strategie in relevante Basisvektoren zu überführen, um Strategieänderungen unter nicht-stationären Annahmen zu verfolgen.“
Das Ziel ist es, „Algorithmen mit menschlichem Fachwissen zu kombinieren, um in einer Modellierungs- und Simulationsumgebung potenzielle Handlungsoptionen in nationalen Sicherheitsszenarien mit weitaus größerem Umfang und größerer Effizienz zu untersuchen, als dies derzeit möglich ist.“
Während der mythologische Apfel der Zwietracht Chaos säte, soll das Kallisti-Programm der DARPA „unerwünschte Eskalationen“ verhindern. Doch sehen wir hier die Anzeichen eines weiteren Trojanischen Pferdes?
Könnte die Kallisti-Technologie eines Tages von Strafverfolgungsbehörden eingesetzt werden? Was ist mit der Anwendung in der Privatwirtschaft?
Welche weiteren Anwendungen könnten sich aus einer erfolgreichen Pre-Crime-Technologie ergeben?
Die ursprüngliche Sondermitteilung zum Theory of Mind-Programm der DARPA ist weiterhin auf sam.gov zu finden, doch die Hauptanlaufstelle ist jetzt kallisti@darpa.mil.