Das United States Special Operations Command (SOCOM) bereitet sich auf die Durchführung von Internet-Propaganda- und Täuschungskampagnen mithilfe von Deepfake-Videos vor“, heißt es in Verträgen mit der Bundesregierung, die von The Intercept eingesehen wurden.
Die Aktivitäten, die das SOCOM in Übersee durchführt, entsprechen dem wahrscheinlichen Verhalten von Schurkenregimen, die es auf die Vereinigten Staaten abgesehen haben, und beinhalten das Hacken von mit dem Internet verbundenen Geräten, um die Anfälligkeit ausländischer Bevölkerungen für Propaganda zu bewerten“, heißt es in dem Intercept-Artikel.
Die Informationen, die in dem Bericht enthüllt werden, stammen aus einem vom Verteidigungsministerium veröffentlichten Beschaffungsdokument, einer Art Wunschliste von technologischen Werkzeugen, die das Pentagon heimlich in der ganzen Welt einsetzen möchte.
Von besonderem Interesse auf der Liste ist ein Abschnitt mit dem Titel „Advanced technologies for use in Military Information Support Operations (MISO) (Fortgeschrittene Technologien für den Einsatz bei militärischen Informationsunterstützungsmaßnahmen), der von The Intercept als „ein Euphemismus des Pentagons für seine globalen Propaganda- und Täuschungsbemühungen“ interpretiert wird. Hier ist, wie The Intercept den Inhalt dieses beunruhigenden Teils des Beschaffungsantrags beschreibt:
Der hinzugefügte Absatz verdeutlicht den Wunsch des SOCOM nach neuen und verbesserten Mitteln zur Durchführung von „Beeinflussungsoperationen, digitaler Täuschung, Störung der Kommunikation und Desinformationskampagnen auf taktischer und operativer Ebene“. SOCOM sucht „eine Fähigkeit der nächsten Generation zur Sammlung unterschiedlicher Daten durch öffentliche und offene Informationsströme wie soziale Medien, lokale Medien usw., um MISO in die Lage zu versetzen, Einflussoperationen zu entwickeln und zu steuern“.
Auch wenn es überraschend ist, dass das SOCOM – eine Organisation, die aus militärischen Eliteeinheiten besteht, die für ihre Fähigkeit bekannt sind, heimlich und im Schutze der Dunkelheit zu arbeiten – zulässt, dass seine Desinformationspläne von The Intercept beschafft und veröffentlicht werden, so hat das Pentagon sie doch seit Jahren im Verborgenen gehalten.
Im Dezember deckte The Intercept einige sehr beunruhigende Taktiken auf, die von SOCOM zur Manipulation sozialer Medien eingesetzt werden:
Das SOCOM hatte Twitter davon überzeugt, unter Verstoß gegen seine internen Richtlinien ein Netzwerk von Scheinkonten zuzulassen, die gefälschte Nachrichten von zweifelhafter Genauigkeit verbreiteten, darunter die Behauptung, die iranische Regierung würde Organhandel mit afghanischer Zivilisten betreiben. Obwohl die Twitter-basierte Propagandaoffensive keine Deepfakes verwendete, fanden die Forscher heraus, dass Auftragnehmer des Pentagons durch maschinelles Lernen erzeugte Avatare einsetzten, um den gefälschten Konten einen gewissen Realismus zu verleihen.
Während die Regierung der Vereinigten Staaten also „Fake News“ anprangert, kreiert sie selbst Fake News, um sie den Menschen unterzuschieben, die sich auf der Suche nach ungefilterten Nachrichten an Twitter wenden.
Nur damit es klar ist und es keine unangebrachte Sorge gibt, dass das Dokument weniger unheilvoll ist als die Darstellung von The Intercept, hier ein Absatz aus dem Abschnitt „Fortgeschrittene Technologien für den Einsatz in militärischen Informationsunterstützungsoperationen (MISO)“, der alle Zweifel über den Zweck der Beschaffung ausräumen sollte. MISO wird nach Technologien suchen, um:
Beeinflussungsoperationen, digitale Täuschung, Störung der Kommunikation und Desinformationskampagnen auf taktischer und operativer Ebene … Suche nach einer Fähigkeit der nächsten Generation zur Sammlung unterschiedlicher Daten über öffentliche und offene Informationsströme wie soziale Medien, lokale Medien usw., um MISO in die Lage zu versetzen, Beeinflussungsoperationen auszuarbeiten und zu steuern.
Und die nachfolgend wenigen Absätze des Dokuments sind nicht weniger beunruhigend:
Bereitstellung einer Fähigkeit der nächsten Generation zur Sammlung unterschiedlicher Daten über öffentliche und offene Informationsströme wie soziale Medien, lokale Medien usw., um MISO in die Lage zu versetzen, Operationen und Botschaften in relevanten Peer-/Near-Peer-Umgebungen zu gestalten und zu beeinflussen
Bereitstellung einer nächsten Generation von „Deep Fake“ oder einer ähnlichen Technologie, um Nachrichten zu generieren und Operationen über nicht-traditionelle Kanäle in relevanten Peer-/Near-Peer-Umgebungen zu beeinflussen
Schaffung von Fähigkeiten der nächsten Generation zur „Übernahme“ von Internet-of-Things-Geräten (IoT), um Daten und Informationen von der lokalen Bevölkerung zu sammeln, damit durch die Sichtung der empfangenen Daten aufgeschlüsselt werden kann, welche Botschaften populär sind und akzeptiert werden könnten. Dies würde MISO in die Lage versetzen, Botschaften zu entwickeln und zu verbreiten, die von der lokalen Bevölkerung in relevanten Peer-/Near-Peer-Umgebungen besser angenommen werden.
Das sind die Ziele unserer eigenen Bundesregierung. Die Führer unserer Streitkräfte suchen nach Partnern, die dem Pentagon die Werkzeuge zur Verfügung stellen können, um mit Hilfe von Deepfakes (Fälschungen) Massentäuschungen durchzuführen und Daten von mit dem Internet verbundenen Geräten in Privathaushalten zu sammeln, wobei die aufgezeichneten Gespräche zur Erstellung von Nachrichten – falschen Nachrichten – verwendet werden, die von den heimlich überwachten Personen leicht als korrekt akzeptiert werden.
Das Ausmaß des Schadens, der durch diese Täuschungsmanöver angerichtet wird, ist der US-Regierung bekannt. Wir wissen dies mit Sicherheit aufgrund der Warnungen, die unser eigener Director of National Intelligence (DNI) vor solchen Aktivitäten ausländischer Regime ausgesprochen hat. Hier sind einige Auszüge aus einem DNI-Dokument mit dem Titel „Safeguarding Our Elections“ (Sicherung unserer Wahlen)
Bedrohung:
Ausländische Gegner könnten künstliche Intelligenz einsetzen, um Deepfakes (qualitativ hochwertige generierte oder manipulierte Videos, Bilder, Texte oder Audiodateien) zu erstellen, um die öffentliche Meinung zu beeinflussen und die Wahlen in den USA zu beeinflussen.
Auswirkungen:
Untergräbt das öffentliche Vertrauen in politische Kandidaten und Parteien
Untergräbt das Vertrauen der Öffentlichkeit in den Wahlprozess
Bedroht den zivilen Diskurs und spaltet die amerikanische Öffentlichkeit
stellt die Fähigkeit von Online- und Social-Media-Plattformen infrage, digital veränderte Inhalte zu identifizieren und zu verwalten
Erzeugt oder verstärkt falsche Darstellungen von ausländischen Gegnern
Angesichts der Pläne, die durch das von The Intercept erhaltene Dokument aufgedeckt wurden, fragt man sich, ob diese DNI-Präsentation weniger eine Warnung als vielmehr eine Vorlage war.
Letzten Endes gibt es absolut keine verfassungsmäßige Befugnis für die Bundesregierung, solche Missionen der Massentäuschung durchzuführen, insbesondere wenn sich die Vereinigten Staaten nicht im Krieg befinden.
Denken Sie schließlich an die Warnung des französischen Philosophen Benjamin Constant aus dem Jahr 1815, was passiert, wenn ein Volk der Regierung eine so große Macht über die Presse und die öffentliche Wahrnehmung überträgt:
Indem Sie die Regierung ermächtigen, rücksichtslos mit allen möglichen Meinungen umzugehen, geben Sie ihr das Recht, Gedanken zu interpretieren, Induktionen zu machen, kurz gesagt, zu argumentieren und ihre Argumentation an die Stelle der Tatsachen zu setzen, die die einzige Grundlage für staatliche Gegenmaßnahmen sein sollten.
Das bedeutet, Despotismus mit freier Hand zu etablieren. Welche Meinung kann nicht eine Strafe auf ihren Urheber abwälzen? Sie geben der Regierung freie Hand für böse Taten, vorausgesetzt, dass sie darauf achtet, böse Gedanken zu hegen. Diesem Kreislauf werden Sie nie entkommen.
Dazu noch ein interessantes Video.
Direkt zum Video: