Durch ein tieferes Verständnis der Informationswege könnte die von der DARPA finanzierte Forschung zu einem mächtigen Instrument für das Desinformations-Governance-Board, auch bekannt als das “Wahrheitsministerium”, werden: Perspektive
Die DARPA will mit einer neuen KI-Forschungsmöglichkeit automatisieren, wie Informationen von Randgruppen zu Mainstream-Plattformen fließen.
Am 4. Mai 2022 veröffentlichte die Defense Advanced Research Projects Agency (DARPA) eine KI-Forschungsmöglichkeit für “Modeling Influence Pathways” (MIP), die darauf abzielt, “Informationsflüsse zu Pfaden zu verbinden, die zur Verbreitung und Verstärkung gefälschten und manipulierter Informationen genutzt werden”.
MIP zielt darauf ab, Informationsflüsse zu Pfaden zu verknüpfen, die zur Verbreitung und Verstärkung falscher, dis- und manipulierte Informationen” – DARPA, MIP
MIP versucht nicht, Analysemethoden zur Erkennung von Fehlinformationen, Desinformationen oder manipulierten Informationen zu entwickeln, sondern konzentriert sich auf die Modellierung der Wege, die die Informationen durchlaufen.
Zu diesen Informationspfaden gehören:
- Soziale Medien
- Meme
- Blogs
- Videos
- Unternehmensmedien
- Menschliche Subjekte
- Und mehr
Laut DARPA “wird die Entdeckung von Pfaden und Mustern unser Verständnis von Informationsoperationen von der heutigen Konzentration auf einzelne Nutzer, Botschaften, Meme oder Kampagnen zu einem höheren strukturellen und zeitlichen Verständnis darüber führen, wie sich diese Operationen entfalten”.
Durch die Modellierung des Informationsflusses könnte die Forschungsabteilung des Pentagon dem Ministerium für Innere Sicherheit (DHS) ein mächtiges Werkzeug für sein neues “Disinformation Governance Board” an die Hand geben, das von Kritikern bereits als “Wahrheitsministerium” bezeichnet wird.
Mayorkas touts formation of “misinformation and disinformation governance board” to “disseminate information” before the 2022 midterm elections. pic.twitter.com/ShuadO3DRJ
— Merissa Hansen 🇺🇸 (@MerissaHansen17) April 28, 2022
Die Identifizierung von Mustern, die sich unter den [Einfluss-]Wegen herausbilden, wie z. B. die Ausbreitung von bestimmten Nischenplattformen zu Mainstream-Plattformen, ist für das Verständnis von Einflussoperationen von wesentlicher Bedeutung – DARPA, MIP
Das DHS hat bereits eine DARPA-ähnliche Agentur unter seinem Science & Technology Directorate (S&T), die Homeland Security Advanced Research Projects Agency (HSARPA), die sich auch mit der DARPA abgestimmt hat.
So übertrug die S&T des DHS im August 2020 ihre Technologie zur Erkennung von Sprengstoffbedrohungen an die DARPA, um “unsere Soldaten und unser Land vor Bedrohungen durch Massenvernichtungswaffen zu schützen”.
Eine weitere DARPA/HSARPA-Verbindung ist der frühere HSARPA-Direktor und DARPA-Programmmanager Paul Benda, der laut seinem Lebenslauf “de facto Leiter der Forschungs- und Entwicklungsabteilung des DHS, leitender Angestellter für die Entwicklung und Installation aller Sicherheitssysteme auf dem Pentagon-Gelände und Programmmanager bei der DARPA” war.
Einige Datenquellen, die die Ziele der MIPs ermöglichen, können Daten enthalten, die eine oder mehrere lebende Personen identifizieren- DARPA, MIP
Sollte das neue DHS Disinformation Governance Board jemals die MIP-Tools der DARPA in die Hände bekommen, wäre es in der Lage, Daten nicht nur von Websites, Memes oder Social-Media-Plattformen zu sammeln, sondern von lebenden Menschen.
In der DARPA-Ankündigung heißt es: MIPs werden Daten benötigen, die von menschlichen Subjekten stammen können.
Menschliches Subjekt bedeutet ein lebendes Individuum, über das ein Forscher (egal ob Profi oder Student), der Forschung betreibt, Daten durch Intervention oder Interaktion mit einem Individuum erhält, oder Daten erhält, die identifizierbare private Informationen sind.
Selbst wenn keine Absicht besteht, Daten über Menschen zu sammeln, können einige Datenquellen, die die Ziele des MIP ermöglichen, Daten enthalten, die eine oder mehrere lebende Personen identifizieren.
Mit dem MIP fügt das Pentagon seinem seit Jahrzehnten entwickelten Instrumentarium zur Informationskriegsführung ein weiteres hinzu.
MIP ergänzt die ausgereiften Fähigkeiten zur Identifizierung von Fehlinformationen, Desinformationen und manipulierten Informationen durch eine bessere Kartierung und ein besseres Verständnis der Wege, über die diese Informationen verbreitet und verstärkt werden – DARPA, MIP
In Kombination mit anderen DARPA-Forschungsprogrammen folgt MIP dem Muster des Verteidigungsministeriums, das KI einsetzt, um die Erkennung und Moderation von Online-Einflusskampagnen zu automatisieren.
Laut DARPA wird MIP “verschiedene DARPA-Bemühungen ergänzen”, insbesondere “indem es eine höhere (Ökosystem-)Ebene der Analyse bietet” als die folgenden Programme:
- INfluence Campaign Awareness and Sensemaking (INCAS) – Entdeckung von einzelnen Kampagnen
- Semantische Forensik/Medienforensik (SemaFor/MediFor) – einzelne Nachrichten
- Social Simulation for Evaluating Online Messaging Campaigns (SocialSim) – einzelne Plattformen, hochauflösende soziale Netzwerkanalyse
Der Hauptansprechpartner für MIP ist Dr. Brian Kettler, der auch der Programmmanager für INCAS und SocialSim ist.
Dr. Kettler kam im März 2019 von Lockheed Martin zur DARPA, wo er als Lockheed Martin Fellow und Chefwissenschaftler des Informatics Lab in den Advanced Technology Labs tätig war.
INCAS wird in erster Linie öffentlich zugängliche Datenquellen nutzen, darunter mehrsprachige, plattformübergreifende soziale Medien (z. B. Blogs, Tweets, Nachrichten), Online-Nachrichtenquellen und Online-Referenzdatenquellen – DARPA, INCAS
Unter der Leitung von Dr. Kettler zielt das INCAS-Forschungsprogramm darauf ab, geopolitische Online-Kampagnen aufzuspüren, zu kategorisieren und zu verfolgen, einschließlich solcher, die unter dem Radar der meisten Analysten fliegen.
Um seine Ziele zu erreichen, “wird INCAS in erster Linie öffentlich zugängliche Datenquellen nutzen, darunter mehrsprachige, plattformübergreifende soziale Medien (z. B. Blogs, Tweets, Messaging), Online-Nachrichtenquellen und Online-Referenzdatenquellen”.
Das andere Programm von Dr. Kettler, SocialSim, wurde ins Leben gerufen, um “sich speziell auf die Verbreitung und Entwicklung von Informationen zu konzentrieren”.
Die Idee hinter SocialSim war, dass “eine Simulation der Verbreitung und Entwicklung von Online-Informationen, wenn sie genau und maßstabsgetreu ist, ein tieferes und quantitativeres Verständnis der Nutzung des globalen Informationsumfelds durch die Gegner ermöglichen könnte, als dies derzeit mit den bestehenden Ansätzen möglich ist.”
DARPA versucht, Werkzeuge zu entwickeln, die dabei helfen, Fehlinformations- oder Täuschungskampagnen zu erkennen und ihnen mit wahrheitsgemäßen Informationen zu begegnen, um so die Möglichkeiten des Gegners zur Manipulation von Ereignissen zu verringern – DARPA, Social Media in Strategic Communication (SMISC)
Vor mehr als einem Jahrzehnt startete die DARPA 2011 das Programm Social Media in Strategic Communication (SMISC), um Fehlinformations- oder Täuschungskampagnen zu erkennen und ihnen mit wahrheitsgetreuen Informationen zu begegnen” in sozialen Medien.
Kürzlich kündigte die DARPA das Projekt Civil Sanctuary an, mit dem mehrsprachige KI-Moderatoren entwickelt werden sollen, die “die derzeitigen Möglichkeiten der Inhaltsmoderation übertreffen, indem sie das Paradigma der Moderation von der Erkennung/Löschung auf ein proaktives, kooperatives Engagement erweitern”.
Im Rahmen ihrer Forschungsprogramme entwickelt die DARPA weiterhin leistungsstarke Überwachungstools zur Modellierung, Messung und Analyse der Informationsverbreitung.
Wir markieren problematische Beiträge für Facebook, die Desinformationen verbreiten – Jen Psaki, Pressesprecherin des Weißen Hauses, Juli 2021
Während der US-Kongress kein Gesetz erlassen darf, das die Redefreiheit einschränkt, hat sich die derzeitige Regierung mit den Unternehmen der sozialen Medien abgestimmt, um problematische Beiträge zu kennzeichnen, die angeblich Desinformationen verbreiten.
Das MIP der DARPA soll nicht feststellen, ob es sich bei einem Inhalt um Desinformation handelt oder nicht – diese Aufgabe liegt außerhalb ihres Zuständigkeitsbereichs -, sondern die DARPA will den Fluss der Desinformation zurückverfolgen, nachdem sie bereits identifiziert wurde.
In den Händen tyrannischer Regierungen würden die DARPA-Tools zur Modellierung von Desinformation jede autoritäre Zensurbemühung unterstützen.
Die Entdeckung von Pfaden und Mustern wird unser Verständnis von Informationsoperationen von der heutigen Konzentration auf einzelne Nutzer, Nachrichten, Meme oder Kampagnen auf ein höheres strukturelles und zeitliches Verständnis der Entfaltung dieser Operationen verlagern – DARPA, MIP
Für das MIP sucht DARPA nach Einreichungen innovativer Grundlagen- oder angewandter Forschungskonzepte in den folgenden technischen Bereichen:
- Analyse sozialer Medien
- Klassifizierung
- Entdeckung von Mustern
- Computergestützte sozialwissenschaftliche Modellierung
Die folgenden Funktionen liegen außerhalb des Anwendungsbereichs von MIP:
- Abbildung von sozialen Netzwerken einzelner Nutzer
- Zuordnung von Aktionen zu bestimmten Akteuren oder Entitäten
- Analysen zur Erkennung von Fehlinformationen, Desinformationen, manipulierten Informationen oder Einflusskampagnen
- Weiterentwicklung von Text-/Multimedia- oder sozialen Netzwerkanalysetechniken
- Weiterentwicklung von Technologien zur Bot-Erkennung
Das MIP wird KI-Technologien erforschen für:
- Verbindung verschiedener identifizierter Influencer-Nachrichtenströme über Plattformen hinweg
- Lernen, Abbilden und Modellieren, welche Pfade von welchen Arten von Informationen genutzt werden
- Entdeckung von Mustern, die diese Pfade charakterisieren
“Pfade”, so die MIP-Ankündigung, “können als eine Reihe von Kanten zwischen Knoten in einem Graphen charakterisiert werden, wobei die Knoten Online- oder Offline-Plattformen oder Gemeinschaften darstellen.
“Zu den Plattformen gehören Social-Media-Sites, andere Websites und Medienkanäle. Zu den Gemeinschaften gehören explizite oder implizite Online-Gemeinschaften wie Diskussionsgruppen oder geografisch verwurzelte Offline-Gemeinschaften, die Informationen von Plattformen konsumieren. Knotenpunkte könnten auch einzelne Personen darstellen (z. B. bewusste oder unbewusste wichtige Einflussnehmer).
Durch ein tieferes Verständnis darüber, wie, warum und wohin Informationen fließen, könnte die von der DARPA finanzierte Forschung als Waffe eingesetzt werden, um Desinformationen zu verbreiten, geopolitische Einflusskampagnen zu unterstützen und abweichende Meinungen zu zensieren.
