Die US Intelligence Advanced Research Projects Activity (IARPA) stellt ein neues Forschungsprogramm zusammen, um von IoT-Geräten aufgezeichnete Gespräche in Echtzeit zu anonymisieren, so dass der Sprecher nicht identifiziert werden kann.
Mit dem erklärten Ziel, “die Privatsphäre des Einzelnen zu schützen”, will das Programm Anonymous Real-Time Speech (ARTS) der IARPA “neuartige Systeme entwickeln, die spontane Sprache in Echtzeit verändern”, heißt es in der Programmübersicht.
Unzählige elektronische Geräte des modernen Lebens wie Smartphones, digitale Assistenten, Fernseher, Fernbedienungen und sogar Haushaltsgeräte sind mit Mikrofonen ausgestattet, die ständig auf Sprachsignale lauschen und sprachgesteuerte Technologien zur Interaktion mit Menschen nutzen. – IARPA HAYSTAC Program
Für die US-Geheimdienste stellen Geräte des Internets der Dinge (IoT) “eine wachsende Quelle von Daten dar, die gesammelt werden können, um Absichten zu erkennen”, wie IARPA-Direktorin Catherine Marsh im Dezember 2021 erklärte.
Mit der zunehmenden Verbreitung von IoT-Geräten kann die Sprache einer Person aufgezeichnet und entschlüsselt werden, um “nicht nur ihre Identität, sondern auch statische Merkmale wie Dialekt, Geschlecht und Alter sowie dynamische Merkmale wie Angst, Stress und Wut” aufzudecken, heißt es in der ARTS-Programmübersicht.
Abgesehen von der Identität und den statischen Merkmalen einer Person können diese Geräte auch den Standort einer Person und das, was im Hintergrund vor sich geht, aufdecken.
Das ist nichts, was die US-Geheimdienste ihren Spionen im Einsatz antun wollen.
Vor diesem Hintergrund zielt das ARTS-Programm der IARPA darauf ab, “neuartige Methoden zur Anonymisierung von Gesprächen zu erforschen und zu entwickeln”, die “Bedrohungen der Privatsphäre, wie z. B. Software zur Identifizierung von Sprechern, menschliche Bewertung statischer Merkmale und automatische Klassifizierung dynamischer Merkmale, überwinden”.
Letztendlich “wünscht sich das Programm neuartige softwarebasierte Systeme, die für Gespräche geeignet sind, wobei die umgewandelte Sprache verständlich ist, natürlich klingt und in Echtzeit funktioniert.”
Während das ARTS-Programm der IARPA darauf abzielt, die Ausnutzung von IoT-Geräten zu vermeiden, hat die IARPA ein weiteres Forschungsprogramm, das darauf abzielt, IoT-Geräte zur Verfolgung der Bewegungen von Menschen zu nutzen.
Expansive Daten aus dem Internet der Dinge und Smart-City-Infrastrukturen ermöglichen, neue Modelle zu entwickeln, die die menschliche Dynamik in noch nie dagewesener Auflösung verstehen, und schaffen die Verantwortung, die Erwartungen an die Privatsphäre derjenigen zu verstehen, die sich in dieser sensorreichen Welt bewegen. – IARPA HAYSTAC Program
Das im Mai 2023 angekündigte HAYSTAC-Programm (Hidden Activity Signal and Trajectory Anomaly Characterization) der IARPA zielt darauf ab, “Systeme zu entwickeln, die in der Lage sind, Bewegungsmuster der Bevölkerung rund um den Globus zu modellieren”, und zwar mithilfe von KI und Sensoren, die mit dem Internet der Dinge (IoT) und intelligenten Städten verbunden sind.
Für Programmleiter Dr. Jack Cooper stellt HAYSTAC “eine noch nie dagewesene Möglichkeit dar, zu verstehen, wie sich Menschen bewegen, und das Ziel von HAYSTAC wird es sein, ein Verständnis dafür zu entwickeln, wie normale Bewegungen zu jeder Zeit und an jedem Ort aussehen.”
Letztlich besteht das Ziel von HAYSTAC darin, “normale” Bewegungsmodelle über Zeiten, Orte und Populationen hinweg zu etablieren und zu bestimmen, was eine Aktivität atypisch macht”.
Während sowohl HAYSTAC als auch ARTS IoT-Daten aus unterschiedlichen Blickwinkeln und für unterschiedliche Zwecke betrachten, hat die IARPA ein weiteres Forschungsprogramm, das auf Anonymisierung und Schutz der Privatsphäre abzielt, ähnlich wie das ARTS-Programm.
HIATUS will neuartige, vom Menschen nutzbare KI-Systeme für die Zuordnung der Urheberschaft und den Schutz der Privatsphäre von Autoren durch die Identifizierung und Nutzung erklärbarer linguistischer Fingerabdrücke entwickeln. – IARPA HIATUS Program
Während das ARTS-Programm der IARPA darauf abzielt, Sprache zu anonymisieren, um die Privatsphäre des Sprechers zu schützen, hat der Forschungsförderungsarm der US-Geheimdienste ein weiteres aktives Programm, das darauf abzielt, das Schreiben einer Person zu anonymisieren, um die Privatsphäre des Autors zu schützen.
Vergangenes Jahr kündigte die IARPA ihr HIATUS-Forschungsprogramm (Human Interpretable Attribution of Text Using Underlying Structure) an, das darauf abzielt, einen Autor anhand seines Schreibstils zu identifizieren und ihn durch Entfernen seiner “linguistischen Fingerabdrücke” zu anonymisieren.
In der Programmbeschreibung von HIATUS heißt es:
HIATUS versucht, neuartige, vom Menschen nutzbare KI-Systeme zu entwickeln, um die Urheberschaft zuzuordnen und die Privatsphäre des Autors zu schützen, indem erklärbare linguistische Fingerabdrücke identifiziert und genutzt werden.
Das Programm wird neuartige Techniken entwickeln, um Repräsentationen zu erzeugen, die sprachliche Variationen auf Autorenebene erfassen, und diese Repräsentationen nutzen, um von Menschen interpretierbare Algorithmen zu entwickeln, die eine Autorenzuschreibung vornehmen und die Privatsphäre des Autors sicherstellen (z.B. durch die Entfernung von autorenidentifizierenden Merkmalen aus dem Text).
Durch eine authentische Zuordnung der Urheberschaft kann der Informationsfluss zunehmend transparenter oder zumindest geordneter werden.
Auf der anderen Seite könnte der Informationsfluss durch die Anonymisierung der Quelle, die Verschleierung ihrer Herkunft und das Hinzufügen von mehr Rauschen im Kanal noch stärker verzerrt werden – eine Taktik, die von Spionageagenturen angewandt wird: “Man erzeugt so viel Rauschen im Kanal, dass die Leute anfangen, alle Informationen, die in den Medien, den sozialen Medien und an anderen Orten verfügbar sind, insgesamt anzuzweifeln”, wie ein ehemaliger NSA-Agent für Auslandsüberwachung gegenüber The Sociable erklärte.
Könnte dasselbe Konzept auf das ARTS-Programm der IARPA angewendet werden?
Die IARPA wird am 27. Juni von 9:30 bis 17:00 Uhr EDT einen Proposers’ Day für das ARTS-Programm abhalten.
