Autoritärer Albtraum?“: Mit KI-Gesichtserkennungstechnologie das Alter von Kindern überprüfen

Von Michael Nevradakis, Ph.D.

Die Washington Post berichtete über die Zunahme privater Unternehmen, die mit Hilfe künstlicher Intelligenz Gesichtserkennungstechnologien einsetzen, um das Alter der Nutzer zu bestimmen. Die Technologie wird auf Websites wie TikTok als Mittel vermarktet, um den Zugang von Kindern zu verhindern.

Das US-Justizministerium (DOJ) hat letzte Woche TikTok verklagt und wirft der Plattform vor, in eklatanter Weise gegen das Gesetz zum Schutz der Privatsphäre von Kindern im Internet (Children’s Online Privacy Protection Act, COPPA), die COPPA-Regel und eine Entscheidung der Federal Trade Commission ( FTC ) aus dem Jahr 2019 über die illegale Erhebung personenbezogener Daten von Kindern zu verstoßen.

In der Klage, die bei einem Bundesgericht in Kalifornien eingereicht wurde, wird behauptet, dass TikTok ohne elterliche Zustimmung „umfangreiche Daten“ von Kindern unter 13 Jahren gesammelt hat, dass es Nutzern unter 13 Jahren erlaubt hat, Konten zu erstellen und zu unterhalten, und dass es den Aufforderungen der Eltern, die Konten und persönlichen Daten ihrer Kinder zu löschen, nicht nachgekommen ist.

Die Klage – die jüngste in einer Reihe von Maßnahmen der US-Regierung gegen die Plattform – folgt auf eine Beschwerde, die im Jahr 2020 von mehreren Interessengruppen, darunter das Electronic Privacy Information Center (EPIC), eingereicht wurde und in der TikTok ein Verstoß gegen COPPA vorgeworfen wird.

Im April unterzeichnete Präsident Joe Biden ein Gesetz, das TikTok in den USA verbietet, wenn die chinesische Muttergesellschaft die US-Vermögenswerte der Social Media-Plattform nicht bis Januar 2025 verkauft.

Die Ankündigung des Justizministeriums folgt auf einen Bericht der Washington Post vom Mittwoch, in dem das Wachstum privater Unternehmen hervorgehoben wird, die Gesichtserkennungstechnologie mit künstlicher Intelligenz (KI) einsetzen, um das Alter von Nutzern zu identifizieren. Die Technologie wird auf Websites wie TikTok als Mittel vermarktet, um den Zugang von Kindern zu verhindern.

Dem Bericht zufolge hat die Technologie – die für Fehlalarme anfällig ist – bei Eltern Bedenken hinsichtlich des Datenschutzes geweckt. Der Post zufolge haben jedoch 19 Staaten Gesetze erlassen, die eine Online-Altersprüfung vorschreiben. Diese Gesetze sind jedoch aus Gründen der Zensur und der Meinungsfreiheit auf rechtliche und verfassungsrechtliche Hürden gestoßen.

Eva Galperin, Direktorin für Cybersicherheit bei der Electronic Frontier Foundation (EFF), sagte gegenüber The Defender: „Von allen Bemühungen, die unsere Gesetzgeber und die US-Regierung unternommen haben, um TikTok zu verfolgen und seine Reichweite zu begrenzen, ist dies wahrscheinlich die vernünftigste. Dies ist eine mit Zähnen“.

Galperin wies jedoch darauf hin, dass andere Social-Media-Plattformen ähnliche Praktiken angewandt haben. Sie sagte:

„Das DOJ ist gegen andere Social-Media-Unternehmen wegen COPPA-Verstößen vorgegangen. Als das Repräsentantenhaus beschloss, TikTok wegen Verstößen gegen den Datenschutz und anderen Verhaltensweisen zu verbieten, fand ich das ziemlich empörend, und der Grund dafür war, dass es fast nichts gab, was das Repräsentantenhaus TikTok vorwarf, was nicht schon von fast jedem anderen Social-Media-Unternehmen in den USA getan worden war.

„Der einzige Unterschied ist, dass es von einem chinesischen Unternehmen gemacht wurde und nicht von einem Unternehmen in Europa oder den USA.“

Galperin nannte ein Beispiel:

„Es stellte sich heraus, dass Google Chromebooks kostenlos an Schulkinder verschenkte und nichts von dem, was sie in der Schule taten, aufzeichnen sollte, aber tatsächlich diese Daten sammelte.“

Galperin sagte, die Beschwerde der EFF gegen Google aus dem Jahr 2015 habe zu einer weiteren behördlichen Überprüfung der Google-Praktiken geführt.

Laut Tim Hinchliffe, Herausgeber von The Sociable, stellt die Verwendung von Gesichtserkennungstechnologie durch Social-Media-Plattformen und andere Websites und Online-Dienste ein erhebliches Risiko für Kinder dar.

Hinchliffe sagte:

„Die Risiken der KI-Gesichtserkennung für Kinder überwiegen die Vorteile. Während unserer gesamten menschlichen Existenz gab es immer Menschen, die Eltern genannt wurden, um Kinder zu schützen. Wenn ein Elternteil nicht möchte, dass das Gesicht seines Kindes erfasst und in einer Datenbank gespeichert wird, sollte er die Macht und Kontrolle haben, um zu verhindern, dass diese Technologie vorurteilsfrei auf seine Kinder angewendet wird.“

Hinchliffe warnte auch davor, dass die weit verbreitete Nutzung solcher Technologien durch Kinder zu einer Normalisierung ihrer Nutzung führen könnte.

„KI-Gesichtsscanner in Kinderprogrammen lehren sie von klein auf zu akzeptieren, dass sie keine Privatsphäre haben, und es ist der nächste Schritt in Richtung eines von der digitalen Identität gesteuerten Internet-Passes, der jegliche Anonymität beseitigt“, sagte Hinchliffe.

TikTok hat „Hintertüren“ eingebaut, die kleinen Kindern den Zugang zu seiner Plattform ermöglichen

Laut der FTC waren sich TikTok und seine Muttergesellschaft ByteDance „angeblich der Notwendigkeit bewusst, die COPPA-Regel und die Zustimmungsanordnung von 2019 einzuhalten, und wussten von TikToks Versäumnissen bei der Einhaltung, die die Daten und die Privatsphäre von Kindern gefährdeten“.

Doch anstatt die Vorschriften einzuhalten, heißt es in der Beschwerde, dass:

„Seit Jahren nutzen Millionen amerikanischer Kinder unter 13 Jahren TikTok, und die Beklagten haben die persönlichen Daten der Kinder gesammelt und gespeichert.“

Die FTC schrieb, dass TikTok ab 2020 „menschliche Prüfer“ einsetzte, um festzustellen, ob ein Nutzer unter 13 Jahre alt war, aber „im Durchschnitt nur fünf bis sieben Sekunden damit verbrachte, jedes Konto zu prüfen, um festzustellen, ob das Konto einem Kind gehörte“.

Die Plattform sammelte dann angeblich weiterhin personenbezogene Daten von diesen Kindern, „einschließlich Daten, die es TikTok ermöglichten, sie gezielt mit Werbung anzusprechen – ohne ihre Eltern zu benachrichtigen und ihre Zustimmung einzuholen, wie es die COPPA-Regel vorschreibt.“

Der FTC zufolge wurden in die TikTok-Plattform „Hintertüren“ eingebaut, die es Kindern ermöglichten, die Altersgrenze zu umgehen, die Kinder unter 13 Jahren ausschließen soll. Dazu gehörte die Verwendung von Anmeldedaten, die von anderen Big-Tech-Plattformen wie Google und Instagram importiert wurden. TikTok stufte diese Konten als „Alter unbekannt“ ein.

TikTok nutzte die gesammelten Daten, um „Profile von Kindern zu erstellen“, und „teilte diese persönlichen Daten mit Dritten wie Facebook und AppsFlyer.“ Die Plattform machte es Eltern angeblich auch schwer, die Löschung der Konten ihrer Kinder zu verlangen, und ignorierte häufig die Löschungsanträge der Eltern.

Boomende „Alterssicherungs“-Industrie führt zu einem „autoritären Albtraum

Der Washington Post zufolge hat die Besorgnis darüber, dass Kinder Zugang zu nicht altersgerechten Online-Inhalten erhalten, „eine boomende Industrie von KI-Alters-Scannern, die auf Kindergesichter abzielen“, angeheizt, die aus „einer wenig bekannten Gruppe von Unternehmen in einer experimentellen Ecke der Tech-Industrie besteht, die als ‚Alterssicherung‘ bekannt ist.

Diese Alterskontrollen, die „auf einer Art von Überwachung beruhen, die von „etwas die Privatsphäre verletzend“ bis hin zu „autoritärer Alptraum“ reicht“, so die Post, gefährden die Privatsphäre aller Internetnutzer und können „Kinder – und alle anderen – einer Kontrolle aussetzen, wie sie im offenen Internet selten vorkommt“.

Während die Alterssicherung „den Eltern ein besseres Gefühl der Kontrolle und des Seelenfriedens geben könnte“, berichtet die Post, dass die Sammlung und Zentralisierung der persönlichen und biometrischen Daten der Nutzer „die Wahrscheinlichkeit erhöht, dass sie gehackt, weitergegeben oder missbraucht werden könnten“.

Die Post zitierte Unternehmen wie Yoti, Incode und VerifyMyAge, die sie als „digitale Torwächter“ bezeichneten, die eine Technologie entwickelt haben, bei der die Nutzer aufgefordert werden, ihr Alter zu verifizieren, indem sie ein „Video-Selfie“ aufnehmen, wobei sie häufig einen amtlichen Ausweis vor die Kamera halten. KI-Tools bestimmen dann das Alter der Nutzer anhand biometrischer Merkmale.

Große Social-Media-Plattformen und Online-Dienste wie TikTok, Facebook, Instagram und OpenAI sowie mehrere Websites, die sich an Erwachsene richten, verwenden inzwischen solche Tools zur Altersüberprüfung. 19 Bundesstaaten – darunter Florida, Texas und Virginia – haben Gesetze verabschiedet oder in Kraft gesetzt, die Online-Altersüberprüfungen vorschreiben.

Der Post zufolge haben solche Gesetze „eine Goldmine geschaffen“, und sie zitiert das Beispiel des Altersüberprüfungsunternehmens Incode aus San Francisco, das nun „intern die Gesetzesentwürfe der Bundesstaaten verfolgt und lokale Beamte kontaktiert, um … zu verstehen, wo … unsere Technologie hineinpasst“.

Fotos und Daten von Kindern sind ein „verlockendes“ Ziel für Hacker

Die Ausweitung von Online-Diensten zur Altersüberprüfung – und die wachsende Zahl von Staaten, die Gesetze zur Online-Altersüberprüfung erlassen haben – haben ebenfalls Kritik und Bedenken hervorgerufen, so die Post:

„Die Befürworter der Tools räumen ein, dass Alterskontrollen eine tiefgreifende Ausweitung der staatlichen Aufsicht über das Online-Leben bewirken könnten. Aber Kritiker argumentieren, dass der Gesetzgeber, der hofft, Kinder abzuschirmen, stattdessen Nutzer aller Altersgruppen schrecklichen Risiken aussetzen könnte, indem er sie zwingt, intime Details ihres Lebens an Unternehmen weiterzugeben, die weitgehend unerprobt, unreguliert und unbekannt sind.“

Solche Bedenken bestehen trotz der Zusicherungen von Unternehmen wie Incode und Yoti, dass sie Bilder löschen, nachdem das Gesicht eines Nutzers analysiert wurde.

Galperin sagte, dass die von diesen Unternehmen gesammelten Daten in „großen Datenbanken untergebracht sind, die Fotos von Menschen mit ihren echten Namen, ihren Ausweisen, ihren Adressen und allen Arten von sensiblen Informationen enthalten – und sie liegen dort einfach herum“.

Das macht sie zu einem „verlockenden“ Ziel für Hacker, so Galperin, und birgt zudem das Risiko einer Verletzung oder eines Lecks in den Daten.

„Dies sind auch Informationen, die möglicherweise öffentlich werden, nicht nur durch Hacker, sondern auch, weil Unternehmen Fehler machen und diese Informationen im Internet landen“, sagte sie.

Der in Kalifornien ansässige Anwalt für Datenschutz Greg Glaser verglich zentralisierte Datenbanken mit biometrischen Daten von Kindern mit „legalisierter Pädophilie“ und erklärte gegenüber The Defender, dass solche Daten, die möglicherweise „Ganz- und Teilkörperaufnahmen von Kindern“ in privaten Umgebungen enthalten, Gefahr laufen würden, „ins Dark Web“ zu gelangen.

„An diesem Punkt der Geschichte ist es offensichtlich, dass Computersysteme nicht so konzipiert sind, dass sie traditionelle Moralvorstellungen, wie die Unantastbarkeit einer unschuldigen Kindheit, respektieren“, sagte Glaser.

Hinchliffe sagte, die Daten der einzelnen Nutzer könnten auch gesammelt werden und sie dem Risiko der Profilerstellung aussetzen, da „die Datenbanken eine vollständige Aufzeichnung der Lebensabschnitte eines jeden Kindes führen würden.“ Er fügte hinzu:

„Forscher sagen, dass KI bereits aus einem einzigen Foto Sexualität erkennen kann. Stellen Sie sich vor, welche Schlüsse sie über Kinder ziehen können, die ihr ganzes Leben lang gescannt werden. Werden KI-Gesichtsscanner in der Lage sein, einen Liberalen von einem Konservativen zu unterscheiden? Kann KI aus der Art der Kleidung, der Haarfarbe, der ethnischen Zugehörigkeit, dem Mikroausdruck oder den Tätowierungen Rückschlüsse auf eine Person ziehen?“

Galperin warnte auch davor, dass häusliche Gewalttäter und Stalker die durchgesickerten Daten aus den Datenbanken zur Alterssicherung ausnutzen könnten.

„Eines der häufigsten Entführungsszenarien in den USA ist in der Regel die Entführung eines Kindes, wenn die Eltern geschieden sind, aber nur ein Elternteil das Sorgerecht erhalten hat, und der Elternteil ohne Sorgerecht das Kind im Wesentlichen an sich nimmt“, sagte Galperin. „Diese Technologie könnte Menschen in echte Gefahr bringen“.

„Wenn Erwachsene aus erster Hand erfahren, wie KI-Gesichtserkennung gegen sie eingesetzt werden kann, denke ich, dass sie eher zögern würden, die gleiche Technologie bei ihren Kindern einzusetzen. Aber wenn die Technologie zuerst bei Kindern eingesetzt wird, würden die Eltern dann das ganze Ausmaß der dystopischen Folgen erkennen?“

Auch staatliche und private Akteure könnten sich solche Daten zunutze machen. sagte Galperin:

„Diese Daten könnten auch für Werbetreibende und Datenmakler verlockend sein, die diese Art von Informationen für die Zwecke der gezielten Werbung lieben. Sie sind auch für Regierungen und Strafverfolgungsbehörden interessant, die regelmäßig Daten von Datenmaklern kaufen, um sich die Mühe zu ersparen, vor Gericht einen Durchsuchungsbefehl oder eine Vorladung für bestimmte Arten von Daten einzuholen.“

Andere haben argumentiert, dass die Technologie zur Alterssicherung trotz der vielversprechenden KI oft zu falsch positiven Ergebnissen führt, die legale Nutzer von Online-Diensten ausschließen können.

Die Post zitierte Daten des National Institute of Standards and Technology, wonach Altersschätzer „in der Regel innerhalb von etwa drei Jahren genau sind“, und von Instagram, das herausgefunden hat, dass Altersprüfungen 96 % der Jugendlichen gestoppt haben, die versucht haben, ihre Konten zu ändern, um über 18 Jahre alt zu erscheinen.

Aber dies schließt immer noch viele potenziell legitime Nutzer aus, wobei bestimmte Gruppen besonders gefährdet sind. Die Post stellte fest, dass die Fehlerquote der Systeme bei Mädchen und Frauen höher ist als bei Jungen und Männern und dass Menschen mit bestimmten Behinderungen, die sich auf ihr Aussehen auswirken, oft ausgeschlossen werden.

„Wenn Ihre Lösung irgendeine Art von falschem Positiv aufweist, sperren Sie im Grunde genommen Menschen aus dem Internet aus, die nicht ausgesperrt werden sollten. Jede Lösung, bei der solche Fehlalarme auftreten, ist inakzeptabel“, sagte Galperin.

Als Yoti letztes Jahr die FTC bat, Altersschätzer als Mittel zur Erlangung der elterlichen Zustimmung zu genehmigen, sprachen sich mehr als 300 Kommentare, die während der öffentlichen Kommentierungsphase eingereicht wurden, gegen den Vorschlag aus, berichtete die Post. Die FTC lehnte Yotis Vorschlag schließlich ab.