Die UN-Menschenrechtskommissarin hat ein Moratorium für den Einsatz bestimmter Technologien der künstlichen Intelligenz, wie etwa der massenhaften Gesichtserkennung, gefordert, bis es “angemessene Schutzmaßnahmen” gegen ihre potenziell “katastrophalen” Auswirkungen gibt.
In einer Erklärung vom Mittwoch betonte die UN-Hochkommissarin für Menschenrechte, Michelle Bachelet, die Notwendigkeit eines vollständigen Verbots von KI-Anwendungen, die nicht im Einklang mit den internationalen Menschenrechtsnormen stehen, und forderte gleichzeitig einen Verkaufsstopp für bestimmte bedenkliche Technologien.
Bachelet wies darauf hin, dass KI und Algorithmen des maschinellen Lernens mittlerweile “in fast jeden Winkel unseres physischen und mentalen Lebens und sogar unseres emotionalen Zustands” eindringen. Sie sagte, die Technologie habe das Potenzial, “eine Kraft für das Gute” zu sein, könne aber auch “negative, sogar katastrophale Auswirkungen haben, wenn sie ohne ausreichende Rücksicht darauf eingesetzt wird, wie sie die Menschenrechte der Menschen beeinflusst”.
KI-Systeme werden eingesetzt, um zu entscheiden, wer öffentliche Dienstleistungen erhält, wer eine Chance auf eine Stelle hat und natürlich beeinflussen sie, welche Informationen die Menschen sehen und online teilen können.
Technologies like facial recognition are increasingly used to identify people in real time and from a distance.
— UN Human Rights (@UNHumanRights) September 15, 2021
We call for a moratorium on their use in public spaces, at least until robust international #HumanRights safeguards are in place.
Learn more: https://t.co/VmmR75slYd pic.twitter.com/mslH79ccFK
Bachelets Warnung kam zu dem Zeitpunkt, als das UN-Menschenrechtsbüro einen Bericht veröffentlichte, in dem die Auswirkungen von KI-Systemen – wie Profilerstellung, automatisierte Entscheidungsfindung und andere Technologien des maschinellen Lernens – auf verschiedene Grundrechte wie Privatsphäre, Gesundheit, Bildung, Meinungsfreiheit und Freizügigkeit analysiert wurden.
Der Bericht hebt eine Reihe besorgniserregender Entwicklungen hervor, darunter ein “ausuferndes Ökosystem der weitgehend intransparenten Erhebung und des Austauschs personenbezogener Daten” sowie die Auswirkungen von KI-Systemen auf “staatliche Ansätze zur Polizeiarbeit”, die “Justizverwaltung” und die “Zugänglichkeit öffentlicher Dienstleistungen”.
KI-gesteuerte Entscheidungen könnten auch “diskriminierend” sein, wenn sie auf veralteten oder irrelevanten Daten beruhen, so der Bericht, der auch unterstreicht, dass die Technologie genutzt werden könnte, um zu diktieren, was Menschen im Internet sehen und teilen.
Der Bericht stellt jedoch fest, dass der dringendste Bedarf an “Menschenrechtsleitlinien” in Bezug auf biometrische Technologien besteht – die einzigartige Körpermerkmale messen und aufzeichnen und in der Lage sind, bestimmte menschliche Gesichter zu erkennen -, da sie für Regierungen, internationale Einrichtungen und Technologieunternehmen für eine Vielzahl von Aufgaben “immer mehr zu einer Standardlösung” werden.
Der Bericht warnt insbesondere vor dem zunehmenden Einsatz von Tools, die versuchen, durch die Analyse von Gesichtsausdrücken und anderen “prädiktiven biometrischen Merkmalen” auf den emotionalen und mentalen Zustand von Menschen zu schließen, um zu entscheiden, ob eine Person ein Sicherheitsrisiko darstellt. Technologien, die versuchen, “Einblicke in menschliche Verhaltensmuster” zu gewinnen und auf dieser Grundlage Vorhersagen zu treffen, werfen ebenfalls “ernste Fragen” auf, so die Menschenrechtsorganisation.
Der Bericht stellt fest, dass solche Technologien keine solide wissenschaftliche Grundlage” haben und anfällig für Voreingenommenheit sind, und warnt davor, dass der Einsatz von Emotionserkennungssystemen” durch die Behörden – zum Beispiel bei Polizeikontrollen, Verhaftungen und Verhören – die Rechte einer Person auf Privatsphäre, Freiheit und ein faires Verfahren untergräbt.
“Das Risiko der Diskriminierung im Zusammenhang mit KI-gesteuerten Entscheidungen – Entscheidungen, die das Leben von Menschen verändern, definieren oder schädigen können – ist nur allzu real”, sagte Bachelet und fügte hinzu, dass die Welt es sich nicht leisten könne, weiterhin mit der sich schnell entwickelnden KI-Technologie “hinterherzuhinken”.
