Willkommen auf der dunklen Seite der künstlichen Intelligenz.
Die Technologie der künstlichen Intelligenz wird als Allheilmittel für viele gesellschaftliche Missstände angepriesen. Sie hat das Potenzial, Ärzten bei der Erkennung von Krebserkrankungen zu helfen, bei der Entwicklung neuer Impfstoffe mitzuwirken, das Wetter vorherzusagen, Fußballmannschaften mit Erkenntnissen über ihre Strategien zu versorgen und langweilige Aufgaben wie Autofahren oder Verwaltungsarbeit zu automatisieren.
Und natürlich kann sie auch zur Überwachung eingesetzt werden.
Man kann sagen, dass es so etwas wie KI ohne Überwachung nicht gibt. KI-Anwendungen sind auf Berge von Daten angewiesen, um Algorithmen zu trainieren, damit sie Muster erkennen und Entscheidungen treffen können. Viele dieser Daten werden von Verbrauchern gesammelt, ohne dass sie es merken. Internetfirmen verfolgen unsere Klicks, um unsere Vorlieben für Produkte, Nachrichtenartikel oder Werbung zu erahnen. Das Gesichtserkennungsunternehmen Clearview AI sammelt Bilder von Websites wie Facebook und YouTube, um sein Modell zu trainieren. Facebook hat kürzlich angekündigt, KI-Modelle mit öffentlichen Videos zu trainieren, die Nutzer auf die Plattform hochgeladen haben.
Zunehmend werden die Algorithmen jedoch nicht nur durch Überwachung angetrieben. Sie werden auch in ihrem Dienst eingesetzt.
Die Coronavirus-Pandemie – und der Bedarf an schnellen Daten über die öffentliche Gesundheit – hat die Tür zur Datenerfassung und -verfolgung in einem Ausmaß geöffnet, das vor etwas mehr als einem Jahr noch fast unvorstellbar gewesen wäre.
Regierungen haben Informationen von Mobiltelefonen genutzt, um Bewegungen in der Europäischen Union zu verfolgen. Unternehmen haben Kameras aufgestellt, die mit KI ausgestattet sind, um zu überprüfen, ob Arbeiter und Kunden sich an die Regeln der sozialen Distanzierung halten. Frankreich hat eine Gesichtserkennungstechnologie in öffentlichen Verkehrsmitteln eingeführt, um das Tragen von Masken zu überwachen.
“Die Normalisierung der biometrischen Überwachung ist mit [der] COVID-19 ziemlich offensichtlich”, sagte Fabio Chiusi, ein Projektmanager bei AlgorithmWatch, einer Interessengruppe, die automatisierte Entscheidungsfindung überwacht.
Der Einsatz von KI zur Überwachung geht natürlich dem Coronavirus voraus. Fast jedes europäische Land hat irgendeine Version der Gesichtserkennungstechnologie im Einsatz. Die niederländische Polizei nutzt sie, um Fotos von Verdächtigen mit einer Verbrecherdatenbank abzugleichen. Die Londoner Metropolitan Police nutzt Live-Gesichtserkennung, um Gesichter mit Kriminellen in einer Datenbank abzugleichen. Die französische Regierung ist ein Fan des Einsatzes von KI, um “verdächtiges Verhalten” zu verfolgen.
Die schnelle Einführung von Überwachungstechnologien hat die Frage aufgeworfen, wie sie zu den Werten einer Gesellschaft passen. Insbesondere die Gesichtserkennung wirft ein Schlaglicht auf die Kompromisse zwischen der Privatsphäre und dem legitimen Bedürfnis nach Verfolgung. Befürworter der Technologie sagen, sie sei ein mächtiges Werkzeug, das Einwanderungsbeamten helfen kann, Reisende an den Grenzen zu scannen, oder der Polizei, Kriminelle zu fangen.
Ähnliche Algorithmen werden auch für die so genannte biometrische Erkennung entwickelt, bei der Menschen anhand ihres Aussehens, ihrer Stimme oder ihres Gangs identifiziert werden. Es gibt einen “wachsenden Impuls innerhalb der Biometrie-Felder, die Emotionen von Menschen zu identifizieren, und andere Zustände, die auf dem äußeren Erscheinungsbild basieren”, sagte Ella Jakubowska von der Gruppe für digitale Rechte EDRi, die sich für ein Verbot der Technologie eingesetzt hat. Sie fügte hinzu, dass dieser Einsatz der Technologie “ernsthaft nicht auf einer glaubwürdigen Wissenschaft basiert”.
In den Vereinigten Staaten haben die Bedenken über die Technologie einige Staaten und Städte dazu veranlasst, härtere Grenzen zu ziehen. Die Stadt Portland, Oregon, hat ein generelles Verbot für den Einsatz von Gesichtserkennungstechnologie für ihre städtischen Dienststellen sowie für Geschäfte, Restaurants und Hotels erlassen. New York City hat die Gesichtserkennung in seinen Schulen verboten, und Aktivisten fordern, dieses Verbot auf die Straßen der Stadt auszuweiten.
Aktivisten haben auch Alarm geschlagen wegen des Schadens, den diese Systeme bei Randgruppen anrichten können. “Es ist ziemlich klar in den Mustern, die wir in ganz Europa sehen, dass der Einsatz dieser Systeme Stereotypen und diskriminierende Ideen darüber, wer eher kriminell ist und wem man nicht trauen kann, in einer Art und Weise verfestigt, die wirklich sehr gefährlich ist”, sagte Jakubowska.
