Die Software lag falsch, aber Angela Lipps musste dennoch 108 Tage in einem Gefängnis in Tennessee verbringen, um das zu beweisen.
Drahtgitter eines menschlichen Gesichts in Neonrot und -grün mit geometrischen Netzwerk-Linien und schaltkreisähnlichen Verbindungen auf schwarzem Hintergrund.
Regina Morrison
Angela Lipps verbrachte fast sechs Monate im Gefängnis, weil ein Algorithmus Überwachungsaufnahmen analysierte und entschied, dass sie dem Verdächtigen entsprach. Sie war nie in North Dakota gewesen. Sie war nie in einem Flugzeug gewesen. Ein Gesichtserkennungssystem behauptete das Gegenteil, und die Polizei hielt das für ausreichend.
Lipps, eine 50-jährige Mutter und Großmutter aus dem nördlichen Zentral-Tennessee, wurde im Juli in ihrem Zuhause verhaftet, während sie vier Kinder betreute. US-Marshals erschienen mit gezogenen Waffen. Sie wurde als flüchtige Straftäterin registriert.
„Ich war noch nie in North Dakota, ich kenne niemanden aus North Dakota“, sagte sie gegenüber WDAY News.
Der Fall begann mit Bankbetrug in Fargo.
Zwischen April und Mai 2025 nutzte jemand einen gefälschten militärischen US-Armee-Ausweis, um Zehntausende Dollar von Banken in der ganzen Stadt abzuheben. Ermittler sicherten Überwachungsaufnahmen einer Frau an den Schaltern. Sie speisten diese Aufnahmen in eine Gesichtserkennungssoftware ein. Die Software lieferte einen Namen: Angela Lipps.
Ein Ermittler schrieb in Gerichtsunterlagen, dass Lipps dem Verdächtigen anhand von Gesichtszügen, Körperbau und Frisur zu entsprechen schien.
Diese Einschätzung, von Software getroffen und in einem Bericht abgenickt, wurde als ausreichender Grund für eine Festnahme betrachtet. Niemand von der Polizei in Fargo rief Lipps an, bevor die Marshals an ihrer Tür erschienen.
Sie saß 108 Tage in einem Bezirksgefängnis in Tennessee und wartete darauf, dass North Dakota ihren Transport organisiert. Keine Kaution. Vier Anklagepunkte wegen unbefugter Nutzung personenbezogener Identifikationsdaten. Vier Anklagepunkte wegen Diebstahls. Der Algorithmus hatte gesprochen.
Ihr Anwalt, Jay Greenwood, sagte gegenüber InForum: „Wenn das Einzige, was Sie haben, Gesichtserkennung ist, würde ich vielleicht etwas tiefer graben wollen.“
Die Polizei von Fargo grub nicht tiefer. Was Lipps letztendlich entlastete, waren ihre Bankunterlagen, die zeigten, dass sie sich während jeder Transaktion, die ihr in North Dakota zugeschrieben wurde, mehr als 1.200 Meilen entfernt in Tennessee befand. Greenwood beschaffte diese Unterlagen und legte sie den Ermittlern vor. Lipps wurde am Heiligabend freigelassen.
Doch die Geschichte endete nicht dort. Während sie inhaftiert war und ihre Rechnungen nicht bezahlen konnte, verlor Lipps ihr Zuhause, ihr Auto und ihren Hund. Als die Polizei von Fargo sie freiließ, organisierten sie nicht einmal ihre Rückreise nach Tennessee. Verteidiger halfen, ein Hotelzimmer und Essen über Weihnachten zu bezahlen. Eine lokale gemeinnützige Organisation, das F5 Project, brachte sie nach Hause.
Zum Zeitpunkt der Berichterstattung von InForum hatte sich niemand von der Polizei in Fargo entschuldigt.
So funktioniert Gesichtserkennung: Sie erzeugt eine Übereinstimmung, die Strafverfolgungsbehörden handeln darauf, und die Last, die Vermutung eines Computers zu widerlegen, liegt vollständig bei der Person, deren Leben dadurch aus den Fugen gerät.
Lipps musste dokumentarische Beweise für ihren eigenen Aufenthaltsort vorlegen, um den auf Software basierenden Anschuldigungen zu entkommen – obwohl diese schlicht falsch waren.
Der Fall Lipps ist kein Einzelfall. Im vergangenen Oktober identifizierte ein KI-System an einer Schule in Baltimore eine Tüte Doritos als Schusswaffe und alarmierte die Polizei.
Beamte trafen bewaffnet an der Kenwood High School ein, zwangen den Schüler Taki Allen auf die Knie, legten ihm Handschellen an und durchsuchten ihn. Sie fanden nichts.
Im Vereinigten Königreich hatte Shaun Thompson, 39, gerade eine ehrenamtliche Schicht bei Street Fathers beendet – einer Gruppe, die sich dafür einsetzt, junge Menschen von Messerkriminalität abzuhalten –, als die Live-Gesichtserkennungskameras der Metropolitan Police ihn vor der London Bridge Station erfassten.
Beamte hielten ihn fast eine halbe Stunde fest, verlangten seine Fingerabdrücke und drohten mit Verhaftung, obwohl er mehrere Ausweisdokumente vorlegte, die bewiesen, dass er nicht die gesuchte Person war. „Sie sagten mir, ich sei ein gesuchter Mann, wollten meine Fingerabdrücke und versuchten, mir mit einer Verhaftung Angst zu machen, obwohl ich wusste und sie wussten, dass der Computer sich geirrt hatte“, sagte er.
Thompson führt nun die erste rechtliche Klage dieser Art gegen den Einsatz von Live-Gesichtserkennung durch die Metropolitan Police. Der Mann, den der Algorithmus als Kriminellen identifizierte, verbrachte seinen Abend damit, Kriminalität zu verhindern. Die Technologie machte keinen Unterschied.
Was all diese Fälle gemeinsam haben, ist eine identische Struktur: Ein System trifft eine Identifizierung, menschliche Kontrolle behandelt diese als zuverlässig, und die betroffene Person hat keinen Ausweg, bis bereits erheblicher Schaden entstanden ist.
