In den USA ist wegen eines Fehlers bei der Gesichtserkennung ein Mann unschuldig im Gefängnis gelandet. Die Hautfarbe des Mannes scheint für den Algorithmus ein Problem gewesen zu sein.

Gesichtserkennung ist umstritten, gerade weil Algorithmen schwerwiegende Fehler machen können, mit denen Polizist*innen Datenbanken durchsuchen. So wie bei Randal Reid, der Ende 2022 für knapp eine Woche unschuldig im Gefängnis gesessen hat. Vorgeworfen wurde ihm, Luxushandtaschen von Edel-Marken im Wert von mehr als 10.000 Euro gestohlen zu haben – in einem Vorort von New Orleans, im Südosten von Louisiana.

Der angebliche Täter, eine Gesichtserkennung hatte Randal Reid als solchen ermittelt, war auf der Autobahn im Bundesstaat Georgia gerade auf dem Weg zu seiner Mutter. Die Polizei hat ihn gestoppt und ihn damit konfrontiert, dass ein Haftbefehl gegen ihn vorliegt. Randal Reid hat zwar der Polizei erklärt, dass er noch nie in Louisiana gewesen sei, das habe die Beamten aber wenig interessiert.

Wenn dem Algorithmus mehr als den Tatsachen vertraut wird

Seltsamerweise habe den Polizist*innen auch nicht zu denken gegeben, dass die Täterbeschreibungen aus dem Haftbefehl gar nicht zu Randal Reid gepasst haben. Später hat der Anwalt des Beschuldigten die Unterschiede aufgezählt:

  • Randal Reid sei rund 20 Kilo leichter als der Täter auf den Videoaufnahmen vom Diebstahl,
  • seine Arme seien muskulöser als die des Täters,
  • die Größe stimme ebenfalls nicht überein
  • und außerdem hat Randal Reid ein deutlich sichtbares Muttermal im Gesicht.

Aber weil der Name von Randal Reid auf dem Haftbefehl gestanden hat, hat ihn die Polizei in Georgia ganze sechs Tage festgehalten. Es hat sich sogar noch eine zweite Polizeibehörde gemeldet, die ihm, ebenfalls aufgrund der falschen Gesichtserkennung, auch gleich noch einen zweiten Handtaschenraub zur Last legen wollte.

Sechs Tage in Angst

Am Ende ist es dem Anwalt gelungen, anhand des Muttermals von Randal Reid die Polizei davon zu überzeugen, dass es sich um einen Fehler handeln muss. Doch für Randal Reid seien die sechs Tage Haft die Hölle gewesen, weil er vor Sorgen habe nicht schlafen oder essen können. Denn er hat befürchtet, aufgrund der Inhaftierung seinen Job zu verlieren.

Der Fall Randal Reid ist nicht der erste, bei dem Fehler der Gesichtserkennung zu fälschlichen Festnahmen führen. Diese Fehler treten bei Menschen mit schwarzer oder dunkler Hautfarbe auf, aber nicht nur bei Afroamerikaner*innen, sondern auch bei anderen ethnischen Minderheiten, Frauen und jungen Menschen, sagt die Bürgerrechtsorganisation Electronic Frontier Foundation.

"Wegen der Datenschutzbedenken und der zahlreichen Fehler von Gesichtserkennungssystemen bemühen sich Kritiker in vielen Ländern darum, die Verwendung der Technologie durch die Regierung zu verbieten."
Martina Schulte, Deutschlandfunk-Nova-Netzreporterin

Die Gesichtserkennungssoftware sei vor allem mit Gesichtern von Menschen trainiert worden, die eine weiße Hautfarbe haben. Umstritten ist das Gesichtserkennungsprogramm Clearview AI. Die Software gleicht Fotos von Verdächtigen mit einer riesigen Datenbank aus Social-Media-Fotos und anderen Quellen ab. Clearview verfügt nach eigenen Angaben über Daten zu 30 Milliarden Gesichtern weltweit. Ob die Behörden in Louisiana diese Software benutzt haben, ist nicht bekannt.

  • Moderator:  Markus Dichmann
  • Gesprächspartnerin:  Martina Schulte, Deutschlandfunk-Nova-Netzreporterin