Wenn die Polizei für ihre Ermittlungen die Gesichtserkennung einsetzt, ist das problematisch. Zum einen, weil der Grat zur Massenüberwachung schmal ist. Zum anderen, weil die Algorithmen, die im Auftrag der Polizei in Fotodatenbanken nach Tätern suchen, oft schwerwiegende Fehler machen. Ein Mann aus Detroit hat die Behörden deswegen jetzt verklagt.
Robert Williams aus Detroit wurde wegen eines Gesichtserkennungsfehlers verhaftet. Er ist der erste Mensch, bei dem eine solch schwerwiegende Verwechslung offiziell publik wurde. Eine von der Polizei verwendete Gesichtserkennungssoftware hatte ihn irrtümlich für den Täter bei einem Einbruchsdiebstahl gehalten. Deswegen saß er 30 Stunden im Gefängnis.
Hochumstrittene Ermittlungsmethode
Der Fall schlägt in den USA gerade hohe Wellen, denn mit Hilfe der Bürgerrechtsorganisation ACLU hat Williams die Polizeibehörde in Detroit wegen des Fehlers verklagt. In seiner Klage fordert Williams eine finanzielle Wiedergutmachung und mehr Transparenz über die Nutzung von Gesichtserkennungssoftware durch Polizeibehörden. Außerdem verlangen seine Anwälte, dass die Detroiter Polizei diese umstrittene Technologie nicht länger benutzt.
"Robert Williams wurde von der Polizei des Diebstahls in einem Uhrengeschäft beschuldigt, in dem er nie war."
Im Januar 2020 bekam Williams bei der Arbeit einen Anruf von der Polizei. Ihm wurde mitgeteilt, er solle sich zu einer Polizeistation in Detroit begeben, um sich dort festnehmen zu lassen. Williams hielt den Anruf für einen Scherz. Das hatte zur Folge, dass vor seiner Haustür, als er zurückkam, ein Streifenwagen auf ihn wartete. Die Beamten nahmen ihn vor den Augen seiner zwei kleinen Töchter fest – ohne ihm oder seiner Frau genau zu sagen, warum. Auf dem Haftbefehl, dem man ihm zeigte, wurde er des Diebstahls beschuldigt – eines Diebstahls in einem Uhren-Geschäft, in dem er nie war.
Softwarefehler und Verwechslung
Bei der Polizei wurden die verrauschten Bilder der Überwachungskamera des Uhren-Geschäfts mit Hilfe eines Gesichtserkennungsprogramms mit Williams Führerscheinfoto gematcht. Außerdem hatte ein Angestellter des Geschäfts fälschlicherweise behauptet, auf Williams Führerscheinfoto den Täter wiederzuerkennen.
Das Problem hinter dem Fehler: Zum einen waren die Aufnahmen aus der Überwachungskamera nicht sehr gut. Vor allem aber ist Williams leider ein erneutes Beispiel für eine bekannte Schwäche der handelsüblichen Gesichtserkennungsprogramme, erklärt Deutschlandfunk-Nova-Netzreporterin Martina Schulte: Robert Williams Hautfarbe ist schwarz. Weil die Software aber oft überwiegend mit weißen Gesichtern trainiert wird, entstehen Fehler bei BPoC. Der Fall Williams ist dabei kein Einzelfall. Wie die New York Times berichtet, wurden in den USA zwei weitere Afroamerikaner Opfer von fälschlichen Verhaftungen wegen Gesichtserkennungsfehlern.
Fall Williams kein Einzelfall
Expertinnen und Experten gehen jedoch von einer wesentlich höheren Dunkelziffer aus. Viele Opfer können den Irrtum nämlich vermutlich nicht beweisen oder haben zur Tatzeit kein Alibi. Gerade erst hat ein aktueller Bericht des US-amerikanischen National Institute of Standards and Technology bei den meisten handelsüblichen Gesichtserkennungs-Algorithmen eine Ungleichbehandlung festgestellt: Schwarze oder asiatische Menschen werden von diesen Systemen zehn bis 100 Mal häufiger nicht korrekt erkannt als weiße Gesichter.
"Die meisten Algorithmen erkennen schwarze oder asiatische Menschen zehn bis 100 Mal häufiger nicht korrekt als weiße Gesichter, sagt ein aktueller Bericht."
Bei uns in Deutschland hat Bundesinnenminister Horst Seehofer (CSU) vor kurzem zwar eine Ausweitung der Gesichtserkennung in der Polizeiarbeit gestoppt. Doch bereits jetzt werden in Deutschland zunehmend Kriminalfälle mit Hilfe eines Algorithmus geklärt, der Gesichter erkennt. Dabei vergleicht die Polizei die Aufnahmen von Verdächtigen mit in einer Datenbank erfassten Lichtbildern von Straftätern.
Die EU will den Einsatz Künstlicher Intelligenz unter anderen auch bei der Gesichtserkennung nun schärfer regulieren. Die Kommission will dazu nächste Woche einen Gesetzentwurf vorlegen.