Das New Yorker "AI Now Institute" warnt in seinem Jahresbericht vor dem unregulierten Einsatz von Gesichtserkennung und Künstlicher Intelligenz.

Nicht nur Facebook, Amazon und Microsoft nutzen Gesichtserkennung und bieten diese Software zahlenden Kunden an. Auch in Deutschland hatte zuletzt der Großversuch der deutschen Polizei am Berliner Südkreuz für Diskussionen gesorgt. Das Problem: Die Technologie zur Gesichtserkennung wird eingesetzt, ohne dass bisher über ethische Dimensionen und mögliche Regulierungen gesprochen wird.

Das New Yorker "AI Now Institute" fordert jetzt in seinem Jahresbericht, dass Staaten enge Grenzen ziehen müssten für den Einsatz von Gesichtserkennung und Künstlicher Intelligenz. Denn durch die Technologie sei es möglich, die Bewohner eines ganzen Landes komplett zu überwachen. Deshalb müsse deren Einsatz streng reguliert werden.

Externer Inhalt

Hier geht es zu einem externen Inhalt eines Anbieters wie Twitter, Facebook, Instagram o.ä. Wenn Ihr diesen Inhalt ladet, werden personenbezogene Daten an diese Plattform und eventuell weitere Dritte übertragen. Mehr Informationen findet Ihr in unseren  Datenschutzbestimmungen.

Mit dieser Forderung steht Ai Now aber nicht alleine da. Auch Microsoft-Chef Brad Smith hat in einem eindringlichen Appell neue Gesetze zur Regulierung der automatischen Gesichtserkennung gefordert. Denn obwohl es noch keine eindeutigen Regelungen gibt, wird Gesichtserkennung bereits in vielen Ländern eingesetzt. Zum Beispiel von der Polizeibehörde in China, den USA und in Deutschland. 

Das Problem: Tests haben gezeigt, dass die Software rassistische Stereotype reproduziert. Und nicht nur Polizeibehörden machen von der Technologie Gebrauch. Auch Musikerin Taylor Swift hat bereits auf ihren Konzerten Gesichtserkennung eingesetzt, um in der Masse Gesichter bekannter Stalker zu erkennen.

Gefährliche Affekterkennung

Besondere Sorge bereitet den Forschern bei Ai Now die sogenannte Affekterkennung. Dabei geht es darum, anhand der Mimik oder des Verhaltens einer Person Rückschlüsse auf den Charakter oder die Fähigkeiten zu ziehen. Ein solches System wird zum Beispiel von der Personalbeschaffungsfirma "Hire Vue" eingesetzt. Das Unternehmen rekrutiert unter anderem Mitarbeiter für Großkonzerne wie Unilever oder die Hilton-Hotel-Gruppe.

"Das System kann angeblich den Ton, die Wortwahl und den Gesichtsausdruck eines Kandidaten beim Bewerbungsgespräch analysieren und seine Fähigkeiten für den späteren Job einschätzen."
Martina Schulte, Deutschlandfunk Nova

Ai Now bewertet den Einsatz dieser Systeme als brandgefährlich. Denn bisher gäbe es keine verlässlichen Studien, die zeigen, dass die Marketingversprechen solcher Firmen überhaupt wahr sind.

"Trotzdem wird diese Technologie heute bereits in Bewerbungsgesprächen, bei der Vergabe von Versicherungen oder in der Polizeiarbeit eingesetzt."
Martina Schulte, Deutschlandfunk Nova

Um eine sinnvolle Gesetzgebung und Regulierung zu erreichen, empfiehlt das New Yorker Institut, eine kompetenzbezogene Verantwortlichkeit einzurichten. Das heißt konkret: Keine nationale Aufsichtsbehörde, sondern eine Entscheidung über den Einsatz je nach Behörde und Einsatzbereich.

Eine nationale Behöre könne nicht genug Detailwissen in allen Bereichen haben, um richtige Entscheidungen zu treffen. Genau so eine nationale Behörde ist aktuell in Deutschland geplant.

In der Ende November vorgestellten KI-Strategie heißt es, Deutschland wolle ein "Observatorium für künstliche Intelligenz"einrichten, das die Verbreitung und Auswirkungen von KI beaufsichtigen soll. Also im Prinzip genau das, wovon das New Yorker Forschungsinstitut abrät, schreibt Netzpolitik.org in seinem Artikel.

Mehr zum Thema: