• Abonnieren
  • Spotify
  • iTunes
  • Google

Amazons Experten für Künstliche Intelligenz haben ein Problem entdeckt: Sie haben zwar ein schickes Programm für die Auswahl neuer Mitarbeiter entwickelt. Das mag aber keine Frauen.

Laut einem Reuters-Bericht durchkämmen bei Amazon seit Jahren Computerprogramme die Bewerbungsschreiben nach geeigneten Kandidaten. Dabei wurden die Bewerber nach einem Fünf-Sterne-System bewertet - ein bisschen so, wie Kunden auch Amazon-Produkte bewerten. Nach einer Weile entdeckten die Entwickler aber, dass der Algorithmus sich selbst beigebracht hatte, dass Männer immer die bessere Wahl waren. Der Grund: Er orientierte sich an allen Bewerbungen der letzten zehn Jahre. Und da gab es nun mal mehr männliche Kandidaten. Interessanterweise sortierte die Software nicht einfach Lebensläufe von Frauen aus, sondern solche, in denen etwa "Kapitänin der Frauenmannschaft" stand oder "Mädchenschule". Bevorzugt wurden Lebensläufe, in denen Wörter standen wie "ausgeführt" oder "ergreifen", die tendenziell eher in Bewerbungen von männlichen Ingenieuren standen.

Sexistischer Algorithmus ausgeschaltet

Die Entwickler versuchten, die Männervorliebe auszuschalten - aber so richtig vertraute keiner mehr dem Programm. Sodass es laut dem Bericht schließlich beendet wurde. Amazon selbst wollte sich nicht zu dem Algorithmus äußern. Das Unternehmen teilte aber mit, dass das Programm nie von Personalern zur Auswahl von Bewerbern benutzt worden sei.

Derzeit versuchen einige Unternehmen, den Auswahlprozess von Mitarbeitern zu automatisieren, etwa die Hotelkette Hilton und die Investmentbank Goldman Sachs. Auch bei der Gesichtserkennung, vor Gericht oder in Krankenhäusern könnte KI in Zukunft stärker eingesetzt werden. Forscher warnen schon länger davor, dass sich dabei leicht Vorurteile, zum Beispiel zu Ethnien oder Geschlechtern, in die Algorithmen einschleichen können und die Verzerrung möglicherweise unbemerkt bleibt.