Diskriminierungen durch Algorithmen geschehen tagtäglich: Es gibt beispielsweise Fotoautomaten in Ämtern, die Menschen mit dunkler Hautfarbe nicht erkennen. Die Initiative Unding hilft, in solchen Fällen Beschwerde einzulegen.

Irgendetwas stimmt mit eurem Schufa-Eintrag nicht, denn plötzlich geltet ihr nicht mehr als kreditwürdig, obwohl das nicht sein kann. Oder: Eine kleine Veränderung im Algorithmus einer Navigations-App führt dazu, dass der Verkehr vor eurer Haustür stark zunimmt oder Googles Auto-Vervollständigung dichtet euch allerhand Unwahres an?

Die Website Unding.de kann Betroffene dabei unterstützen, gegen Diskriminierungen und Benachteiligungen dieser Art vorzugehen.

"Was wir mit Unding machen, ist eine Lücke aufzeigen und Handlungsdruck erzeugen für ein Gebiet, wo sich momentan noch niemand drum kümmert."
Anna Lena Schiller, Projektleiterin

Unding.de ist ein Angebot an Betroffene, dass ihnen bei der Kommunikation mit Unternehmen hilft, die Algorithmen mit diskriminierenden oder benachteiligenden Folgen einsetzen, beschreibt unser Reporter Konstantin Köhler die Initiative.

Der Service, den die Initiative leistet, liegt zum Beispiel darin, dass direkte Ansprechpartner bei Unternehmen wie Google und Co recherchiert wurden. Außerdem stellt Unding.de selbst den Kontakt zu diesen Unternehmen her und leitet Beschwerden direkt an die richtige Stelle. Denn oft genug wissen Betroffene gar nicht, wohin sie sich mit ihrem Anliegen wenden können oder sollten.

Das erhöhe zumindest schon einmal die Chance, dass diese Nachricht von den Firmen registriert und beantwortet werde, sagt Konstantin Köhler.

Alltagsproblem: Benachteiligende Algorithmen

Wer eine Beschwerde einreicht, muss ein paar Fragen beantworten. Wenn es sich zum Beispiel um einen Fotoautomaten handelt, der Menschen mit dunkler Hautfarbe diskriminiert, indem er sie nicht erkennt, dann können das Fragen sein, wie zum Beispiel: "Wo steht der Automat?", "Wer ist der Hersteller?"

Mit diesen Informationen erstellt Unding.de dann im Namen desjenigen, der die Beschwerde eingereicht hat, ein automatisches Anschreiben. Dieses kann der- oder diejenige dann mit einem Klick direkt an die entsprechende Behörde oder das Unternehmen schicken. Wird diese Anfrage nicht beantwortet, hakt die dahinter stehende Software automatisch nach.

Entscheidungen, die auf Algorithmen basieren, transparenter machen

Hinter Unding steht die Nichtregierungsorganisation (NGO) Algorithm Watch aus Berlin. Die wurde gegründet, um Entscheidungen, die auf Algorithmen basieren, transparenter zu machen.

Die Initiative Unding ist sozusagen der Versuch, das Bewusstsein für diskriminierende und benachteiligende Algorithmen bei Verbraucherinnen, Unternehmen und Behörden, sagt die Projektleiterin Anna Lena Schiller.

"Niemand geht jetzt hin und sagt 'Wir machen einen rassistischen Algorithmus und der soll schwarze Menschen benachteiligen'. Aber nichtsdestotrotz passiert es, und das müssen wir abschaffen."
Anna Lena Schiller, Projektleiterin

Dass ein Unternehmen einen diskriminierenden Algorithmus von sich aus sofort behebt, sei unwahrscheinlich, schätzt unser Reporter Konstantin Köhler ein. Letztendlich gehe es darum, öffentlichen Druck aufzubauen.

Die Initiative Unding spricht selbst davon, dass es diesen öffentlichen Druck braucht und ein breiteres Bewusstsein für dieses Thema, damit sich etwas verbessert. Demnächst will Unding auch eine Art Statistik veröffentlichen, aus der ersichtlich wird, welche Unternehmen oder Behörden sich bemühen, diskriminierende Praktiken zu beheben und welche nicht.