Die meisten Algorithmen, die zum Beispiel das Herzstück Googles und Facebooks bilden, sind Geheimnisse der Unternehmen. Heiko Maas sagt: Sie müssen kontrolliert werden.

Justizminister Heiko Maas schlägt ein "digitales AGG" vor, ein "Antidiskriminierungsgesetz für Algorithmen gegen digitale Diskriminierung und für vorurteilsfreies Programmieren". Er sieht ein Problem darin, dass vor allem große Unternehmen mit ihren Algorithmen den Alltag von Menschen beeinflussen, ohne dass eine Regulierungsinstanz diese Algorithmen prüfen oder gar kontrollieren kann.

Kriterien unbekannt

Wo heute oder in Zukunft Algorithmen beispielsweise im Einsatz sind:

  • Auswahl und Sortierung von journalistischen wie privaten Nachrichten (z.B. Facebook)
  • Auswahl und Sortierung von Suchergebnissen und Werbeanzeigen (z.B. Google)
  • Steuerung von Mobilität (z.B. autonome Fahrzeuge, selbstfahrende U-Bahnen und Züge)
  • Kommunikation von Produkten in Produktion und Logistik (Internet der Dinge)
  • Berechnung von Versicherungspolicen und Kreditwürdigkeit
  • Steuerung von Prozessen an der Börse und in Banken, automatische Käufe und Verkäufe von Finanzprodukten

Obwohl Algorithmen in vielen Bereichen Menschen konkret betreffen, "wissen wir nicht, nach welchen Kriterien sie funktionieren", sagt Deutschlandfunk-Nova-Netzreporterin Martina Schulte. Die Unternehmen behandelten ihre Algorithmen wie Geheimnisse. So wüsste niemand genau, wie zum Beispiel Facebook die Timeline organisiert und warum welche Nachrichten angezeigt werden und welche nicht.

Um das zu ändern, schlägt Heiko Maas eine Art Kontrollbehörde vor. Diese soll zum Beispiel verhindern, dass Personen von Algorithmen diskriminiert werden.

Risiken bei den Algorithmen zu groß

Das ist ein ambitionierter Vorschlag. Martina Schulte hält die Idee für schwierig umzusetzbar. Bitkom-Hauptgeschäftsführer Bernhard Rohleder lehnt im Handelsblatt gar ab: "Deutschland geht so erneut einen Sonderweg und schneidet sich von digitalen Entwicklungen ab."

Obwohl verständlich ist, dass ein Verband der Internetwirtschaft sich gegen mehr Kontrolle positioniert - die Aussage, dass Deutschland einen Sonderweg geht, stimmt nicht ganz. Denn auch zum Beispiel der US-amerikanische Forscher Ben Shneiderman, der zu den wichtigsten Internet-Forschern weltweit gehört, spricht sich für Kontrollen aus. Er sagt: Die Risiken bei den Algorithmen seien so groß, dass es Zeit sei, die Regierungen einzubinden.

Er stellt sich zum Beispiel ein "National Algorithm Safety Board" vor, das wie eine Banken- oder Arzneimittelaufsicht funktionieren könnte.