Sie berechnen die kürzeste Strecke im Navi, ermitteln unseren Schufa-Score oder sortieren unsere Timeline: Algorithmen sind das Schmiermittel des digitalen Fortschritts. Aber auch irgendwie suspekt, da sie mit dafür verantwortlich sind, dass User in einer Filterblase leben. Der Verbraucherzentrale Bundesverband will die die Algorithmen zähmen – und fordert einen Algorithmus-TÜV.
Ein Algorithmus ist eine "Verarbeitungsvorschrift, die so präzise formuliert ist, dass sie auch von einer Maschine abgearbeitet werden kann." So weit, so gut. Weniger klar sind allerdings die Details des Vorhabens, sagt unser Netzautor Andreas Noll. Zunächst einmal gibt es nur dieses Schlagwort, das vom Chef des Verbraucherzentrale Bundesverbands, Klaus Müller, in die Welt gesetzt wurde.
"Unter TÜV versteht man ja eine technische Überprüfung eines Produktes. Und warum sollten Algorithmen von einem unabhängigen Unternehmen technisch überprüft werden? Hat wenig Sinn."
Was wohl in dieser Debatte eher gemeint ist, dass wir mehr Transparenz brauchen bei den Algorithmen. Die Verbraucherzentrale nennt als Beispiele Online-Angebote zu Versicherungstarifen oder Studienplätzen. Da könnte man sich vorstellen, dass eine Behörde überprüft, ob diese Entscheidungen nachvollziehbar sind oder es Benachteiligungen wegen bestimmter Daten-Informationen gibt, meint Andreas Noll. Dass man also aufgrund von Wohnort und Alter zum Beispiel keine Versicherung bekommt.
"Wenn so eine Entscheidung per Algorithmus gefällt wird und vollständig automatisiert, dann habe ich ja gar keine Person mehr, die für diese Entscheidung verantwortlich ist. Das wirft schon Probleme auf."
Auch die Bundeskanzlerin hat im vergangenen Jahr für mehr Transparenz bei Algorithmen geworben. Ob man das jetzt "TÜV" nennt oder "Überwachungsbehörde" ist erst mal egal. Wie lässt sich so etwas überhaupt überwachen?
Selbst kleine Apps fürs Handy bestehen zum Teil aus mehreren Millionen Zeilen Source Code. Da sollen nun Firmen jeden verwendeten Algorithmus katalogisieren und um einen offiziellen Stempel bitten? Das ließe sich wohl nicht durchsetzen und wäre ein gigantischer Verwaltungsaufwand.
"Hinzu kommt die Tatsache, dass die Algorithmen natürlich unter das Geschäftsgeheimnis fallen. Sie entscheiden darüber, ob eine Software gut oder schlecht funktioniert."
Algorithmen können zur Gefahr für die Gesellschaft werden: Im vergangenen Jahr gab es eine Debatte über depressive Internet-User, die man anhand von Daten aus sozialen Netzwerken relativ treffsicher erkennen kann.
Außerhalb der menschlichen Kontrolle
Wenn nun ein Algorithmus aufgrund dieser Daten voraussagt, dass der Bewerber wahrscheinlich depressiv wird, wird ihn der Arbeitgeber sicher nicht anstellen. Das ist natürlich ein Problem – zu dem ganz offensichtlich eine praktikable Lösung fehlt.
Ein Ansatz wäre, nur noch OpenSource-Software einzusetzen, da in diesen Programmen jeder nachschauen kann, nach welchen Kriterien die Algorithmen funktionieren. Aber für die interessanten Bereiche (Facebook, Versicherungen, Suchmaschinen) sieht es ja mit den OpenSource-Alternativen nicht gerade rosig aus. Und wie in einigen Jahren selbstlernende Künstliche-Intelligenz-Systeme funktionieren, ist wieder eine andere Sache.