Ich hasse dich, meine Liebe.
Dieser Satz schafft es selbst das ausgefeilteste Sprach-Tool zu überlisten. Ein Forscherteam der Universität Aalto aus Helsinki hat sieben Programme getestet, die Hate-Speech im Internet entdecken sollen. Kein Programm hat den Test bestanden.
Die Forscher haben Tippfehler eingebaut, Leerzeichen weggelassen und harmlose Wörter eingebaut. Gerade die Leerzeichen haben es den Programmen schwer gemacht, Hate-Speech zu erkennen. Der Satz "Ich hasse dich" wurde als neutral bewertet, wenn das Wort "Liebe" dazu kam und die Leerzeichen weggelassen wurden.
Für die Forscher steht fest: Hate-Speech ist sehr subjektiv und abhängig vom Kontext. Programme, die nur den Text analysieren, haben da große Schwierigkeiten. Neben der Verfeinerung von Programmen müsse außerdem mehr auf die Datensätze geachtet werden, mit denen die Programme gefüttert werden und anhand derer sie lernen, was Hate-Speech überhaupt ist.