Manche Plattformen löschen auch Inhalte, die weder beleidigend noch Spam sind. Um dem zu entgehen, haben sich die User etwas einfallen lassen.

Wer bei Tiktok, Facebook und Instagram Wörter wie Sex, Vibrator oder lesbisch verwendet, muss damit rechnen, dass der Post oder der Kommentar gelöscht wird. Denn die Plattformen unterbinden die Verbreitung bestimmter Begriffe.

Tiktok und Co. begründen das Ausfiltern mit der Verhinderung von Spam, Hassrede und Beleidigung. Je nach Definition gehen die Plattformen hier aber zu weit und führen eher eine Art willkürliche Zensur aus. Recherchen von NDR, WDR und Tagesschau zeigen: Gelöscht werden auch Kommentare mit Begriffen wie "homosexuell", "schwul" und "queer".

Schwul = s<hwul

Nutzerinnen und Nutzer haben deshalb eine Art Geheimsprache entwickelt, für die sich der Begriff Algospeak etabliert hat. Algo ist die Abkürzung für Algorithmus. Algospeak umfasst also Begriffe, die der Algorithmus von Tiktok und Instagram nicht findet. Noch nicht jedenfalls.

Beispiele:

  • Nippel = Nip Nops
  • Vibrator = Spicy eggplant
  • Sex = SeGGs
  • schwul = s<hwul
  • lesbian = le$bian

Dass Nutzerinnen und Nutzer sich mit abwandelten Begriffen behelfen müssen, damit ihre Inhalte nicht gelöscht werden, ist der Unternehmenspolitik der Plattformbetreiber geschuldet. Dass diese manche Inhalte löschen, ist rechtlich kaum zu beanstanden. Denn wer die Plattformen nutzt, muss ihren Geschäftsbedingungen zustimmen, die das Aussortieren zulassen.

Algospeak funktioniert bisher – in Zukunft könnten die Algorithmen aber lernen, dass mit SeGGS eigentlich Sex gemeint ist, und diesen Begriff dann ebenfalls wieder löschen. Marcus Bösch, Tiktok-Forscher und wissenschaftlicher Mitarbeiter an der Uni Hamburg, bezeichnet das Ganze als "Katz- und Maus-Spiel".

"Ich hab kürzlich gelesen, dass das Emoji Nase und Kristall von Koksdealerinnen und -dealern verwendet wird. Das kann man dem Algorithmus schnell beibringen."
Marcus Bösch, Tiktok-Forscher und wissenschaftlicher Mitarbeiter an der Uni Hamburg

Ab spätestens dem Jahr 2024 wird sich für Userinnen und User von Tiktok, Instagram und anderen Plattformen aber etwas grundsätzlich ändern. Denn wenn der Digital Services Act der Europäischen Union in Kraft tritt, können Nutzer Einspruch einlegen, wenn ihre Inhalte gelöscht oder gesperrt werden.

Außerdem erhalten Wissenschaftlerinnen und Nicht-Regierungs-Orgsanisationen unter bestimmten Umständen die Möglichkeit, den Algorithmus zu untersuchen, der für das Ausfiltern von Inhalten verantwortlich ist.

Womöglich wird das Umwandeln von Begriffen und das Verwenden von Alsospeak dann überflüssig.

  • Moderatorin:  Jenni Gärtner
  • Autorin:  Nora Wilker, Deutschlandfunk Nova