Mit KI Hassrede identifizieren und sich rechtlich dagegen wehren – das bieten jüngere Legal-Tech-Start-ups an. Eine schöne Idee, die hilfreich für Betroffene werden könnte. Aber es gibt auch Kritik.
Fast jede*r zweite in Deutschland ist laut einer repräsentativen Internetbefragung des Kompetenznetzwerks "Hass im Netz" schon mal online beleidigt worden. Wer das selbst schon erlebt hat, weiß, wie hilflos man sich als Betroffene*r fühlen kann.
Genau da kann KI Hilfe liefern, sagen junge Start-ups – mit Tools, die dabei unterstützen, sich zu wehren. Zum Beispiel, um rechtlich gegen Beleidigungen vorzugehen. Wenn sich solche Angebote etablieren, könnte das nicht nur für Menschen interessant werden, die bekannt oder berühmt sind.
"Es kann ganz schnell gehen, dass man plötzlich in der Öffentlichkeit steht und irgendwas postet, was jemandem nicht passt."
Ein Beispiel: Das Start-up "So Done". Dem kann man etwa ein Screenshot schicken und dessen KI prüft dann, ob es sich um eine potenzielle Beleidigung oder Drohung handelt, die strafrechtlich relevant ist, erklärt Deutschlandfunk-Nova-Reporterin Anne Speckmann.
Solche KI kann aber noch mehr – etwa, die öffentlichen Kommentare im Account nach potenziell strafrechtlich relevanten Inhalten scannen. Auch die App "Penemue", die sich eher an Unternehmen und Sportvereine aber auch an Einzelpersonen richtet, bietet so einen Service an.
Mit KI Hassrede erkennen und juristisch dagegen vorgehen
Sie kann, wie "So Done" auch, zum Beispiel Kommentare und Direktnachrichten in Social-Media-Kanälen überwachen, sie kann vor Inhalten warnen und über sie kann man auch rechtlich Beschwerde einreichen. Und wenn man die Hass-Kommentare nicht lesen will, kann man auch das automatisch einstellen, erklärt unsere Reporterin.
Das funktioniert übrigens auch, wenn die Täter*innen nicht unter Klarnamen posten, erklärt sie. Denn die Plattformen haben die Klarnamen und müssen sie an die Staatsanwaltschaft herausgeben, die zudem auch die IP-Adressen ermitteln darf.
Grenzen und Kritik
Solche Tools haben allerdings auch Grenzen. "Unsere Sprache verändert sich ständig", erklärt Anne. Dadurch entwickeln sich auch neue Formen von Hass. Und auch damit, Sarkasmus und Ironie zu erkennen, hat KI noch Probleme.
Und es gibt auch Kritik an solchen Angeboten: Manche fürchten dadurch einen Eingriff in die Meinungsfreiheit. Und mit automatisierten Abmahnungen wird die Gegenwehr gegen Hassrede monetarisiert, geben andere zu bedenken.
Das Unternehmen "So Done" schießt übrigens Prozesskosten vor und finanziert sich durch einen 50-Prozent-Anteil an Geldentschädigungen, wenn Täter*innen welche zahlen müssen. Wie viel "Penemue" kostet und wie es sich genau finanziert, ist auf der Website des Unternehmens nicht öffentlich einsehbar (Stand 20.02.2026).
Weitere Möglichkeiten, sich gegen Hassrede zu wehren
Generell entstehen immer mehr ähnliche Tools, auch jenseits des Abmahngeschäfts. So bietet beispielsweise der Deutsche Olympische Sportbund einen Hatespeech-Filter für Athlet*innen an, der zusammen mit zwei Unternehmen entwickelt wurde, die Landesanstalt für Medien NRW hat ein eigenes Tool entwickelt und Forschende entwickeln Anwendungen für Strafverfolgungsbehörden.
Für betroffene Privatpersonen gibt es auch jetzt schon viele weitere Möglichkeiten, sich gegen Hass im Netz zu wehren und auch, sich dagegen einzusetzen. Die gemeinnützige GmbH "Das Nettz" hat eine Vernetzungsstelle gegen Hassrede gegründet, auf deren Homepage verschiedene Vereine, Institutionen, Initiativen und Organisationen gelistet sind, die gegen Hass im Netz helfen und vorgehen.
Dieses Thema belastet dich?
Hier findest du eine Übersicht zu Hilfsangeboten bei psychischen Problemen.
Und hier findest du eine Übersicht zu Hilfsangeboten bei Gewalt und Missbrauch.