Wahlmanipulation"Team Jorge" und angeblich autonome Bots

Ein internationales Reporterkollektiv aus über 30 Redaktionen – aus Deutschland waren ZDF, Spiegel und Zeit dabei – hat die Machenschaften einer obskuren Firma aus Israel recherchiert, wir haben berichtet. "Team Jorge" behauptet von sich selbst, in der Vergangenheit immer wieder Wahlen und politische Prozesse in verschiedenen Ländern "erfolgreich" manipuliert zu haben – die Firma bietet das als Dienstleistung an.

Wie einfach kann der Diskurs im Netz manipuliert werden? Deutschlandfunk-Nova-Netzreporter Michael Gessat ist skeptisch.

Das "Team Jorge" spricht von konfigurierbaren Avataren für Social Media, die man bei ihnen bestellen und kaufen kann. Mit diesen Avataren – man sagt auch Bots dazu – sind automatisierte Accounts gemeint, die autonom im Rahmen einer beabsichtigten Agenda in den Diskurs in Social Media eingreifen und dort Fake News oder tendenziöse Postings verbreiten.

Es ist aber nur eine vermeintliche Gewissheit, dass diese Bots die politische Meinungsbildung selbständig beeinflussen. Hinter den angeblichen Bots stecken bislang nämlich immer Menschen, sagt Informatik-Professor Florian Gallwitz von der TU Nürnberg. Was es natürlich gibt: Accounts, die vorbereitete Posts automatisch zu einer bestimmten Uhrzeit posten.

Hinter den Bots stehen (noch) Menschen

Laut Gallwitz war auch das Messtool "Bot-o-Meter" fehlerhaft – es hatte die angebliche Anzahl an Bots gezählt, die im Bundestagswahlkampfs 2017 den deutschen Parteien gefolgt waren. In der Studie wurden keine Belege dafür geliefert, dass die vermeintlichen Bots tatsächlich Bots waren, sagen Gallwitz und der Journalist Michael Kreil vom Bayrischen Rundfunk – laut ihrer Gegenrecherchen standen immer Menschen dahinter.

Der behauptete Effekt, dass man mit Fake News in Social Media easy Wahlen manipulieren kann, ist nur minimal oder gar nicht existent, sagt Michael Gessat. Das hätten sowohl die Analyse der Behauptungen von Cambridge Analytica (die Firma hatte 2016 und 2017 für sich reklamiert, beim Wahlerfolg von Trump eine entscheidende Rolle gespielt zu haben) als auch die nachträgliche Analyse der angeblichen Wahlbeeinflussung von russischen Trollfarmen auf die US-Präsidentschaftswahl und den Brexit gezeigt.

Das "Team Jorge" will seine Dienstleistungen verkaufen, sagt Michael Gessat, und setzt deshalb auf PR. Die Behauptungen seien nicht erwiesen.

Illegal: Ex-Geheimdienstler hacken Accounts

Eine völlig andere Nummer - und das ist das erschreckende Ergebnis der Recherche: Beim "Team Jorge" bieten Ex-Geheimdienstler ihre Geheimdienstmethoden als private Dienstleistung an. Diese Personen haben die Expertise, Accounts zu hacken. Wenn sie in gehackte Accounts kompromittierende Emails reinschreiben oder den Personen Daten unterjubeln - und das dann öffentlich wird, als hätten die gehackten Personen das selbst zu verantworten – dann kann so etwas natürlich sehr wohl eine wahlbeeinflussende Wirkungen haben. Es hat sogar das Zeug, Personen "quasi zu vernichten", sagt Michael Gessat.

Diese geheimdienstlichen Spezialoperationen sind ganz klar illegal. "Team Jorge"-Chef Tal Hanan wird in der Recherche des Reporterkollektivs allerdings mit den Worten zitiert: "Um es klar zu sagen, ich weise zurück, dass ich etwas Falsches getan habe."

Durch die neuen, Text erzeugenden KIs wie ChatGPT, Ernie und Bard werden dialogfähige Bots nun zum ersten Mal tatsächlich umsetzbar. Die Gefahr von automatischer Stimmungsmache und Verbreitung von Fakenews steigt also gerade massiv, sagt Michael Gessat.

Allerdings gibt er zu bedenken: Wenn jemand irgendwelchen Posts einer unbekannten Quelle unreflektiert Glauben schenkt, sei das ohnehin verrückt – egal, ob die Quelle jetzt ein unbekannter Mensch oder ein KI-gesteuerter Avatar ist. An der grundsätzlichen Überlegung "Wie kann ich Fakenews von vertrauenswürdigen Infos unterscheiden?" würden weder Akteure wie "Team Jorge" noch KIs etwas ändern, findet er. Hier lauten die Fragen nach wie vor:

1. Wer ist die Quelle?
2. Kann ich die Info bei einer vertrauenswürdigen Quelle verifizieren?