Bei Fake President geht nicht um Donald Trump, sondern um Millionenbetrug. Nach Phishing und Verschlüsselungstrojanern versuchen Hacker und Scammer jetzt, sich mit dieser neuen Fake-President-Methode Geld auf ihre Konten überweisen zu lassen. DLF-Nova-Reporter Thomas Reintjes hat es ausprobiert.

Rüdiger Kirsch arbeitet bei einer Versicherung namens Euler-Hermes. Eine neue Betrugsmasche kostet seine Versicherung gerade Millionen. Fake President heißt die Methode. Rüdiger Kirsch sagt, dass man mithilfe von Fake President super-schnell und einfach an Geld kommt.

"Wer heutzutage bei einer Bank einen Tresor oder einen Geldautomaten aus der Wand sprengt, der muss mit Dummheit gepudert sein. Da schickt man seinen Fake President los und der kriegt ruckzuck 500 000 Euro."
Rüdiger Kirsch, Euler-Hermes-Versicherung

Wie der Betrug funktioniert, schildert Rüdiger Kirsch an einem echten Fall, mit dem sich seine Versicherung beschäftigt hat. Der Manager eines englischen Tochterunternehmens bekam demnach von seinem deutschen Chef einen Anruf auf dem Handy. Der angebliche deutsche Chef tischt ihm eine skurrile Geschichte auf. Er sagt, der englische Manager müsse ihm helfen, eine Zahlung rauszuschicken, da in Deutschland der Bank-Account um 16 Uhr schließe. Nur die Engländer könnten die Zahlung – weil sie eine Stunde zurückliegen – noch freigeben. In dem Fall ging es um eine Summe von 220.000 Euro. Zur Bestätigung hatte der Mann am Telefon sogar noch eine E-Mail mit der Zahlungsanweisung an den britischen Manager geschickt.

"Das ist schon sehr, sehr ungewöhnlich, aber immerhin ist es als Argument irgendwie nachvollziehbar."
Rüdiger Kirsch, Euler-Hermes-Versicherung

Thomas Reintjes will wissen, wie einfach diese Betrugsmasche wirklich ist, beziehungsweise, wie gut sich Stimmen faken lassen. Als Erstes braucht er dafür einen Stimmimitator. Thomas beginnt, die Künstliche Intelligenz (KI) mit seiner eigenen Stimme zu trainieren. Er muss dafür ein paar kurze Geschichten vorlesen. Insgesamt 75 Sätze spricht er ein und lädt sie auf einer Webseite hoch. Die KI generiert dann daraus seine künstliche Stimme.

"Can you call me on a real phone line? Because this is a really creepy thing to ask when you sound like a robot."
Rob, Freund von Thomas, der sich nicht wirklich von der künstlichen Stimmer überzeugen lässt

Thomas ruft nun mit seiner Computerstimme Rob, einen Freund, an, um zu testen, wie gut das funktioniert. Die Roboterstimme erzählt Rob dann eine Geschichte über Probleme mit der Mietzahlung und bittet Rob, 100 Dollar zu überweisen. Der Versuch scheitert, Rob merkt ziemlich schnell, dass da irgendwas faul ist.

Verschiedene Systeme, um künstliche Stimmen zu generieren

Bei dem System, das Thomas verwendet hat, musste er persönlich bestimmte Sätze einlesen. Es gibt allerdings auch andere Systeme, die von beliebigen Aufnahmen lernen können. Das Start-up "Dessa" hat zum Beispiel eine KI mit Podcasts von Comedian Joe Rogan gefüttert. Auf fakejoerogan.com kann man jetzt versuchen, echte von falschen, künstlich generierten Aufnahmen zu unterscheiden.

Wer richtig betrügerisch unterwegs ist, könnte sich also irgendwie Aufnahmen einer Stimme organisieren, um anschließend eine KI damit zu trainieren. Rüdiger Kirsch ist sich bis heute nicht sicher, wie der Kunde seiner Versicherung genau ausgetrickst wurde – ob es eine Künstliche Intelligenz war oder einfach ein guter menschlicher Stimmimitator. Auf jeden Fall befürchtet er, dass diese Betrugsmasche besser funktionieren wird, als die bisherigen Versuche per E-Mail an Geld zu kommen. Weil eine Stimme irgendwie doch persönlicher ist als ein paar Zeilen in einer Mail. Auch, wenn am Ende beides gefakt ist.

"Wenn man jetzt diese Stimme seines Chefs, seines CEO hört, dann ist man, glaube ich, doch eher noch bereit, auf dessen Wünsche einzugehen, als wenn man das nur in schriftlicher Form bekommt."
Rüdiger Kirsch, Euler-Hermes-Versicherung