Stell dir vor, du bist in einer Videokonferenz mit deinem Chef und ein paar Kolleginnen und Kollegen - aber du sprichst die ganze Zeit nur mit KI-generierten Fakes - ohne was zu merken.

Vor solchen Deepfakes warnt die Fraunhofer-Gesellschaft - und arbeitet daran, Betrugsversuche bei Videokonferenzen in Echtzeit zu erkennen.

Das Beispiel ist übrigens einem Finanzdirektor aus Singapur tatsächlich so passiert. Er überwies Betrügern knapp 500.000 US-Dollar - und hatte viel Glück, weil das Geld später sichergestellt werden konnte.

Fachleute der Fraunhofer-Gesellschaft sagen, dass Videokonferenzen für die Deepfake-Erkennung eine Herausforderung sind - weil die Bild- und Tonqualität schwankt. Detektoren dürfen sich davon nicht ablenken lassen. Entwickelt wird gerade eine KI-basierte Software. Sie soll gerade bei sicherheitskritischen Videocalls dauerhaft prüfen, wie wahrscheinlich ein Deepfake ist. Trainiert wird das selbstlernende System mit echten und manipulierten Audio- und Videodaten. Die KI lernt so, Unterschiede selbstständig zu erkennen.