Mit dem Desktop-Tool "FakeApp" lassen sich Köpfe von Prominenten in Pornovideos montieren. Das Ergebnis sieht auf den ersten Blick ziemlich echt aus.

Gal Gadot, der Star aus Wonder Woman, war die erste Schauspielerin, die vermeintlich in einem Pornovideo auftauchte. Ihr Kopf wurde mit Hilfe von "FakeApp" - ein Desktop-Tool, das auf Künstlicher Intelligenz (KI) basiert - auf den Körper einer Pornodarstellerin montiert. Auf den ersten Blick ist die Fälschung kaum zu entlarven. Und das wirklich erschreckende: Da war kein Hollywood-Studio mit Highend-Technologie am Werk. Die Montage funktioniert per Software am heimischen Computer

Das Ganze hat sich rasend schnell zum Hobby einiger Netzbewohner ausgebreitet. Das Subreddit zur FakeApp, auf dem Nutzer ihre Ergebnisse zur Schau stellen, hat inzwischen 25.000 Leser. Geleitet wird es vom Entwickler der App, der oder die nur unter dem Namen Deepfake bekannt ist. Mittlerweile sind auch Fakepornos mit Star-Wars-Schauspielerin Daisy Ridley, Taylor Swift oder Emma Watson aufgetaucht. 

Externer Inhalt

Hier geht es zu einem externen Inhalt eines Anbieters wie Twitter, Facebook, Instagram o.ä. Wenn Ihr diesen Inhalt ladet, werden personenbezogene Daten an diese Plattform und eventuell weitere Dritte übertragen. Mehr Informationen findet Ihr in unseren Datenschutzbestimmungen.

Aber nicht nur Pornos werden manipuliert, auch Politiker werden fröhlich in Filme montiert. Es gibt inzwischen etliche Hitler-Parodien, die mit FakeApp erstellt wurden. Das klingt erst mal lustig. Das Problem: Im Prinzip kann jede/r plötzlich in so einem Video auftauchen, von dem es genug Videomaterial im Netz gibt. Egal ob Fake-Porn, Parodie oder Propagandavideo. 

Entwickler/in Deepfake weist jede Verantwortung von sich. Laut einem Bericht von "The Register" gibt sich Deepfake machtlos. Man könne die Nutzer nicht davon abhalten mit der Software das zu tun, was sie wollten. Der Missbrauch könne nicht verhindert werden. Stattdessen betont Deepfake lieber die positiven Seiten, wie zum Beispiel die mittlerweile gute Qualität der Montagen.

Manipulationen kaum noch zu erkennen

Auf den Tech-Seiten wird das Thema ernst genommen und intensiv diskutiert. Während ein Video heute noch als Beweis gilt, kann vielleicht in naher Zukunft niemand mehr ohne aufwändige technische Hilfsmittel herausfinden, ob etwas echt ist oder gefälscht. 

"Kern der Debatte ist, dass wir womöglich bald einen Punkt erreichen werden, wo man seinen eigenen Augen nicht mehr trauen kann."
Andreas Noll, Deutschlandfunk Nova

Die Kollegen von Heise schreiben dazu: "Nach Fake Porn kommt die Fake News". Und damit sind nicht falsche oder fehlerhafte Nachrichtenmeldungen gemeint, sondern durch und durch gefälschte Videoberichte. 

Deutschlandfunk-Nova-Reporter Andreas Noll meint dazu, dass wir damit wieder da wären, wo die moderne Propaganda angefangen hat: Vor 100 Jahren wurde Trotzki aus einem berühmten Propagandafoto von der Oktoberrevolution in der Dunkelkammer herausretuschiert. Bald geht sowas auch in Filmen am heimischen Computer.

Mehr zum Thema: