Facebook will in Zukunft Videos löschen, die mit Hilfe von Künstlicher Intelligenz manipuliert worden sind - sogenannte "Deep Fakes". Doch wie genau das geschehen soll, dazu macht das Unternehmen keine Angaben. Bislang sind erst wenige richtig gut gemachte Deep-Fake-Videos in Umlauf.

Dass Fotos nicht immer echt sein müssen, sondern mit Photoshop und anderen Tools manipuliert sein können, wissen wir schon lange. In den vergangenen Jahren sind aber auch immer mehr gefakte Videos aufgetaucht, sogenannte "Deep Fakes", die dank Künstlicher Intelligenz zum Teil täuschend echt wirken.

Facebook hat jetzt angekündigt, künftig solche Videos von seiner Plattform zu löschen. Die Social-Media-Plattform steht vor der US-Präsidentenwahl im November unter Druck, verstärkt gegen Falschinformationen vorzugehen. Noch gibt es relativ wenige gut gemachte Deep-Fake-Videos, die uns täuschen könnten, sagt Deutschlandfunk-Nova-Reporter Johannes Döbbelt.

"Es gibt erst relativ wenig wirklich gut gemachte Deep-Fake-Videos."
Johannes Döbbelt, Deutschlandfunk Nova

Allerdings: Die Technik wird sich in den nächsten Jahren entwickeln. Darum sollten wir genau hinschauen, wenn wir Videos sehen, in denen uns etwas komisch vorkommt.

Wenn bei Videos die Mundpartie oder die Zähne des Sprechenden komisch wirken oder die Haare verschwurbelt sind, dann könnten das Anzeichen dafür sein, dass ein Video manipuliert worden ist, erklärt Pina Merkert, Redakteurin beim Computer-Magazin CT.

"So Sachen wie verschwurbelte Haare oder seltsame Zahnreihen - an den Stellen macht die KI gerne mal Fehler, weil sie etwa für den Mundinnenraum nicht so viele Beispiele hat und dann nicht so genau weiß, was sie machen muss. Dann sieht das eben manchmal nicht ganz so realistisch aus."
Pina Merkert, Redakteurin beim Computer-Magazin CT

Aber es gibt noch weitere Hinweise auf Deep-Fake-Videos: Wenn Sprache und Mundbewegungen nicht synchron sind oder der Übergang vom Hals zu Kopf nicht recht passt, dann sollten wir ebenfalls kritisch sein.

Zuckerberg, Obama oder Johnson als Deep Fakes

In den letzten Jahren waren einige Videos im Netz, die uns anschaulich verdeutlicht haben, was derzeit möglich ist. Sie wurden erstellt, um uns zu sensibilisieren. Da gibt es beispielsweise ein Video vom Marc Zuckerberg, in dem er sagt, dass er die Daten von Milliarden Menschen gestohlen hat.

Die Stimme ist nicht von Zuckerberg selbst, sie wurde offenbar von einem Sprecher nachgesprochen. Die Mundbewegungen im Video passen aber ziemlich genau mit dem zusammen, was er sagt.

Produziert wurde das Video von dem Künstler Bill Posters, und von ihm kommt noch ein weiteres Deep-Fake-Video, das im Netz die Runde machte: Es zeigt Boris Johnson und Jeremy Corbyn im Wahlkampf in Großbritannien. Und jeder der beiden sagt im Video, dass der jeweils andere Premierminister werden sollte.

Externer Inhalt

Hier geht es zu einem externen Inhalt eines Anbieters wie Twitter, Facebook, Instagram o.ä. Wenn Ihr diesen Inhalt ladet, werden personenbezogene Daten an diese Plattform und eventuell weitere Dritte übertragen. Mehr Informationen findet Ihr in unseren  Datenschutzbestimmungen.

Auch Barack Obama wurde schon einmal zu Aufklärungszwecken "manipuliert". Auch in diesem Video wurde die Stimme von einem Stimmenimitator eingesprochen, aber die KI liefert täuschend echte Bilder dazu.

Externer Inhalt

Hier geht es zu einem externen Inhalt eines Anbieters wie Twitter, Facebook, Instagram o.ä. Wenn Ihr diesen Inhalt ladet, werden personenbezogene Daten an diese Plattform und eventuell weitere Dritte übertragen. Mehr Informationen findet Ihr in unseren  Datenschutzbestimmungen.

Wie genau Facebook es nun schaffen will, solche Videos künftig von seiner Plattform zu verbannen, dazu gab es keine weiteren Angaben. Facebook verweist in seinem Statement lediglich auf ein bestimmtes Anti-Fake-Projekt, das das Unternehmen mit ins Leben gerufen hat – und auf die Zusammenarbeit mit anderen Organisationen wie der Nachrichtenagentur Reuters, mit der zusammen man über Deep Fakes aufklären will.