Das Gesicht einer Schauspielerin per Videomontage nachträglich in einen Porno einzubauen, ist eine der beliebtesten Anwendungen für die Deepfake-Technik. Kalifornien hat sie jetzt verboten.

Mit der als Deepfake bezeichneten Technik können zum Beispiel Gesichter in Videos nachträglich so eingebaut werden, dass der Eindruck entsteht, diese Person wäre wirklich so gefilmt worden. Häufig kommt das in Pornos zum Einsatz, deren Produzenten ein Interesse daran haben, zum Beispiel eine prominente Schauspielerin in einem Porno zu sehen. Aber auch Videos von Politikern wurden mithilfe von Deepfake schon gefälscht.

"Das Gesetz ist im Grunde eine Reaktion auf den Deepfake-Skandal um Nancy Pelosi, der Sprecherin des Repräsentantenhauses. Im Frühjahr waren Videos im Umlauf, die Pelosi betrunken oder im verwirrten Zustand zeigen sollten. Doch die waren Fake."
Andreas Noll, Deutschlandfunk-Nova-Reporter

2017 tauchte der Begriff Deepfake zum ersten Mal auf. Jetzt, zwei Jahre später, ist das Problem der Deepfakes so groß, dass die Politik nun mit Verboten reagiert: Kalifornien hat zwei Gesetze gegen Deepfakes beschlossen. Zum einen erhalten Betroffene bessere Möglichkeiten, sich gegen Verwendung ihrer Gesichter in Pornos zu wehren.

Zum anderen verbietet Kalifornien die Verbreitung von politischen Deepfakes. Marc Bermann, Mitglied der Parlamentskammer Kaliforniens, spricht von einer "mächtigen und gefährlichen Technologie, die genutzt werde, um Wähler zu belügen und zu verwirren". In den Gesetzen sind Ausnahmen vom Deepfake-Verbot vorgesehen, etwa bei Satire.

Ein weiterer Bestandteil der neuen Regelungen ist die Möglichkeit für Deepfake-Opfer, Klage einzureichen, wenn sie der Verwendung des eigenen Gesichtes nicht explizit zugestimmt haben.

Deepfake als Rache

Von dieser Klagemöglichkeit dürften nicht nur einige betroffene Schauspielerinnen Gebrauch machen, sondern auch Nicht-Promis. Immer wieder sind nämlich zum Beispiel auch Ex-Freundinnen und -Freunde von Deepfakes betroffen. Deren Gesichter werden von ihren Ex-Partnern zum Beispiel in Pornos eingebaut, um sie zu diskreditieren und sich an ihnen zu rächen.

Die Deepfake-Zahlen steigen kontinuierlich: Im Dezember 2018 gab es knapp 8.000 Deepfakes im Netz - jetzt sind es mehr als 14.500 gezählte Fälle. Die Autoren einer Deepfake-Studie, die vom IT-Sicherheitsunternehmen Deeptrace durchgeführt wurde, sprechen von einem globalen Phänomen, bei dem US-amerikanische und britische Schauspielerinnen zu den beliebtesten Opfern gehören.

Situation in Deutschland

In Deutschland sind Deepfakes auf indirektem Weg schon verboten. Bei Pornos ist wohl vor allem das Kunsturheberrechtsgesetz (KunstUrhG) zuständig, das es verbietet, Bilder einer Person ohne dessen Einwilligung zu verwenden. Außerdem kommen das Persönlichkeitsrecht aus dem Grundgesetz (GG) infrage.

"Sollten Social-Media-Plattformen solche Videos verbreiten, sollte man diese Videos schnell löschen lassen können, was dank Telemedien- und Netzdurchsetzungsgesetz möglich ist", sagt Deutschlandfunk-Nova-Reporter Andreas Noll. Doch selbst wenn dies schnell geschieht - die traumatische Erfahrung der Opfer bleibt.