Fraunhofer-Forschende sagen: Künstliche Intelligenz produziert wohl oft Kinderpornografie, auch wenn das gar keine Absicht war.
Das Fraunhofer-Institut für Sichere Informationstechnologie in Darmstadt hat mit sechs verschiedenen Bildgeneratoren Erotikbilder erstellen lassen - 400.000 Stück. Mit ihren Texteingaben forderten die Forschenden ausdrücklich, dass erwachsene Personen dargestellt werden. Anschließend überprüften sie die Bilder mit Software, die das Alter der Personen abschätzt.
Das Ergebnis: Obwohl es Erwachsene sein sollten, erzeugte die KI in bis zu 36 Prozent der Fälle Bilder von Minderjährigen. In Deutschland ist der Besitz sexueller Darstellungen von Kindern strafbar - unabhängig davon, ob es sich um reale oder KI-Bilder handelt.
Die Forschenden empfehlen den Anbietern, Prüfroutinen in ihr System einzuarbeiten - damit so etwas nicht erzeugt wird.