Nicht nur im Alltag nutzen viele Menschen inzwischen KI-Chatbots, um Fragen zu stellen oder sich die Arbeit zu erleichtern. Forschende in der Wissenschaft tun das auch. Und das geht immer wieder schief.

Zum Beispiel beim Schreiben von Fachartikeln. Da werden wissenschaftliche Quellen gebraucht: KI-Chatbots denken sich solche Quellenangaben zum Teil komplett aus. Die Angaben wirken täuschend echt. Denn die Chatbots vermischen die Namen von echten Wissenschaftlern, wandeln echte Titel ab und erfinden Artikel in existierenden Fachzeitschriften komplett mit Seitenangabe und Fake-Link zu Studie. Der dann aber entweder ins Nichts führt oder auf einen komplett anderen Artikel.

Ein Team der Fachzeitschrift Nature hat 4000 zufällig ausgewählte Fachartikel aus dem Jahr 2025 analysiert. Ergebnis: In 65 Artikeln wurde mindestens eine Fake-Quelle gefunden. Viele Verlage, die Fachartikel veröffentlichen, setzen inzwischen Software ein, um Fake-Quellen automatisiert zu erkennen. Aber oft müssen Verdachtsfälle immer noch von einem Menschen überprüft werden.