KI-Chatbots halluzinieren - und das ist auch ein Problem in der Wissenschaft, zum Beispiel wenn Forschende Fachartikel schreiben und dafür nach Quellen suchen, um Aussagen zu belegen.
KI-Chatbots erzeugen immer wieder Fake-Quellenangaben und erfinden nicht existierende Fachartikel. Die Angaben können täuschend echt wirken.
Das Phänomen ist schon länger bekannt. Jetzt hat ein Team aus den USA und Finnland das Ausmaß des Problems systematisch analysiert und dafür die Quellenangaben aus einer halben Million Fachartikeln ausgewertet. Die waren erschienen zwischen Januar 2023 und März 2026.
Ergebnis: In der Zeit ist die Fake-Quote angestiegen. In Summe hat das Team mehr als 1100 mutmaßliche Fake-Quellen entdeckt. (nur online: Viele Verlage, die Fachartikel veröffentlichen, setzen inzwischen Software ein, um solche Fake-Quellen automatisiert zu erkennen.)
Die Analyse haben die Forschenden im Fachmagazin PNAS publiziert.