Doch wie gut klappt das? Das wollten Forschende für eine Studie im Fachmagazin NatureMedicine wissen. Ein Ärzteteam hat sich dafür zehn Fallbeispiele ausgedacht. 1000 Freiwillige haben dann mit drei Chatbots versucht herauszufinden, was zu tun ist. Ob sie sich selbst helfen können, oder ob sie den Notruf wählen sollten zum Beispiel. Eine Kontrollgruppe recherchierte klassisch im Internet, ohne KI.
Dabei kam raus, dass die KIs keinen Mehrwert lieferten. Denn schon in den Fragen der Probanden fehlten zum Teil wichtige Informationen, oder Antworten wurden missverstanden. Oft schätzten die Versuchspersonen auch die Dringlichkeit falsch ein. Bei der Kontrollgruppe, die einfach im Netz recherchierte, war es anderthalbmal so wahrscheinlich, dass sie eine passende Diagnose herausbekam.
Eine Expertin für Gesundheitskommunikation aus München warnt, dass Menschen medizinischen KI-Antworten schnell vertrauen. Sie klängen sprachlich sehr überzeugend, selbst dann, wenn der Inhalt medizinisch absolut falsch ist.