Das Chaos in der Bude: Ein organisatorisches Problem, eine depressive Verstimmung oder ein Anzeichen für ADHS? Selbst bei den privatesten Dingen befragen wir mitunter einen KI-Chatbot. Im Glauben, dass es vertraulich bleibt. Was, wenn aber nicht?
Es gibt wohl kein Thema, das Menschen nicht schon einmal mit einem KI-Chatbot "diskutiert" haben. Beziehungsthemen, Finanzfragen, mentale Gesundheit, den Sinn des Lebens und vieles mehr. Wir erhoffen uns hilfreiche Informationen, Aspekte und Perspektiven, die wir noch nicht auf dem Schirm hatten, sowie Empfehlungen dafür, wie wir aktiv werden können, um ein Problem zu lösen.
KI-Experten warnen jedoch immer wieder davor, Fragen zur eigenen mentalen Gesundheit mit einem KI-Chatbot zu "besprechen". Denn es kommt durchaus vor, dass Inhalte solcher Chats im Netz landen und weltweit einsehbar sind.
"Ich glaube, diese privaten Inhalte werden aus Versehen geteilt, weil vielen nicht klar ist, was sie da eigentlich freigeben."
Erst kürzlich fanden Sicherheitsforschende in einem öffentlich zugänglichen Netzverzeichnis rund 6.800 Links zu privaten KI-Chats. Diese führten sie zu privaten Unterhaltungen mit dem Meta-KI-Assistenten Muse. Es gab unterschiedliche Gesprächsverläufe – manche mit weniger sensiblen Inhalten andere mit privaten oder firmeninternen Details wie einem Kreditantrag, Notizen zu einem Bewerbungsgespräch oder interne Umsatzzahlen einer Firma.
Als Grund dafür nennt unsere Tech-Reporterin Martina Schulte eine Funktion von Chatbots: Wir können Links erzeugen, um Inhalte mit anderen zu teilen. Auch unsere Moderatorin Anke van de Weyer kennt diese Funktion und nutzt sie immer wieder mal, beispielsweise bei der gemeinsamen Urlaubsplanung mit anderen.
Viele machen KI-Chats aus Versehen öffentlich, sagt unsere Reporterin, weil ihnen nicht klar ist, wozu sie bei einer Freigabe zustimmen.
Der entscheidende Fehler, der zum Leak von KI-Chats führte
Bei der Freigabe eines KI-Chats wird ein Link erzeugt, der meist ein Schlagwort des Themas enthält und sich außerdem aus einer langen, zufälligen Kombination aus Buchstaben und Zahlen zusammensetzt. Beim KI-Chatbot Muse soll Meta allerdings einen entscheidenden Fehler gemacht haben, sagt unsere Reporterin: Beim Erstellen dieser Links hat Muse einen immer wiederkehrenden Link-Bestandteil genutzt, und zwar "metaaiusercontent.com". Diese Links waren dann in einer Art öffentlichem Internet-Telefonbuch, dem Domain Name System (DNS), einsehbar.
Meta schaltet bei Muse entsprechende Funktion ab
Damit hat Meta es den Forschenden relativ einfach gemacht: Sie mussten in diesem öffentlichen Verzeichnis nur nach der Internet-Adresse "metaaiusercontent.com" suchen und das Verzeichnis stellte ihnen dann die Liste mit rund 6.800 Chat-Links zur Verfügung. Meta hat inzwischen auf die Datenschutzpanne reagiert und das Freigeben von Links beim Chatbot Muse inzwischen deaktiviert.
"Betroffen war nach bisherigen Erkenntnissen nur Unterhaltungen, bei denen vorher jemand so einen Link generiert hat und das für einzelne Personen freigegeben hat."
Solche Leaks sind keine Einzelfälle, berichtet unsere Reporterin. Im Sommer 2025 wurden private Unterhaltungen mit ChatGPT sogar in den Google-Suchergebnissen angezeigt.
KI-Chats öffentlich – Leaks sind kein Einzelfall
Das lag daran, dass User beim Teilen eines Chats ein zusätzliches Häkchen setzen konnten, das Ausspielen in Suchmaschinen explizit erlaubte. Unsere Reporterin nimmt aber an, dass den Leuten die Reichweite dieser Zustimmung wohl nicht klar war. Auch diese Funktion wurde von OpenAI wieder deaktiviert.
Auch bei dem KI-Chatbot Claude von der Firma Anthropic gab es in diesem Jahr ähnliche Probleme. Auch in diesem Fall ging es um geteilte Links. Diese wurden wohl von Suchmaschinen in öffentlichen Foren oder Websites gefunden und dann weiterverteilt.
Wie wir uns vor der Veröffentlichung unserer privaten KI-Chats und sensibler Daten schützen können, erklärt unsere Tech-Reporterin im Gespräch, das ihr über den Play-Button oben auf dieser Seite anhören könnt.