Von Fachleuten kommt diese Forderung schon seit Jahren, weil befürchtet wird, dass künstliche Intelligenz außer Kontrolle gerät. Jetzt hat der Chef von Anthropic, Dario Amodei, selbst eine Regulierung gefordert. Er schlägt zum Beispiel vor, externe Kontrolleure in die KI-Firmen zu holen und die Arbeit an besonders leistungsfähigen Modellen so zu bremsen, dass ein bis zwei Jahre mehr Zeit für die sichere Entwicklung bleibt. Unternehmen und Regierungen sollten dafür Sicherheitsstandard festlegen, am besten auf internationaler Ebene.
Anthropic-Chef Amodei sagt, er sei besorgt, dass ein KI-Schwarm in sechs bis zwölf Monaten in der Lage sein könnte, das gesamte Internet zu übernehmen - und so gewaltige Schäden anzurichten. Kurz danach kam Zustimmung von der Konkurrenz bei OpenAI und SpaceXAI. Die drei Firmen sind für ihre Chatbots Claude, ChatGPT und Grok bekannt.
OpenAI-Chef Sam Altman kündigte außerdem an, das Unternehmen doch nicht mehr in diesem Jahr an die Börse bringen zu wollen. Er begründete das in einem Interview mit der aktuellen Debatte über Sicherheitsbedenken. In den letzten Wochen waren mehrfach Fälle bekannt geworden, in denen sich KI ein unerwartetes Eigenleben entwickelt hat.