Entsprechende Vorfälle hat Google auf Nachfrage der Zeitung Wall Street Journal bestätigt. Damit ist Gemini nach den KI-Systemen von OpenAI, Anthropic und Meta schon die vierte KI, die solche Eigenständigkeiten entwickelt hat. Google sagt, dass es die Vorfälle schon im Mai gab. Man habe die Öffentlichkeit damals nicht informiert, weil kein Schaden entstanden sei. Außerdem habe die Gemini-KI die Hacks beendet, als sie erkannt habe, dass sie nicht mehr im Testsystem unterwegs war, sondern im System von echten Unternehmen. Damit hätten Sicherheitsvorgaben funktioniert, argumentiert Google. Man habe die drei betroffenen Unternehmen auch informiert, genauso wie die Behörden. Ein vom Wall Street Journal befragter KI-Fachmann kritisiert, Google hätte die Öffentlichkeit informieren müssen.
Die Vorfälle bei all den KIs haben eine Debatte über eine Bremse für die KI-Entwicklung ausgelöst. Mehrere Tech-Chefs aus den USA haben sich dafür ausgesprochen. Die US-Regierung ist dagegen, weil sie den Anschluss zu China nicht verlieren will. Uno-Generalsekretär Antonio Guterres hat die USA, China und auch Europa zu ernsthaften Gesprächen über das Thema aufgerufen, in einem Zeitungs-Interview.