Grok steht in der Kritik, weil darüber auch sexualisierte Fakebilder geniert werden können. Dabei geht es vor allem um Bilder von Frauen und Kindern. Viele davon wurden in letzter Zeit über die Plattform "X" verbreitet.
Indonesiens Digitalministerin sagt, dass mit der vorläufigen Sperre von Grok Frauen, Kinder und die Öffentlichkeit vor solchen Fake-Inhalten geschützt werden sollen. Die Ministerin nennt die Fakes eine "schwere Verletzung der Menschenrechte".
Kritik kommt unter anderem auch von der EU-Kommission. Sie sagt, dass sie die Vorfälle mit Grok untersucht.
Die Firma hinter Grok gehört Milliardär Elon Musk. Das KI-Programm können zum Beispiel alle nutzen, die bei der Plattform "X" angemeldet sind. Und die gehört ja auch Musk. Inzwischen wurde die Nutzung von Grok auf "X" wohl eingeschränkt. So sollen nur noch zahlende Abonnenten Bilder generieren lassen können.