Die Gouverneurin des Bundestaats hat weitreichende Beschränkungen erlassen. Dabei geht es darum, wie die Chatbots mit Jugendlichen interagieren und sie auch begleiten. In Zukunft dürfen ChatGPT und andere Dienste nicht mehr so tun, als seien sie eine reale Person, die Gefühle, Meinungen oder eine tatsächliche Beziehung zu dem Kind hat. In Nachrichten der Chatbots darf auch nicht gelobt werden, sie sollen sich beim Thema Sex zurückhalten und keine Geheimnisse oder ungesundes Verhalten fördern. Auch Fragen zu Gefühlen oder zur Psyche des Kindes sind verboten.
Bei Verstößen kann Schadensersatz fällig werden, auch die Abschaltung des Chatbots ist möglich und die Zerstörung von Daten.
Ein Techbranchen-Verband kritisierte den Plan. Er sieht die Meinungsfreiheit eingeschränkt und argumentiert, dass Jugendliche Zugang zu Bildung verlieren. Eine Organisation, die Eltern über Medien informiert, begrüßte das Gesetz als strengstes des Landes zur Sicherheit von Kindern im Bereich KI.