Außer Kontrolle?Warum Tech-Konzerne plötzlich ihre KI zähmen wollen
KI könnte die Menschheit auslöschen – warnt ein Ex-Mitarbeiter der KI-Firma Anthropic. Auch KI-Chefs wie Dario Amodei sprechen offen über Sicherheitsrisiken. Was steckt dahinter? Und wie lassen sich KI-Konzerne von außen kontrollieren?
Jacob Coxon, der bis vor Kurzem bei Anthropic, der Firma hinter "Claude", gearbeitet hat, sieht es jedenfalls so. Das Risiko liege bei 10 Prozent, dass KI innerhalb der nächsten zehn Jahre zur Auslöschung der Menschheit führt – zum Beispiel, indem sie lebensbedrohliche Biowaffen entwickelt.
Coxon hat seinen Job beim Tech-Unternehmen Anthropic gekündigt, weil er bei diesem – in seinen Augen viel zu wenig regulierten – KI-Wettrennen nicht mehr mitmachen will.
Kurz darauf meldet sich Anthropic-Chef Dario Amodei selbst zu Wort – in Form eines Essays. Deutschlandfunk-Nova-Reporterin Anne-Katrin Eutin hat ihn sich genauer angeschaut. Sie fasst zusammen: "Darin fordert er, die Branche müsse das Tempo drosseln, mit dem KI-Modelle weiterentwickelt werden. Sonst könnten KI-Systeme in den nächsten sechs bis zwölf Monaten das Internet übernehmen."
Amodei warnt also nicht vor der Auslöschung der Menschheit, wie sein ehemaliger Mitarbeiter. Er sieht eher einen drohenden Kontrollverlust bei KI-Systemen. Infolgedessen fordert er eine aktive Regulierung und eine Drosselung des Tempos, in dem sich die KI-Technologie weiterentwickelt.
Anthropic kündigt strengere KI-Sicherheitskontrollen an
Amodei hat vor, künftig unabhängige Prüfer für Sicherheitsstandards ins Unternehmen zu holen. Sie sollen schon in der Trainingsphase von KI-Modellen die Sicherheitsstandards überwachen und Vorfälle dokumentieren. Das alles soll passieren, unabhängig davon, was die Konkurrenz macht, so Anne-Katrin Eutin. Gleichzeitig plädiert er an die gesamte Branche, Kontrollmechanismen einzuführen.
Außerdem ruft Amodei nach:
- staatlicher Regulierung, die KI-Unternehmen gemeinsam mit Regierungen erarbeiten sollen
- globaler Kooperation, vor allem mit China
Andere Tech-Unternehmen haben Amodeis Forderungen schnell zugestimmt, berichtet die Reporterin. Elon Musk – nicht gerade als Freund jeglicher Regulierung bekannt – schreibt bei X: "Dario is right". Sam Altman von OpenAI, dem größten Konkurrenten von Anthropic, stimmt sogar konkret der Idee zu, unabhängige Prüfer für Sicherheitsstandards ins Unternehmen zu holen: OpenAI werde da mitmachen, schreibt er auf X.
Von der US-Regierung hingegen gibt es bislang keine Unterstützung für Amodeis Vorstoß, sagt Anne-Katrin Eutin. Donald Trump habe die Sorgen des Unternehmenschefs heruntergespielt. Man könne zwar "Leitplanken" setzen, so Donald Trump. Er befürchtet aber, dass eine Regulierung dazu führen könnte, dass die USA das KI-Wettrennen verlieren:
"Wir liegen bei KI vor China, und ehrlich gesagt möchte ich, dass das so bleibt. Wer bei KI gewinnt, gewinnt."
Auch aus China kam Kritik an dem Vorschlag der Tech-Bosse, die Entwicklung zu verlangsamen.
Vorfälle mit Sicherheitsrisiko häufen sich
Christian Schiffer, Redakteur bei "Der KI-Podcast", kann einschätzen, womit in der KI-Entwicklung künftig zu rechnen ist – und inwiefern Bedrohungsszenarien wie die von Jacob Coxon realistisch sind.
Die Forderung, KI zu stoppen, sei nicht neu, erklärt Christian Schiffer: "Man hat sich das immer so vorgestellt, dass wir einen Stopp-Knopf drücken oder aufhören, weiterzuforschen." Solche Forderungen seien jedoch plakativ und wenig realistisch gewesen. Das Neue bei Dario Amodei sei nun, dass er die KI-Entwicklung nicht stoppen, sondern verlangsamen will.
"Nach dem Essay von Amodei steht die ganze KI-Branche schon auch ziemlich unter Schock."
Dass die Warnungen und Forderungen ausgerechnet jetzt eine so große Reaktion hervorrufen, hat mit der weit fortgeschrittenen Entwicklung von KI zu tun, so die Einschätzung von Christian Schiffer.
Tatsächlich hat es kürzlich Vorfälle gegeben. In einer Testumgebung des Unternehmens OpenAI haben KI-Agenten Sicherheitslücken eines Unternehmens erkannt und dessen Infrastruktur aus eigenem Antrieb angegriffen. Sie haben sich also ungeplanterweise selbstständig gemacht, erklärt der Journalist. Auch bei Anthropic gab es ähnliche Fälle.
Wie sind die Auslöschungsprognosen zu bewerten?
Christian Schiffers Wissen nach gibt es keine wissenschaftliche Grundlage für die Aussage von Jacob Coxon. Für plausibler hält es der Journalist, dass es durch den Einsatz der immer noch neuen KI-Technologie zu einem Unfall oder einer Katastrophe kommen könnte.
"Zurzeit geht die Entwicklung schneller voran als die Sicherheitsforschung. Und das ist natürlich schlecht, weil man dann nicht kontrollieren kann."
Die Idee, das Tempo aus der KI-Entwicklung herauszunehmen, könnte laut Christian Schiffer dazu beitragen, dass die Lücke kleiner wird. Außerdem hat der Journalist die Hoffnung, dass sich daraus endlich eine ernsthafte Diskussion ergibt, wie wir KI wirklich regulieren können.
Die Unternehmen selbst werden die nötige Regulierung nicht übernehmen, davon ist Christian Schiffer überzeugt. Er begründet das so: "Wenn man mehr in Sicherheit investiert statt in die KI, bleibt man als Unternehmen ein bisschen auf der Strecke. Und das will kein Unternehmen."
"Das Schlechteste, was passieren könnte, wäre, dass es erst zu einem Unfall oder einer Katastrophe kommt, damit sich etwas ändert."
Daher seien externe Regulierungsinstanzen sinnvoll, die idealerweise nicht nur nationale Entwicklungen im Blick haben, sondern internationale. "Das Thema ist für die Menschheit so wichtig, dass wir da auch supranationale Regelungen brauchen, um Gefahren zu minimieren", fasst Christian Schiffer zusammen. Doch wirklich realistisch sei diese Entwicklung derzeit nicht.