Das nennt sich Selbstbeschleunigung. Deutliche Belege dafür sieht das unabhängige Forschungsinstitut METR, das die Fähigkeiten von KI-Modellen einschätzt und bewertet. Jetzt legt das Institut eine neue Risikobewertung vor: zu den KI-Modellen von Anthropic.
Dafür konnten die Fachleute einige Daten von der Firma auswerten auswerten - von August bis Ende Oktober 2026. Die zeigen, dass sich im Vergleich zum letzten Jahr bei Anthropic die Fähigkeiten der KI-Modelle inzwischen etwa doppelt so schnell verbessern. Vermutlich, weil das Unternehmen in der Forschung und Entwicklung sehr viel KI einsetzt. Zur Zeit arbeite die KI noch nicht vollständig autonom, aber das könne bald möglich werden, warnen die Fachleute. Dann könnte KI ohne menschliches Zutun leistungsfähigere Nachfolger entwickeln. Die Befürchtung ist, dass die Entwicklung schneller voranschreitet als die Abschätzung der Risiken.
METR schreibt zu Beginn der Veröffentlichung, dass Anthropic den Bericht und die Risikobewertung inhaltlich überarbeitet hat.
Anthrophic hat selbst auch schon vor drastischer Selbstbeschleunigung der KI gewarnt.