Anthropic sieht Schwelle zur automatisierten KI Forschung noch nicht erreicht

Anthropic hat die Schwelle zur automatisierten KI Forschung nach eigener Einschätzung noch nicht erreicht. Als erfüllt gilt sie, wenn Modelle entweder ein vollständiges Team aus Forschungswissenschaftlern und Forschungsingenieuren zu wettbewerbsfähigen Kosten ersetzen oder das Tempo des KI Fortschritts durch automatisierte Forschung mindestens verdoppeln.

Beide Kriterien seien derzeit nicht erfüllt. Vor allem könnten die Modelle erfahrene Forscher noch nicht zuverlässig ersetzen. Kurzfristig stuft Anthropic das Katastrophenrisiko dieses Szenarios als niedrig ein.

Gleichzeitig warnt das Unternehmen vor einer möglichen drastischen Beschleunigung der KI Entwicklung. Sollte KI ihre eigene Forschung weitgehend automatisieren, könnte das auch das globale Machtgleichgewicht verändern. Der Bericht macht damit vor allem eines klar: Noch ist die Schwelle nicht erreicht, aber Anthropic behandelt sie längst als strategisches Risiko und nicht als Science Fiction.