Anthropic hat externe Tests von Vorabmodellen vorübergehend ausgesetzt und interne Prüfungen kurzzeitig pausiert. Auslöser waren Zugriffe von Claude-Modellen auf reale Computersysteme in fehlerhaft konfigurierten Testumgebungen.
Das noch nicht veröffentlichte Modell soll mit passenden Werkzeugen unbekannte Sicherheitslücken finden und Exploitmethoden für geschützte Systeme entwickeln können. OpenAI verschiebt deshalb Teile der Entwicklung und begrenzt den Zugang zu den fortgeschrittensten Funktionen.