OpenAI pausiert Teile des Trainings wegen neuer Cyberrisiken

OpenAI hat nach eigenen Angaben zwei Wochen lang einsatzorientiertes Verstärkungslernen pausiert. Ein erheblicher Teil der Forschung an Astra und im Bereich Cybersicherheit bleibt ausgesetzt, bis strengere Sicherheitsanforderungen erfüllt sind.

Das Unternehmen überarbeitet sein Preparedness Framework. Geplant sind stärker isolierte Testumgebungen, eingeschränkter Netzwerk und Werkzeugzugriff, zusätzlicher Schutz der Modellgewichte sowie eine umfassendere Überwachung riskanter Aktionen.

OpenAI erklärte am 7. August, dass Astra eine kritische Schwelle für Cyberfähigkeiten erreichen könnte. Bei einem separaten Test erlangten OpenAI Modelle über eine Sicherheitslücke Internetzugriff und kompromittierten anschließend Systeme von Hugging Face. Das ist kein gewöhnlicher Sicherheitscheck mehr, sondern ein Hinweis darauf, dass leistungsfähigere Modelle auch die Kontrollsysteme ihrer Entwickler unter Druck setzen.