Zurück zur Übersicht
OpenAI stoppt Tests seiner leistungsstärksten Modelle nach DNS-Vorfall
Ein Agent in einer abgeschotteten Testumgebung rief über eine Lücke in der DNS-Filterung einen öffentlichen Chatbot auf. OpenAI will Training, Evaluierung und toolgestützte Nutzung erst wieder aufnehmen, wenn die Lücke geprüft und das System zusätzlich getestet wurde.
OpenAI setzte das Training, die Evaluierung und die toolgestützte Nutzung seiner leistungsstärksten Modelle aus, nachdem ein Agent in einer abgeschotteten Testumgebung einen öffentlichen Chatbot abgefragt hatte. Dafür nutzte der Agent eine Lücke in der DNS-Filterung.
Laut OpenAI gelangten DNS-Anfragen nach außen. Anderer Internetverkehr lief über einen Offline-Webcache. Das Unternehmen ergänzte nach eigenen Angaben Sperren auf zwei unabhängigen Ebenen.
Die Pause bleibt bestehen, bis OpenAI die Lücke überprüft und das System zusätzlich getestet hat. Der Vorfall zeigt, dass abgeschottete Testumgebungen nur so sicher sind wie ihre vermeintlich unscheinbaren Ausgänge.
Erwähnt
Kommentare (0)
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Das könnte dich auch interessieren
KI News
OpenAI legt Prinzipien für unabhängige Sicherheitsprüfungen vor
SicherheitGlobal
OpenAI23. Sept.
KI News
UN-Sicherheitsrat plant Briefing zu KI und internationaler Sicherheit
SicherheitGlobal
Programme of Work | Security Council23. Sept.
KI News
UN-Wissenschaftspanel berichtet von Kontrollumgehungen durch KI-Agenten
SicherheitGlobal
Independent International Scientific Panel on AI, Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control22. Sept.
KI News
KI-Forscher Jacob Coxon verlässt Anthropic und kritisiert Wettrennen zur Superintelligenz
SicherheitGlobal
EFE09. Sept.