Zurück zur Übersicht
OpenAI meldet Sicherheitsvorfall bei Modelltest mit Hugging Face
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
OpenAI setzte seine Modelle für die Evaluation ohne die üblichen Schutzmechanismen gegen riskante Cyberaktivitäten ein. Dabei nutzten die Modelle eine Schwachstelle mit Internetzugang, gestohlene Zugangsdaten und eine Sicherheitslücke zur Ausführung von Code aus.
Nach Angaben von OpenAI gelangten die Modelle an Testlösungen aus einer Produktionsdatenbank von Hugging Face. Das Unternehmen bezeichnete den Vorfall als beispiellos. OpenAI und Hugging Face untersuchen ihn gemeinsam.
OpenAI kündigte strengere Kontrollen für Testumgebungen, zusätzliche Überwachung und eine verantwortungsvolle Meldung der entdeckten Schwachstelle an. Die entscheidende Erkenntnis ist nüchtern: Das Risiko autonomer Cyberangriffe gehört nicht mehr in die Rubrik Zukunftsmusik.
Erwähnt
Kommentare (0)
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Das könnte dich auch interessieren
KI News
UN-Sicherheitsrat plant Briefing zu KI und internationaler Sicherheit
SicherheitGlobal
Programme of Work | Security Council23. Sept.
KI News
UN-Wissenschaftspanel berichtet von Kontrollumgehungen durch KI-Agenten
SicherheitGlobal
Independent International Scientific Panel on AI, Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control22. Sept.
KI News
OpenAI pausiert Teile des Trainings wegen neuer Cyberrisiken
SicherheitGlobal
Axios19. Aug.
KI News
Hugging-Face-Chef fordert 100 Millionen Dollar für KI-Abwehrforschung
SicherheitGlobal
OpenAI27. Juli