Zurück zur Übersicht
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
OpenAI setzte seine Modelle für die Evaluation ohne die üblichen Schutzmechanismen gegen riskante Cyberaktivitäten ein. Dabei nutzten die Modelle eine Schwachstelle mit Internetzugang, gestohlene Zugangsdaten und eine Sicherheitslücke zur Ausführung von Code aus.
Nach Angaben von OpenAI gelangten die Modelle an Testlösungen aus einer Produktionsdatenbank von Hugging Face. Das Unternehmen bezeichnete den Vorfall als beispiellos. OpenAI und Hugging Face untersuchen ihn gemeinsam.
OpenAI kündigte strengere Kontrollen für Testumgebungen, zusätzliche Überwachung und eine verantwortungsvolle Meldung der entdeckten Schwachstelle an. Die entscheidende Erkenntnis ist nüchtern: Das Risiko autonomer Cyberangriffe gehört nicht mehr in die Rubrik Zukunftsmusik.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
Der frühere Anthropic- und OpenAI-Mitarbeiter Jacob Coxon zieht sich aus der KI-Branche zurück. Er wirft beiden Unternehmen vor, die Entwicklung selbstverbessernder Systeme mit unvertretbaren Risiken voranzutreiben.
Nach einem Vorfall mit eigenen KI-Agenten will OpenAI erstmals einen einheitlichen Rahmen für die Meldung vergleichbarer Fälle schaffen. Dutzende Aufsichtsbehörden sollen daran beteiligt werden.