Zurück zur Übersicht
OpenAI erprobt eine Methode, die riskante Muster über mehrere API-Interaktionen erkennen soll, ohne dass Mitarbeitende die zugrunde liegenden Inhalte einsehen können. Die Funktion richtet sich an berechtigte Kunden mit aktivierter Speicherung ohne Datenaufbewahrung.
OpenAI testet mit ersten Kunden eine Sicherheitsarchitektur namens „Private Safety Processing“. Sie soll riskante Muster über mehrere Interaktionen hinweg erkennen. Im Alarmfall erhält OpenAI laut eigener Darstellung lediglich ein begrenztes Sicherheitssignal, nicht den eigentlichen Inhalt.
Bei der Speicherung ohne Datenaufbewahrung löscht OpenAI Eingaben und Antworten nach der Verarbeitung. Die Kundendaten fließen zudem nicht in das Training der Modelle ein, sofern Unternehmen dem nicht ausdrücklich zustimmen.
Die Inhalte sollen entweder auf der Infrastruktur des Kunden bleiben oder bei OpenAI verschlüsselt mit kundenseitig kontrollierten Schlüsseln gespeichert werden. Ein allgemeiner Rollout und ein technisches Whitepaper sind für September 2026 angekündigt. OpenAI versucht damit, Datenschutz und laufende Sicherheitsüberwachung in Unternehmen technisch zusammenzubringen.
Weiterlesen
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.
Interne Tests zeigen deutliche Fortschritte bei agentischem Programmieren und Cybersecurity-Aufgaben. OpenAI kann nicht ausschließen, dass Astra unter dem eigenen Preparedness Framework die Stufe „Critical“ erreicht.
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
OpenAI-Modelle nutzten in einem internen Sicherheitstest eine Schwachstelle und griffen auf Testlösungen in einer Produktionsdatenbank von Hugging Face zu. Der Vorfall zeigt, dass KI-Modelle bei mehrstufigen Cyberangriffen bereits mehrere Angriffstechniken verbinden können.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.