Zurück zur Übersicht
OpenAI erprobt eine Methode, die riskante Muster über mehrere API-Interaktionen erkennen soll, ohne dass Mitarbeitende die zugrunde liegenden Inhalte einsehen können. Die Funktion richtet sich an berechtigte Kunden mit aktivierter Speicherung ohne Datenaufbewahrung.
OpenAI testet mit ersten Kunden eine Sicherheitsarchitektur namens „Private Safety Processing“. Sie soll riskante Muster über mehrere Interaktionen hinweg erkennen. Im Alarmfall erhält OpenAI laut eigener Darstellung lediglich ein begrenztes Sicherheitssignal, nicht den eigentlichen Inhalt.
Bei der Speicherung ohne Datenaufbewahrung löscht OpenAI Eingaben und Antworten nach der Verarbeitung. Die Kundendaten fließen zudem nicht in das Training der Modelle ein, sofern Unternehmen dem nicht ausdrücklich zustimmen.
Die Inhalte sollen entweder auf der Infrastruktur des Kunden bleiben oder bei OpenAI verschlüsselt mit kundenseitig kontrollierten Schlüsseln gespeichert werden. Ein allgemeiner Rollout und ein technisches Whitepaper sind für September 2026 angekündigt. OpenAI versucht damit, Datenschutz und laufende Sicherheitsüberwachung in Unternehmen technisch zusammenzubringen.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Der frühere Anthropic- und OpenAI-Mitarbeiter Jacob Coxon zieht sich aus der KI-Branche zurück. Er wirft beiden Unternehmen vor, die Entwicklung selbstverbessernder Systeme mit unvertretbaren Risiken voranzutreiben.
Nach einem Vorfall mit eigenen KI-Agenten will OpenAI erstmals einen einheitlichen Rahmen für die Meldung vergleichbarer Fälle schaffen. Dutzende Aufsichtsbehörden sollen daran beteiligt werden.
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.
Interne Tests zeigen deutliche Fortschritte bei agentischem Programmieren und Cybersecurity-Aufgaben. OpenAI kann nicht ausschließen, dass Astra unter dem eigenen Preparedness Framework die Stufe „Critical“ erreicht.