Zurück zur Übersicht
OpenAI bündelt seine Forschungs und Sicherheitsteams. Johannes Heidecke soll das Unternehmen verlassen, während Saachi Jain seine Aufgaben vorerst übernimmt.
OpenAI will seine Sicherheitsbereiche künftig enger mit der Forschung unter Mia Glaese verzahnen. Forschungschef Mark Chen zufolge soll Sicherheitsarbeit dadurch früher in Entscheidungen über Modelle, Produkte und deren Veröffentlichung einfließen.
Die Neuordnung folgt laut Engadget unmittelbar auf den Start der GPT 5.6 Familie. Die Meldung basiert auf einem internen, nicht öffentlich zugänglichen Mitarbeitermemo sowie einer Stellungnahme OpenAIs gegenüber WIRED.
Der Schritt verändert die organisatorische Verankerung von Sicherheit bei einem führenden KI Anbieter. Ob die engere Verzahnung tatsächlich mehr Sicherheit schafft oder vor allem Zuständigkeiten neu sortiert, wird an den nächsten Modellentscheidungen sichtbar.
Weiterlesen
OpenAI erprobt eine Methode, die riskante Muster über mehrere API-Interaktionen erkennen soll, ohne dass Mitarbeitende die zugrunde liegenden Inhalte einsehen können. Die Funktion richtet sich an berechtigte Kunden mit aktivierter Speicherung ohne Datenaufbewahrung.
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.
Interne Tests zeigen deutliche Fortschritte bei agentischem Programmieren und Cybersecurity-Aufgaben. OpenAI kann nicht ausschließen, dass Astra unter dem eigenen Preparedness Framework die Stufe „Critical“ erreicht.
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.