Zurück zur Übersicht
Das Programm richtet sich an verlässliche Entwickler sowie Regierungs- und Forschungspartner. OpenAI positioniert KI damit stärker als Infrastruktur für Sicherheits- und Resilienzfragen.
OpenAI hat mit Rosalind Biodefense ein Programm vorgestellt, das biologische Vorsorge und Abwehr mit ausgewählten Partnern stärken soll.
Das Unternehmen beschreibt Frontier-KI als Werkzeug, das Verteidigern in der Bioabwehr einen Vorteil verschaffen kann. Beteiligt sind laut Ankündigung vertrauenswürdige Entwickler sowie Regierungs- und Forschungspartner.
Der Schritt ist vor allem ein strategisches Signal. OpenAI rückt KI damit noch deutlicher in Richtung Sicherheitsinfrastruktur.
https://openai.com/index/strengthening-societal-resilience-with-rosalind-biodefense/
Weiterlesen
OpenAI erprobt eine Methode, die riskante Muster über mehrere API-Interaktionen erkennen soll, ohne dass Mitarbeitende die zugrunde liegenden Inhalte einsehen können. Die Funktion richtet sich an berechtigte Kunden mit aktivierter Speicherung ohne Datenaufbewahrung.
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.
Interne Tests zeigen deutliche Fortschritte bei agentischem Programmieren und Cybersecurity-Aufgaben. OpenAI kann nicht ausschließen, dass Astra unter dem eigenen Preparedness Framework die Stufe „Critical“ erreicht.
Nach einem Sicherheitsvorfall bei einer OpenAI-Modellprüfung verlangt Clem Delangue mehr Transparenz und Rechenleistung für die Entwicklung von Abwehrsystemen. Der Fall zeigt, dass nicht nur Modelle selbst, sondern auch ihre Testumgebungen zum Angriffsziel werden können.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.