Zurück zur Übersicht
OpenAI legt Prinzipien für unabhängige Sicherheitsprüfungen vor
Unabhängige Prüfer sollen OpenAI-Modelle über mehrere Phasen hinweg untersuchen können, vom Training bis zum Einsatz. Das Unternehmen beschreibt vier Prüfbereiche, nennt aber weder beteiligte Organisationen noch Ergebnisse abgeschlossener Prüfungen.
OpenAI hat am 22. September Grundsätze für vertiefte Prüfungen seiner Modelle durch unabhängige Dritte vorgestellt. Die Prüfer sollen Zugang zu verschiedenen Phasen erhalten, vom Training über die Evaluation bis zum Einsatz der Modelle.
Das Papier nennt vier Schwerpunkte: Belege für Sicherheitsversprechen, die Wirksamkeit von Schutzmaßnahmen, die Qualität von Risiko- und Fähigkeitstests sowie die Untersuchung schwerwiegender Fälle von Fehlverhalten. Prüfungen könnten laut OpenAI Wochen bis Monate dauern und unabhängig von einem konkreten Modellstart stattfinden.
OpenAI erklärt, mit mehreren möglichen Prüforganisationen im Gespräch zu sein, nennt jedoch keine Namen. Vorgestellt wurden damit Prüfprinzipien und mögliche Prüfbereiche, nicht die Ergebnisse neuer, abgeschlossener Prüfungen.
Erwähnt
Kommentare (0)
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Das könnte dich auch interessieren
KI News
UN-Sicherheitsrat plant Briefing zu KI und internationaler Sicherheit
SicherheitGlobal
Programme of Work | Security Council23. Sept.
KI News
UN-Wissenschaftspanel berichtet von Kontrollumgehungen durch KI-Agenten
SicherheitGlobal
Independent International Scientific Panel on AI, Thematic Brief on AI Agents, Misalignment and the Risk of Losing Human Control22. Sept.
KI News
KI-Forscher Jacob Coxon verlässt Anthropic und kritisiert Wettrennen zur Superintelligenz
SicherheitGlobal
EFE09. Sept.
KI News
OpenAI plant Regeln für die Offenlegung von KI-Fehlverhalten
SicherheitGlobal
TechCrunch06. Sept.