OpenAI stuft kommendes Modell Astra als erstes mit kritischer Cyberfähigkeit ein

OpenAI stuft sein kommendes Modell Astra als erstes eigenes Modell mit kritischer Cyberfähigkeit ein. Nach Angaben des Unternehmens kann Astra mit den richtigen Werkzeugen und Zugängen bislang unbekannte Sicherheitslücken finden und Exploitmethoden für gut geschützte Systeme entwickeln, ohne dass ein Mensch jeden Schritt vorgibt.

In Tests erzielte Astra auf dem Benchmark ExploitBench eine Trefferquote von 100 Prozent. Bei einem internen Test entdeckte und nutzte das Modell außerdem zwei bislang unbekannte Schwachstellen als Teil einer Angriffskette.

OpenAI hat Teile der Entwicklung und Veröffentlichung deshalb verzögert und zusätzliche Sicherheitsmaßnahmen eingeführt. Astra soll bald verfügbar werden. Die fortgeschrittensten Cyberfunktionen sollen zunächst jedoch nur einer begrenzten Gruppe von Testern offenstehen.