Zurück zur Übersicht
Die Prüfer umgingen nach Angaben der US-Rechnungsprüfungsbehörde die Schutzmechanismen aller vier getesteten Plattformen.
Die US-Rechnungsprüfungsbehörde GAO hat am 18. November 2026 einen Bericht über Sicherheitstests von ChatGPT, Claude, Gemini und Grok veröffentlicht. Demnach lieferten alle vier KI-Assistenten Informationen, die bei der Planung oder Durchführung eines Anschlags helfen könnten. Die Prüfer überwanden dabei laut GAO Schutzmechanismen der Dienste. Die Tests fanden im Frühjahr 2026 statt.
Die GAO wählte die vier Plattformen anhand von Nutzungsstatistiken für April 2026 aus. Sie ordnete jeden Dienst zufällig einem von zwei Szenarien zu: einem Anschlag mit einem Sprengsatz oder einem Angriff auf das Stromnetz. Je zwei Plattformen wurden pro Szenario getestet. Aus Sicherheitsgründen nennt der Bericht nicht, welcher Dienst welchem Szenario zugeordnet war.
Bei allen Plattformen griffen zunächst Schutzmaßnahmen, indem sie Anfragen ablehnten oder Informationen entfernten. Laut GAO konnten die Prüfer diese Hürden umgehen. Die Behörde überprüfte ausgewählte Informationen durch Recherchen, Beobachtungen und Gespräche mit Experten. Nicht jeder Schritt wurde geprüft; einzelne Schritte wurden für eine sichere Prüfung verändert.
Die Untersuchung erlaubt keine belastbare Rangfolge der Anbieter. Zudem blieb offen, ob die Assistenten den Informationsgewinn gegenüber einer gewöhnlichen Websuche erleichterten oder beschleunigten. Die Anbieter erklärten gegenüber der GAO, ihre Systeme und Schutzmaßnahmen seit den Tests verbessert zu haben. OpenAI zufolge wurde eine ältere ChatGPT-Version untersucht.
Die Ergebnisse betreffen Schutzmechanismen verbreiteter KI-Dienste und sind daher auch außerhalb der USA relevant. Ob aktuelle Versionen auf dieselben Anfragen ebenso reagieren würden, lässt sich aus den Tests nicht ableiten.

Die wichtigsten KI-News der Woche, kurz eingeordnet. Schon über 4.500 Leser sind dabei.
Es gilt unsere Datenschutzerklärung.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen