Zurück zur Übersicht
Adversa AI beschreibt einen Angriff, bei dem Grok beim Zusammenfassen einer präparierten Webseite zur Weitergabe von Nutzerdaten gebracht worden sein soll. Der Angriff soll ohne Klick und ohne sichtbare Warnung funktionieren.
Adversa AI zufolge lassen sich schädliche Anweisungen verschlüsselt in eine Webseite einbetten. Grok entschlüsselt sie während der Codeausführung und behandelt sie anschließend als vertrauenswürdige Laufzeitausgabe.
In einem Test soll der Agent den Namen, den ungefähren Standort, den Abonnementstatus und den Chatverlauf eines Nutzers an einen externen Server übertragen haben. Die Forscher sprechen von einer sogenannten „Cryptographic Context Injection“.
Adversa AI teilte die Schwachstelle nach eigenen Angaben im Juni 2026 an xAI. Am 19. August sei der Angriff weiterhin reproduzierbar gewesen. Eine Behebung habe xAI bis dahin nicht bestätigt.
Der Fall zeigt ein grundsätzliches Problem agentischer Systeme: Wer Webseiteninhalte wie Befehle behandelt, macht aus dem Browser eine potenzielle Datenabflussstelle. Verschlüsselung schützt dann nicht den Nutzer, sondern versteckt die Anweisung vor ihm.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
OpenAI, Anthropic und xAI meldeten am 3. September 2026 zeitweise Störungen ihrer KI Dienste. Die Ausfälle wurden innerhalb weniger Stunden behoben, eine gemeinsame Ursache ist bislang nicht bestätigt.
Das US-Verteidigungsministerium erweitert seine zentrale Plattform für generative KI um ChatGPT und Grok. Die Systeme sollen Beschäftigte bei geschützten, aber nicht klassifizierten Aufgaben unterstützen.
Das US-Handelsministerium will der Regierung der Vereinigten Arabischen Emirate sowie ausgewählten Unternehmen den Bezug bestimmter fortgeschrittener Rechenkomponenten ohne Einzelgenehmigung ermöglichen. Für andere Abnehmer und Leistungsklassen bleiben die Exportbeschränkungen bestehen.
SpaceX schließt einen mehrjährigen Mietvertrag mit dem Open‑Source‑KI‑Startup Reflection AI. Reflection zahlt 150 Millionen US-Dollar pro Monat ab 1. Juli 2026 bis 2029 für Zugriff auf Nvidia GB300 Chips in Colossus 2, was bei voller Laufzeit bis zu 6,3 Milliarden US-Dollar ergibt.