Zurück zur Übersicht
Google hat neue Schutzmaßnahmen gegen indirekte Prompt-Injektionen in Gemini für Workspace vorgestellt. Dazu zählen kontinuierliches Red-Teaming durch Menschen und automatisierte Verfahren sowie das AI Vulnerability Rewards Program und Modell-Härtung.
Google hat neue Abwehrmaßnahmen gegen indirekte Prompt-Injektionen für Gemini in Workspace vorgestellt.
Das Unternehmen beschreibt das Angriffsszenario als Risiko für produktive KI-Umgebungen, in denen manipulierte Inhalte ein Modell zu unerwünschten Antworten oder Handlungen verleiten können.
Google setzt dabei auf kontinuierliches Red-Teaming durch Menschen und automatisierte Verfahren. Ergänzt wird der Ansatz durch das AI Vulnerability Rewards Program und Maßnahmen zur Modell-Härtung.
Weiterlesen
Google reichte am 12. Juni 2026 in New York eine Zivilklage ein, um die Infrastruktur eines mutmaßlich China-basierten Phishing‑Dienstes zu stoppen. Der Konzern zufolge nutzte das Netzwerk KI‑Tools, darunter Gemini, zur massenhaften Erstellung gefälschter Websites und betrügerischer SMS.
Laut Financial Times konnte Google Meta nicht die angefragte Rechenleistung für die Nutzung der Gemini-Modelle liefern. Die Beschränkung habe interne Projekte bei Meta verzögert und Meta angewiesen, KI-Token sparsamer zu nutzen.
Google hat am 12. Juni 2026 die gerichtliche Zerschlagung einer China-basierten Phishing-als-Service-Plattform beantragt. Dem Konzern zufolge nutzte die Infrastruktur unter anderem das Modell Gemini, um Tausende Fake-Webseiten und Millionen betrügerischer SMS-Links zu erzeugen.
Auf der Eröffnungskeynote am 8. Juni 2026 präsentierte Apple eine grundlegend überarbeitete Siri-Strategie und die Entwickler-Beta von iOS 27. Grundlage dafür sollen laut früherer Ankündigung Googles Gemini-Modelle sein, die in neue Apple Foundation Models integriert werden sollen.
Der Konzern sieht darin ein neues Sicherheitsrisiko. Google nennt zugleich zusätzliche Schutzmechanismen sowie die Tools Big Sleep und CodeMender.