Google rüstet Gemini in Workspace gegen Prompt-Injektionen auf

Google hat neue Abwehrmaßnahmen gegen indirekte Prompt-Injektionen für Gemini in Workspace vorgestellt.

Das Unternehmen beschreibt das Angriffsszenario als Risiko für produktive KI-Umgebungen, in denen manipulierte Inhalte ein Modell zu unerwünschten Antworten oder Handlungen verleiten können.

Google setzt dabei auf kontinuierliches Red-Teaming durch Menschen und automatisierte Verfahren. Ergänzt wird der Ansatz durch das AI Vulnerability Rewards Program und Maßnahmen zur Modell-Härtung.