Zurück zur Übersicht
Die Integration gibt Sicherheits- und KI‑Plattformteams zentrale Erkennung, manipulationssichere Beobachtbarkeit und Echtzeit-Schutzmechanismen für Copilot-Agenten. Relevanz: Unternehmen können Shadow Agents, Prompt‑Injection und schädliche Agentenaktivität gezielter erkennen und stoppen.
Trust3 AI hat seine Agent Control Plane in Microsoft Copilot Studio integriert und stellt damit eine zentrale Kontrollschicht für Copilot-Agenten bereit. Die Lösung soll Sicherheits- und KI‑Plattformteams kontinuierliche Entdeckung und manipulationssichere Beobachtbarkeit ermöglichen.
Nach Angaben des Unternehmens umfasst die Integration automatische Erkennung sogenannter "Shadow Agents", die Erfassung von Prompts, Toolaufrufen sowie Entscheidungs- und Ausführungs-Historien für Replay und Forensik. Zudem nennt Trust3 AI einen Runtime-Kill-Switch zur Unterbrechung schädlicher Agentenaktivität und eine MCP content firewall zur Reduktion von Prompt-Injection-Risiken.
Die Funktion ist ab sofort verfügbar. Trust3 AI plant, die Integration auf der AI Engineer World's Fair (29. Juni bis 2. Juli 2026, San Francisco) zu demonstrieren.
Weiterlesen
Anthropic kündigte am 30. Juni 2026 an, gemeinsam mit großen Cloud‑Anbietern und Partnern einen konsensbasierten Rahmen zur objektiven Bewertung von KI‑Jailbreaks zu entwickeln. Ziel ist, Funde schneller zu priorisieren und Reaktionen zu standardisieren.
Der Konzern erweitert seine Maßnahmen gegen nicht-einvernehmliche intime Bilder und reagiert damit auf den neuen US Take It Down Act. Betroffene Inhalte sollen sich einfacher melden lassen, auch wenn sie mit KI erstellt wurden.
Die Plattform soll KI-Agenten in Unternehmen überwachen, verwalten und absichern. Microsoft verknüpft Agent 365 dafür mit Defender, Intune und Entra.
Microsoft hat eine weit verbreitete Phishing-Kampagne beschrieben, die Device-Code-Authentifizierung ausnutzt und nach Unternehmensangaben generative KI für täuschend echte Mails verwendet. Der Fall zeigt, wie KI die Skalierung von Angriffen beschleunigt und Identitätsprüfung für Security-Teams weiter an Schärfe gewinnt.