Anthropic plant Prototyp für beweisbare Herkunft von KI-Ausgaben

Anthropic hat seine überarbeitete Sicherheits-Roadmap veröffentlicht. Neben dem Prototyp für nachvollziehbare Modellausgaben kündigt das Unternehmen stärker abgeschottete Entwicklungsumgebungen und umfassendere Sicherheitskontrollen für seine Modelle an.

Bis Januar 2027 soll zudem ein automatisiertes System entstehen, das anspruchsvolle Cyberangriffe auf Claude mit möglichst wenig menschlicher Beteiligung erkennt und untersucht. Anthropic begründet die Maßnahmen mit dem Risiko, dass Angreifer trainierte Modelle manipulieren oder für eigene Ziele übernehmen könnten.

Die Roadmap geht außerdem davon aus, dass KI-Systeme bereits Anfang 2027 die Arbeit großer menschlicher Forschungsteams unter anderem in Energie, Robotik, Waffenentwicklung und KI deutlich beschleunigen oder teilweise automatisieren könnten. Damit wird die Absicherung der Entwicklungsumgebung selbst zu einer strategischen Sicherheitsaufgabe. Wer leistungsfähigere Modelle baut, muss offenbar auch den eigenen Maschinenraum besser bewachen.