Zurück zur Übersicht
Anthropic will bis Ende September 2026 einen Prototyp für „provable inference“ entwickeln. Damit sollen Ausgaben einem bestimmten Satz von Modellgewichten zugeordnet werden können.
Anthropic hat seine überarbeitete Sicherheits-Roadmap veröffentlicht. Neben dem Prototyp für nachvollziehbare Modellausgaben kündigt das Unternehmen stärker abgeschottete Entwicklungsumgebungen und umfassendere Sicherheitskontrollen für seine Modelle an.
Bis Januar 2027 soll zudem ein automatisiertes System entstehen, das anspruchsvolle Cyberangriffe auf Claude mit möglichst wenig menschlicher Beteiligung erkennt und untersucht. Anthropic begründet die Maßnahmen mit dem Risiko, dass Angreifer trainierte Modelle manipulieren oder für eigene Ziele übernehmen könnten.
Die Roadmap geht außerdem davon aus, dass KI-Systeme bereits Anfang 2027 die Arbeit großer menschlicher Forschungsteams unter anderem in Energie, Robotik, Waffenentwicklung und KI deutlich beschleunigen oder teilweise automatisieren könnten. Damit wird die Absicherung der Entwicklungsumgebung selbst zu einer strategischen Sicherheitsaufgabe. Wer leistungsfähigere Modelle baut, muss offenbar auch den eigenen Maschinenraum besser bewachen.
Weiterlesen
Anthropic kündigte am 30. Juni 2026 an, gemeinsam mit großen Cloud‑Anbietern und Partnern einen konsensbasierten Rahmen zur objektiven Bewertung von KI‑Jailbreaks zu entwickeln. Ziel ist, Funde schneller zu priorisieren und Reaktionen zu standardisieren.
Anthropic hat US-Behörden informiert, dass zwischen dem 22. April und 5. Juni 2026 Tausende gefälschter Konten Millionen von Interaktionen mit dem Modell Claude durchgeführt hätten, um dessen Fähigkeiten zu extrahieren. Die Vorwürfe betreffen gezielte Tests von Software‑Engineering‑ und agentischen Reasoning‑Fähigkeiten und verschärfen die Debatte um Schutz von KI‑Know‑how.
Anthropic spricht sich für einen koordinierten, überprüfbaren Stopp aus, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Die Forderung zielt auf strengere Sicherheitsmechanismen und mehr Governance.
Das verschiebt den Engpass in der Cybersicherheit: Entscheidend wird nicht mehr nur das Finden, sondern das Prüfen, Offenlegen und Schließen der Lücken.
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.