Bericht: Anthropic warnte intern vor Cyberrisiken eines neuen KI-Modells
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Anthropic hat laut einem Bericht von Axios intern vor den Cyberrisiken eines noch nicht veröffentlichten KI-Modells mit dem Codenamen „Mythos“ gewarnt. Grundlage des Berichts sind unveröffentlichte Anthropic-Unterlagen, auf die Axios nach einem unbeabsichtigten Datenleck Bezug nimmt.
Den Dokumenten zufolge soll das Modell groß angelegte Cyberangriffe wahrscheinlicher machen. Weitere technische Details zu den Fähigkeiten des Systems oder ein möglicher Veröffentlichungszeitpunkt wurden in der Meldung nicht genannt.
Der Vorgang verlagert die Diskussion über neue KI-Modelle von Leistungswerten und Produktmerkmalen hin zu Sicherheitsfolgen, Missbrauchsrisiken und Governance. Wenn Anbieter intern vor offensiven Cyberfähigkeiten warnen, wird Modellsicherheit nicht nur zur Forschungsfrage, sondern auch zu einem operativen und regulatorischen Thema.