Zurück zur Übersicht
Anthropic spricht sich für einen koordinierten, überprüfbaren Stopp aus, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Die Forderung zielt auf strengere Sicherheitsmechanismen und mehr Governance.
Anthropic fordert einen koordinierten und überprüfbaren Stopp der Entwicklung, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Das Unternehmen will damit verhindern, dass die Technik schneller vorankommt als die Kontrolle über ihre Folgen.
Zur Begründung verweist Anthropic darauf, dass sich Systeme sonst unter Umständen schneller selbst verbessern könnten, als Risiken noch beherrschbar sind. Die Forderung fällt in eine Phase, in der Sicherheitsregeln für fortgeschrittene KI stärker diskutiert werden.
Weiterlesen
Das verschiebt den Engpass in der Cybersicherheit: Entscheidend wird nicht mehr nur das Finden, sondern das Prüfen, Offenlegen und Schließen der Lücken.
Das Modell kann Schwachstellen in IT-Systemen in großem Umfang identifizieren. Das Bundesamt für Sicherheit in der Informationstechnik sieht dringenden Handlungsbedarf bei der Absicherung von Infrastrukturen.
Nach einem unbeabsichtigten Datenleck berichtet Axios über interne Unterlagen zu einem noch unveröffentlichten Modell mit dem Codenamen „Mythos“. Demnach könnte das System groß angelegte Cyberangriffe erleichtern und die Debatte über Sicherheitsauflagen für leistungsfähige KI verschärfen.
Das Unternehmen hinter dem Sprachmodell Claude hat laut eigener Mitteilung am 1. Juni 2026 einen vertraulichen Entwurf einer S-1-Registrierung bei der US‑Börsenaufsicht eingereicht. Der Schritt eröffnet Anthropic die Option eines Börsengangs; Umfang, Preis und Zeitpunkt sind noch offen.