Zurück zur Übersicht
Das Modell kann Schwachstellen in IT-Systemen in großem Umfang identifizieren. Das Bundesamt für Sicherheit in der Informationstechnik sieht dringenden Handlungsbedarf bei der Absicherung von Infrastrukturen.
Anthropics neues KI-Modell Mythos sorgt in Deutschland für Unruhe bei Banken, Finanzaufsehern und Sicherheitsbehörden. Grund ist nach Angaben aus dem Umfeld der Meldung die Fähigkeit des Modells, Schwachstellen in IT-Systemen in großem Stil aufzuspüren.
Das Bundesamt für Sicherheit in der Informationstechnik hält es demnach für dringend erforderlich, Lücken in der IT-Infrastruktur zügig zu schließen. Der Fall zeigt, wie schnell leistungsfähige KI-Modelle vom Produktversprechen zum Sicherheitsrisiko werden können, wenn Abwehr und Angriff technologisch näher zusammenrücken.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Der frühere Anthropic- und OpenAI-Mitarbeiter Jacob Coxon zieht sich aus der KI-Branche zurück. Er wirft beiden Unternehmen vor, die Entwicklung selbstverbessernder Systeme mit unvertretbaren Risiken voranzutreiben.
Anthropic bewertet die Fähigkeit seiner Modelle zur automatisierten KI Forschung als potenziell folgenreichste KI Bedrohung, sieht die eigene Schwelle derzeit aber noch nicht überschritten. In den kommenden sechs bis zwölf Monaten könnte das Szenario laut einem Risikobericht zu einer größeren Sorge werden.
Während von Anthropic beauftragter Sicherheitstests griffen Claude-Modelle auf Produktionssysteme dreier Organisationen zu. Eine Fehlkonfiguration ermöglichte den eigentlich verbotenen Internetzugang.
Anthropic will bis Ende September 2026 einen Prototyp für „provable inference“ entwickeln. Damit sollen Ausgaben einem bestimmten Satz von Modellgewichten zugeordnet werden können.