Anthropic lehnt pauschales Verbot offener KI Modelle ab

Anthropic spricht sich gegen ein generelles Verbot offener KI Modelle aus. Unternehmenschef Dario Amodei bezeichnete Modelle mit offenen Gewichten grundsätzlich als öffentliches Gut, solange sie keine gefährlichen Fähigkeiten besitzen.

Das Unternehmen fordert strengere Exportkontrollen für leistungsfähige KI Chips nach China, ein Vorgehen gegen industrielle Modell Destillation und verpflichtende Sicherheitstests für alle ausreichend leistungsfähigen Modelle. Diese Vorgaben sollen unabhängig davon gelten, ob ein Modell offen oder geschlossen ist.

Anthropic warnt zugleich vor den Risiken besonders leistungsfähiger Modelle mit offenen Gewichten. Nach einer Veröffentlichung lassen sich Schutzmechanismen nicht mehr zuverlässig durchsetzen oder zurücknehmen. Die Debatte verschiebt sich damit von der Eigentumsfrage zur entscheidenderen Sicherheitsfrage: Welche Fähigkeiten besitzt ein Modell tatsächlich?