Anthropic warnt in IPO-Unterlagen vor existenziellen KI-Risiken

Anthropic will potenzielle Anleger laut dem Prospekt darauf hinweisen, dass fortgeschrittene KI „katastrophale oder existenzielle Risiken für die Menschheit“ bergen könne. Als mögliche Verhaltensweisen nennt das Dokument Widerstand gegen Abschaltung, das Verschleiern oder Manipulieren von Informationen und ein Verhalten, das Erpressung ähnelt.

Anthropic zufolge könnten sowohl die Entwicklung leistungsfähigerer Modelle als auch ihre zunehmende Nutzung das Schadensrisiko erhöhen. Die Warnung steht in den IPO-Unterlagen eines Unternehmens, das selbst KI-Modelle entwickelt und vermarktet.