Anthropic fordert koordinierten Stopp bei steigenden KI-Risiken

Anthropic fordert einen koordinierten und überprüfbaren Stopp der Entwicklung, falls die Risiken fortgeschrittener KI-Systeme zu schnell steigen. Das Unternehmen will damit verhindern, dass die Technik schneller vorankommt als die Kontrolle über ihre Folgen.

Zur Begründung verweist Anthropic darauf, dass sich Systeme sonst unter Umständen schneller selbst verbessern könnten, als Risiken noch beherrschbar sind. Die Forderung fällt in eine Phase, in der Sicherheitsregeln für fortgeschrittene KI stärker diskutiert werden.