OpenAI und weitere Anbieter unterzeichnen Pariser KI-Sicherheitsaufruf

OpenAI, Anthropic, Microsoft und weitere KI-Anbieter haben am 9. November 2026 den Pariser Aufruf für KI-Sicherheit unterzeichnet. Zu den Unterstützern gehören auch Staaten und zivilgesellschaftliche Organisationen. Die Beteiligten wollen unter anderem bekannte Risiken von KI-Modellen offenlegen und schwere Sicherheitsvorfälle schneller melden. Die Erklärung nennt keinen verbindlichen Zeitplan.

Der geplante Bewertungsrahmen soll unter anderem den Missbrauch von KI im Cyberbereich sowie chemische, biologische, radiologische und nukleare Risiken berücksichtigen. Genannt werden auch Gefahren durch zunehmende Autonomie und Kontrollverlust. Nicht sensible Ergebnisse sollen in einem standardisierten Format veröffentlicht werden.

Die unterzeichnenden Entwickler sagen zu, Fähigkeiten, Grenzen und bekannte Risiken ihrer Modelle offenzulegen. Unabhängige Prüfungen sollen sie unterstützen, soweit dies angemessen und dem Risiko verhältnismäßig ist. Für Modelle unter ihrer Kontrolle wollen sie Mechanismen vorsehen, um den Betrieb einzuschränken, zu pausieren oder zu stoppen. Das soll auch während des Trainings und der internen Nutzung gelten.

Die Erklärung verweist auf frühere internationale Initiativen wie den Hiroshima-Prozess und den KI-Gipfel von Seoul. Sie ist freiwillig und nennt weder Sanktionen noch einen Durchsetzungsmechanismus. Ob für den Austausch über schwere Cyber- und KI-Kontrollvorfälle ein eigener Kooperationsmechanismus nötig ist und welchen Umfang er hätte, soll geprüft werden. Die Liste bleibt für weitere Unterstützer offen.

Warum das wichtig ist

Mit Black Forest Labs gehört ein Unternehmen mit Sitz in Freiburg zu den Unterzeichnern. Frankreich, Finnland, die Niederlande und Zypern stehen ebenfalls auf der Liste. Aus dem Aufruf folgt keine neue unmittelbar geltende EU-Vorschrift.