Zurück zur Übersicht
Bei den Gesprächen in Peking ging es laut Reuters um Sicherheitsprotokolle und den Umgang mit Missbrauchsrisiken. Ein gemeinsamer Rahmen könnte Signalwirkung weit über die beiden Länder hinaus haben.
Vertreter der USA und Chinas haben in Peking über Sicherheitsleitplanken für die leistungsstärksten KI-Modelle gesprochen. Laut Reuters standen dabei auch Best-Practice-Protokolle für den Umgang mit solchen Systemen auf der Agenda.
US-Finanzminister Scott Bessent verwies dem Bericht zufolge auf das Risiko, dass nichtstaatliche Akteure die stärksten Modelle missbrauchen könnten. Die Gespräche fallen in eine Phase, in der beide Länder beim Thema Frontier-KI weiter im Wettbewerb stehen.
Sollte aus den Gesprächen ein gemeinsamer Rahmen entstehen, hätte das potenziell Signalwirkung über die USA und China hinaus.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Der frühere Anthropic- und OpenAI-Mitarbeiter Jacob Coxon zieht sich aus der KI-Branche zurück. Er wirft beiden Unternehmen vor, die Entwicklung selbstverbessernder Systeme mit unvertretbaren Risiken voranzutreiben.
NSA, FBI und CISA werfen chinesischen KI-Unternehmen vor, Fähigkeiten und proprietäre Funktionen aus US-amerikanischen Spitzenmodellen systematisch zu extrahieren. Die Behörden sehen darin eine Methode, eigene Modelle schneller und günstiger zu entwickeln.
Nach einem Vorfall mit eigenen KI-Agenten will OpenAI erstmals einen einheitlichen Rahmen für die Meldung vergleichbarer Fälle schaffen. Dutzende Aufsichtsbehörden sollen daran beteiligt werden.
Adversa AI beschreibt einen Angriff, bei dem Grok beim Zusammenfassen einer präparierten Webseite zur Weitergabe von Nutzerdaten gebracht worden sein soll. Der Angriff soll ohne Klick und ohne sichtbare Warnung funktionieren.