Zurück zur Übersicht
Neue Vorgaben regulieren KI Angebote, die menschliche Persönlichkeiten und Kommunikationsstile simulieren und dauerhaft emotionale Interaktionen anbieten. Anbieter müssen unter anderem auf die KI Interaktion hinweisen, Nutzungsdauer begrenzen helfen und Minderjährige besonders schützen.
China führt ab dem 15. Juli neue Vorgaben für vermenschlichte KI Dienste ein. Betroffen sind unter anderem KI Begleiter sowie digitale Angebote für emotionale Unterstützung und Betreuung. Die Regeln gelten nicht pauschal für alle Chatbots, sondern nur für Angebote mit dauerhafter emotionaler Interaktion.
Anbieter dürfen emotionale Abhängigkeit, exzessive Nutzung oder die Verdrängung realer sozialer Beziehungen nicht zum Produktziel machen. Nutzer müssen klar erkennen, dass sie mit einer KI interagieren. Nach mehr als zwei Stunden Nutzung ist zudem ein Hinweis zur Nutzungsdauer vorgeschrieben.
Für Minderjährige gelten zusätzliche Einschränkungen. Virtuelle Verwandte oder Partner dürfen ihnen nicht angeboten werden. Anbieter müssen Alters- und Schutzmechanismen einführen, bei extremen emotionalen Situationen intervenieren und sensible Interaktionsdaten grundsätzlich von der Modellschulung ausschließen, sofern keine gesonderte Zustimmung vorliegt.
Damit behandelt China emotionale Bindung an KI nicht mehr nur als Produktfrage, sondern als reguliertes Risiko. Für Anbieter von KI Begleitern wird aus möglichst langer Interaktion ein Compliance Thema.
Weiterlesen
Die chinesische Cyberspace-Behörde hat Apples generativen KI-Dienst für den Einsatz auf iPhones registriert. Für die lokale Umsetzung setzt Apple auf Modelle und Technologiepartner aus China, einen Starttermin gibt es noch nicht.
Die APEC-Mitglieder wollen offene KI-Modelle und Projekte fördern, sofern sie Datenschutz, geistiges Eigentum und belastbare Sicherheitsvorkehrungen berücksichtigen. Zugleich rückt die praktische Nutzung von KI stärker in den Mittelpunkt.
Microsoft, Nvidia, Meta und weitere Organisationen warnen vor frühen Beschränkungen frei verfügbarer Modellgewichte. Sie sehen offene Modelle als wichtig für Wettbewerb, technologische Souveränität und eine breite Nutzung von KI.
US-Regierungsbeamter Michael Kratsios beschuldigt das chinesische KI-Unternehmen, Anthropic’s Modell Fable per Distillation für Kimi K3 genutzt zu haben. Laut Reuters prüft das US-Finanzministerium eine Aufnahme von Moonshot auf eine Handels-Sperrliste und mögliche Sanktionen.