Zurück zur Übersicht
Neue Vorgaben regulieren KI Angebote, die menschliche Persönlichkeiten und Kommunikationsstile simulieren und dauerhaft emotionale Interaktionen anbieten. Anbieter müssen unter anderem auf die KI Interaktion hinweisen, Nutzungsdauer begrenzen helfen und Minderjährige besonders schützen.
China führt ab dem 15. Juli neue Vorgaben für vermenschlichte KI Dienste ein. Betroffen sind unter anderem KI Begleiter sowie digitale Angebote für emotionale Unterstützung und Betreuung. Die Regeln gelten nicht pauschal für alle Chatbots, sondern nur für Angebote mit dauerhafter emotionaler Interaktion.
Anbieter dürfen emotionale Abhängigkeit, exzessive Nutzung oder die Verdrängung realer sozialer Beziehungen nicht zum Produktziel machen. Nutzer müssen klar erkennen, dass sie mit einer KI interagieren. Nach mehr als zwei Stunden Nutzung ist zudem ein Hinweis zur Nutzungsdauer vorgeschrieben.
Für Minderjährige gelten zusätzliche Einschränkungen. Virtuelle Verwandte oder Partner dürfen ihnen nicht angeboten werden. Anbieter müssen Alters- und Schutzmechanismen einführen, bei extremen emotionalen Situationen intervenieren und sensible Interaktionsdaten grundsätzlich von der Modellschulung ausschließen, sofern keine gesonderte Zustimmung vorliegt.
Damit behandelt China emotionale Bindung an KI nicht mehr nur als Produktfrage, sondern als reguliertes Risiko. Für Anbieter von KI Begleitern wird aus möglichst langer Interaktion ein Compliance Thema.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Die chinesische Cyberspace-Behörde hat Apples generativen KI-Dienst für den Einsatz auf iPhones registriert. Für die lokale Umsetzung setzt Apple auf Modelle und Technologiepartner aus China, einen Starttermin gibt es noch nicht.
Eine unabhängige, von NHS-Ärzten geleitete Kommission schlägt für KI im Gesundheitswesen einen schrittweisen Zulassungsprozess vor. Anwendungen sollen zunächst unter enger Aufsicht laufen und später umfassender genehmigt werden.
Die American Federation of Teachers, die United Federation of Teachers und Microsoft wollen Datenschutz und menschliche Kontrolle beim Einsatz von KI an US-Schulen vertraglich absichern. Die Vorgaben können in Verträge zwischen Schulbezirken und Anbietern aufgenommen werden, schaffen aber keinen neuen landesweiten Rechtsrahmen.
Volker Türk verlangt verbindliche Sicherheitsgrenzen, unabhängige Prüfungen und eine engere Zusammenarbeit der KI-Industrie. Staaten mit wichtigen KI-Unternehmen und Lieferketten sollen sich auf gemeinsame rote Linien verständigen.