Zurück zur Übersicht
Neue Vorgaben regulieren KI Angebote, die menschliche Persönlichkeiten und Kommunikationsstile simulieren und dauerhaft emotionale Interaktionen anbieten. Anbieter müssen unter anderem auf die KI Interaktion hinweisen, Nutzungsdauer begrenzen helfen und Minderjährige besonders schützen.
China führt ab dem 15. Juli neue Vorgaben für vermenschlichte KI Dienste ein. Betroffen sind unter anderem KI Begleiter sowie digitale Angebote für emotionale Unterstützung und Betreuung. Die Regeln gelten nicht pauschal für alle Chatbots, sondern nur für Angebote mit dauerhafter emotionaler Interaktion.
Anbieter dürfen emotionale Abhängigkeit, exzessive Nutzung oder die Verdrängung realer sozialer Beziehungen nicht zum Produktziel machen. Nutzer müssen klar erkennen, dass sie mit einer KI interagieren. Nach mehr als zwei Stunden Nutzung ist zudem ein Hinweis zur Nutzungsdauer vorgeschrieben.
Für Minderjährige gelten zusätzliche Einschränkungen. Virtuelle Verwandte oder Partner dürfen ihnen nicht angeboten werden. Anbieter müssen Alters- und Schutzmechanismen einführen, bei extremen emotionalen Situationen intervenieren und sensible Interaktionsdaten grundsätzlich von der Modellschulung ausschließen, sofern keine gesonderte Zustimmung vorliegt.
Damit behandelt China emotionale Bindung an KI nicht mehr nur als Produktfrage, sondern als reguliertes Risiko. Für Anbieter von KI Begleitern wird aus möglichst langer Interaktion ein Compliance Thema.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Die chinesische Cyberspace-Behörde hat Apples generativen KI-Dienst für den Einsatz auf iPhones registriert. Für die lokale Umsetzung setzt Apple auf Modelle und Technologiepartner aus China, einen Starttermin gibt es noch nicht.
Microsoft AI will mit einem öffentlichen Entwurf Regeln für die Entwicklung und den Einsatz künftiger MAI Modelle festlegen. Vorgesehen sind unter anderem Vorgaben zur menschlichen Kontrolle, zur Abschaltung und zur Begrenzung eigenständiger Ziele.
EU-Kommissionsvizepräsidentin Henna Virkkunen hält internationale Vorgaben für KI angesichts möglicher Cyber- und Biogefahren für notwendig. Der EU-KI-Act setzt bereits Regeln für Anbieter in Europa, gilt aber nicht weltweit.
Eine unabhängige, von NHS-Ärzten geleitete Kommission schlägt für KI im Gesundheitswesen einen schrittweisen Zulassungsprozess vor. Anwendungen sollen zunächst unter enger Aufsicht laufen und später umfassender genehmigt werden.