China erlässt Regeln für vermenschlichte KI-Dienste

China führt ab dem 15. Juli neue Vorgaben für vermenschlichte KI Dienste ein. Betroffen sind unter anderem KI Begleiter sowie digitale Angebote für emotionale Unterstützung und Betreuung. Die Regeln gelten nicht pauschal für alle Chatbots, sondern nur für Angebote mit dauerhafter emotionaler Interaktion.

Anbieter dürfen emotionale Abhängigkeit, exzessive Nutzung oder die Verdrängung realer sozialer Beziehungen nicht zum Produktziel machen. Nutzer müssen klar erkennen, dass sie mit einer KI interagieren. Nach mehr als zwei Stunden Nutzung ist zudem ein Hinweis zur Nutzungsdauer vorgeschrieben.

Für Minderjährige gelten zusätzliche Einschränkungen. Virtuelle Verwandte oder Partner dürfen ihnen nicht angeboten werden. Anbieter müssen Alters- und Schutzmechanismen einführen, bei extremen emotionalen Situationen intervenieren und sensible Interaktionsdaten grundsätzlich von der Modellschulung ausschließen, sofern keine gesonderte Zustimmung vorliegt.

Damit behandelt China emotionale Bindung an KI nicht mehr nur als Produktfrage, sondern als reguliertes Risiko. Für Anbieter von KI Begleitern wird aus möglichst langer Interaktion ein Compliance Thema.