Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Die Weltgesundheitsorganisation und Portugal haben in Lissabon eine globale Konferenz zur Regulierung von KI in der Gesundheitsversorgung eröffnet. Im Mittelpunkt stehen Haftung, Dateninfrastruktur und der sichere Einsatz von KI.
Aktuelle und ehemalige Beschäftigte werfen Meta vor, interne KI-Systeme und Produktivitätsdaten für die Auswahl von Mitarbeitern in einer bevorstehenden Entlassungsrunde genutzt zu haben. Der Konzern weist den Vorwurf zurück und betont, die Personalentscheidungen seien von Menschen getroffen worden.
Die Funktion nutzte öffentliche Instagram Profile als Referenzen für KI generierte Bilder. Wenige Tage nach dem Start nahm Meta sie wieder aus dem Produkt.
OpenAI bündelt seine Forschungs und Sicherheitsteams. Johannes Heidecke soll das Unternehmen verlassen, während Saachi Jain seine Aufgaben vorerst übernimmt.
Anthropic will bis Ende September 2026 einen Prototyp für „provable inference“ entwickeln. Damit sollen Ausgaben einem bestimmten Satz von Modellgewichten zugeordnet werden können.