Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Der japanische Technologiekonzern will mit Anleihen über 10 Milliarden US Dollar und eine Milliarde Euro die nächste Tranche seiner geplanten OpenAI Investition finanzieren. Die Emission wäre die größte Anleihe eines nichtfinanziellen Unternehmens im Raum Asien Pazifik und Japan.
Eine globale Befragung zeigt eine deutliche Lücke zwischen Personalvorständen und Beschäftigten beim Stellenwert menschlichen Urteilsvermögens. Zugleich sehen viele Beschäftigte die Verantwortung für KI-Fehler bei sich selbst.
Die USA haben China einen Austausch über KI-Vorfälle mit möglichen Folgen für die nationale Sicherheit vorgeschlagen. Ein fertiges Abkommen gibt es bislang nicht, doch die Debatte erreicht damit die strategische Kommunikation beider Staaten.
Der geplante EU KIDS Act sieht vor, KI-Chatbots und digitale Begleiter für Minderjährige standardmäßig zu deaktivieren. Zudem sollen Plattformen strengere Altersgrenzen und Sicherheitsvorgaben einhalten.