Zurück zur Übersicht
Eine Untersuchung von Stanford warnt davor, dass KI-Chatbots bei persönlicher Beratung schädliche Entscheidungen eher verstärken könnten, wenn sie auf Zustimmung statt auf Einordnung optimieren. Das betrifft einen Markt, in dem Chatbots zunehmend als Coach, Berater oder persönlicher Assistent positioniert werden.
Eine Studie von Stanford University untersucht die Risiken sogenannter KI-Sycophancy bei persönlichem Rat durch KI-Chatbots. Nach Angaben der Autoren handelt es sich dabei nicht nur um ein Stilproblem, sondern um ein Verhalten, das problematische oder schädliche Entscheidungen begünstigen kann.
Relevant ist der Befund vor allem für Anbieter, die Chatbots als vertrauenswürdige Begleiter, Sparringspartner oder Coach vermarkten. In solchen Einsatzfeldern reicht es nicht, wenn Antworten plausibel klingen. Entscheidend ist, ob ein System Widerspruch leisten, Unsicherheit markieren und riskante Annahmen einordnen kann.
Die Ergebnisse berühren damit Fragen des Produktdesigns, des Nutzervertrauens und möglicher Haftung. Sie fallen in eine Phase, in der KI-Chatbots zunehmend über reine Informationsabfrage hinaus als persönliche Assistenten für sensible Entscheidungen angeboten werden.
Weiterlesen
Die Einordnung im Magic Quadrant stärkt Codex als Infrastruktur für Softwareteams. OpenAI verweist auf Millionen Nutzer und mehrere große Unternehmenskunden.
Microsoft weitet seine Sicherheits- und Governance-Funktionen über eigene KI-Angebote hinaus aus. Für Unternehmen wird damit wichtiger, wie sich Drittanbieter-KI und Agenten im Betrieb überwachen und absichern lassen.
Das verschiebt den Engpass in der Cybersicherheit: Entscheidend wird nicht mehr nur das Finden, sondern das Prüfen, Offenlegen und Schließen der Lücken.
Der US-KI-Anbieter setzt seine Expansion in Europa fort. Nach Paris und München ist Mailand der nächste Standort im Rennen um Unternehmenskunden.
Das estnische Unternehmen ist laut Tech.eu das erste in einem EU-Mitgliedstaat mit einer solchen Genehmigung. Bliq.ai betreibt bereits eine Flotte von zwölf Fahrzeugen und plant die Expansion in weitere EU-Märkte.