Zurück zur Übersicht
ChatGPT soll anhand von Nutzersignalen erkennen, ob ein Konto einer minderjährigen Person gehört. In der EU soll die Funktion in den kommenden Wochen starten.
OpenAI rollt eine Altersschätzung für ChatGPT weltweit aus. Das System berücksichtigt unter anderem Gesprächsthemen, Nutzungszeiten, Nutzungsmuster und das Alter des Kontos. Bei einer Einstufung als minderjährig aktiviert ChatGPT automatisch strengere Jugendschutzfunktionen.
Die betroffenen Konten bleiben nutzbar, unterliegen aber zusätzlichen Beschränkungen bei Inhalten wie Gewalt, riskanten Herausforderungen, sexualisierten Rollenspielen und extremen Körperbildthemen. Volljährige Nutzer können die Schutzmaßnahmen über eine Altersprüfung des Dienstleisters Persona entfernen lassen.
OpenAI erhält nach eigenen Angaben weder Ausweis noch Selfie. Persona soll hochgeladene Dokumente und Aufnahmen innerhalb von sieben Tagen löschen. OpenAI bekommt lediglich die für die Einstufung erforderlichen Altersinformationen. Das ist ein pragmatischer Schutzmechanismus, aber auch ein weiterer Schritt hin zu Diensten, die ihre Nutzer automatisch einschätzen.
Der Kommentarbereich wird geladen, sobald du ihn erreichst.
Weiterlesen
Der frühere Anthropic- und OpenAI-Mitarbeiter Jacob Coxon zieht sich aus der KI-Branche zurück. Er wirft beiden Unternehmen vor, die Entwicklung selbstverbessernder Systeme mit unvertretbaren Risiken voranzutreiben.
Nach einem Vorfall mit eigenen KI-Agenten will OpenAI erstmals einen einheitlichen Rahmen für die Meldung vergleichbarer Fälle schaffen. Dutzende Aufsichtsbehörden sollen daran beteiligt werden.
OpenAI erprobt eine Methode, die riskante Muster über mehrere API-Interaktionen erkennen soll, ohne dass Mitarbeitende die zugrunde liegenden Inhalte einsehen können. Die Funktion richtet sich an berechtigte Kunden mit aktivierter Speicherung ohne Datenaufbewahrung.
OpenAI setzt einsatzorientiertes Verstärkungslernen für zwei Wochen aus und verschärft sein Sicherheitsframework. Auslöser sind Bedenken zu den Cyberfähigkeiten des geplanten Modells Astra und ein Sicherheitsvorfall bei Hugging Face.