Anthropic plant unsichtbare Wasserzeichen für Claude-Texte

Anthropic plant für künftige Claude-Modelle eine Textmarkierung, mit der sich eine Beteiligung der KI nachträglich erkennen lassen soll. Zum Einsatz kommt eine Variante des von Google DeepMind entwickelten Verfahrens SynthID-Text.

Claude verändert dafür nicht den Inhalt, sondern nutzt bei gleichwertigen Wortentscheidungen einen speziellen Zufallsmechanismus. Anthropic plant zusätzlich eine Erkennungs-API. Die Markierung soll beim Kopieren und Einfügen grundsätzlich erhalten bleiben. Leichte redaktionelle Änderungen dürften sie nicht vollständig entfernen, ein vollständiges Umschreiben dagegen schon.

Bei Code fällt die Markierung schwächer aus, kann aber etwa in Kommentaren auftreten. Ältere Claude-Modelle sollen in den kommenden Monaten nachgerüstet werden. Anthropic begründet den Schritt mit dem EU-KI-Gesetz und will die Kennzeichnung weltweit einsetzen. Das ist weniger ein sichtbares Produktmerkmal als der Versuch, Herkunftsnachweise direkt in die Textproduktion einzubauen.