Anthropics Text-Watermarking für Claude soll KI-generierte Inhalte erkennbar machen. Doch Kritiker bezweifeln, dass die Wortwahl unbeeinflusst bleibt, und Juristen stehen vor neuen Transparenzproblemen.
Anthropic beteuert, dass das Text-Watermarking für Claude keinen Einfluss auf "Inhalt, Kreativität oder Lesbarkeit" habe. Die Methode basiert auf Googles SynthID-Text-Verfahren und verändert bei der Textgenerierung die Zufallsquelle für die Wortwahl, sodass ein statistisch nachweisbares Muster entsteht. Kein sichtbares Zeichen wird eingefügt, keine versteckten Zeichen gesetzt.
Blogger John Gruber argumentiert dagegen in einem ausführlichen Beitrag auf Daring Fireball, dass keine zwei Synonyme exakt dieselbe Bedeutung tragen. Wenn Claude zwischen "overcast" und "grey" nicht nach semantischer Präzision, sondern nach einem geheimen Wasserzeichen-Schlüssel entscheidet, werde die Textqualität zwangsläufig beeinträchtigt. Das System erhöhe manchmal die Wahrscheinlichkeit für ein schlechteres Wort und senke sie für das beste, so Gruber. Anthropics Behauptung, der Unterschied sei "nicht wahrnehmbar", sei schlicht falsch.
Gruber betreibt seit 2002 den einflussreichen Tech-Blog Daring Fireball und gilt als eine der bekanntesten unabhängigen Stimmen der Apple- und Tech-Szene. Er ist außerdem Miterfinder des heute auch von Chatbots viel genutzten Markdown-Formats.
Auch die von Google Deepmind in Nature veröffentlichte SynthID-Studie, auf die sich Anthropic beruft, überzeugt Gruber nicht. Die dort gemessenen Thumbs-up/down-Raten seien kein valider Maßstab für Textqualität. Niemand gebe einem Chatbot einen Daumen nach unten, weil er "Bananen" statt "Ananas" schreibe. Dass Gemini allgemein als schwächer als Claude und ChatGPT gelte, könnte laut Gruber teilweise auch mit dem bereits aktiven SynthID zusammenhängen.
Juristen stehen vor einem Transparenzdilemma
Laut einer Analyse von Artificial Lawyer bringt das Watermarking au für Kanzleien konkrete Probleme mit sich: Alles, was eine Kanzlei mit KI-Unterstützung produziert, werde als solches erkennbar. Bei Mandanten, die KI-Nutzung explizit untersagen, oder vor Richtern, die KI-Outputs skeptisch gegenüberstehen, könne das heikel werden.
Die Wasserzeichen wandern auch mit dem Text. Ein komplexer Vertrag könnte Klauseln enthalten, die KI-markiert sind, während der Rest menschlich verfasst wurde. Künftige Verträge, die auf älteren Vorlagen mit KI-Anteilen basieren, tragen diese Markierungen weiter. Bei Nutzung mehrerer LLMs könnten sich sogar verschiedene Wasserzeichen in einem Dokument überlagern. Bei faktenbasierten Passagen soll das Watermarking laut Anthropic allerdings "spärlicher" ausfallen, da es weniger Wortalternativen gebe. Für juristische Texte, die auf Präzision angewiesen sind, ist das ein relevanter Vorbehalt.
Anthropic führt das Watermarking ein, um den EU AI Act zu erfüllen, wendet es aber mangels regionaler Begrenzungsmöglichkeit weltweit an. Alle ab dem 2. August veröffentlichten Claude-Modelle unterstützen die Markierung, ältere Modelle sollen in den kommenden Monaten nachgerüstet werden.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
