Anthropic hat den EU-AI-Act-Code of Practice zur Transparenz KI-generierter Inhalte unterzeichnet. Ab August 2026 sollen neue Claude-Modelle Texte mit eingebetteten Wasserzeichen und Dateien mit signierten Herkunftsmetadaten versehen.
Claude-Modelle, die ab dem 2. August 2026 in der EU auf den Markt kommen, sollen die Kennzeichnung ab dem ersten Tag unterstützen. Die Markierung soll nicht nur in der EU gelten, sondern weltweit und sämtliche Claude-Produkte erfassen, darunter die API, Claude, Claude Code, Claude Cowork und Claude Tag.
Generierter Text soll eingebettete Wasserzeichen tragen, generierte Dateien digital signierte Herkunftsmetadaten. Für bestehende Modelle sieht das Gesetz eine Übergangsfrist vor. Anthropic arbeitet laut eigenen Angaben aber bereits daran, auch diese nachzurüsten.
Zudem will Anthropic Erkennungswerkzeuge bereitstellen, mit denen Nutzer und Dritte die Kennzeichnungen prüfen können. Wann die dafür nötige technische Dokumentation erscheint, lässt das Unternehmen offen.
Zwei Verfahren sollen KI-Inhalte erkennbar machen
Anthropic setzt auf zwei komplementäre Techniken. Die erste ist ein in den Text eingebettetes Wasserzeichen. Dieses sei für Menschen nicht wahrnehmbar und verändere weder Bedeutung noch Qualität noch Lesbarkeit, so Anthropic. Da das Wasserzeichen Teil des Textes selbst ist, reist es beim Kopieren und Einfügen mit und kann gewisse Bearbeitungen überstehen. Die Anwendung erfolgt auf Modellebene, unabhängig vom genutzten Produkt.
Die zweite Technik betrifft Dateien: Wenn Claude unterstützte Formate wie .svg, .png oder .jpg erzeugt, sollen diese mit signierten Herkunftsmetadaten nach dem offenen C2PA-Standard (Coalition for Content Provenance and Authenticity) versehen werden. Die Signatur soll signalisieren, dass eine Datei von Claude verarbeitet wurde, und Manipulationserkennung ermöglichen.
Bei Cloud-Partnern wie AWS, Google Cloud und Microsoft Foundry sollen die Text-Wasserzeichen ebenfalls greifen. Signierte Metadaten könnten dort allerdings nicht auf jeder Plattform verfügbar sein.
Erkennbarkeit hat Grenzen
Anthropic benennt eine Reihe von Einschränkungen. Ein erkanntes Wasserzeichen bedeute nicht zwingend, dass Claude der Originalautor ist. Menschen nutzen Claude häufig zum Korrekturlesen, Übersetzen oder Zusammenfassen. Die Ausgabe kann ein Claude-Wasserzeichen tragen, obwohl die zugrundeliegenden Ideen oder Texte aus einer anderen Quelle stammen. Ebenso kann der Inhalt nach der Verarbeitung durch Claude verändert worden sein, so Anthropic.
Umgekehrt bedeute ein fehlendes Wasserzeichen nicht, dass der Inhalt nicht von einer KI stammt. Gründe dafür können sein: Das Modell wurde vor Einführung der Kennzeichnung veröffentlicht, der Text wurde stark bearbeitet, paraphrasiert oder übersetzt, die Textpassage ist zu kurz für ein zuverlässiges Signal, oder Metadaten wurden durch Formatkonvertierung, erneutes Speichern oder Screenshots entfernt.
Anthropic arbeitet nach eigenen Angaben an Erkennungsmechanismen, die es Nutzern und Dritten ermöglichen sollen, die Wasserzeichen und Metadaten zu prüfen. Technische Details dazu stehen allerdings noch aus. Entwickler, die Claude in eigene Produkte integrieren, müssen laut Anthropic selbst prüfen, welche Anforderungen Artikel 50 des EU AI Acts an ihre Dienste stellt.
Ob die Kennzeichnung in der Praxis wirksam sein wird, hängt allerdings maßgeblich davon ab, wie robust die Wasserzeichen gegen alltägliche Textbearbeitung sind und wie zuverlässig die noch nicht vorgestellten Erkennungswerkzeuge funktionieren werden.
KI-Textkennzeichnung bleibt ein branchenweites Thema
Zuvor hatten bereits andere große KI-Anbieter mit der Kennzeichnung KI-generierter Texte gerungen. OpenAI verfügt laut Berichten des Wall Street Journal seit etwa zwei Jahren über einen Textdetektor mit einer Genauigkeit von 99,9 Prozent, hat diesen aber bisher nicht veröffentlicht.
Gründe dafür sind unter anderem die leichte Umgehbarkeit durch Übersetzungen oder Umschreiben, die mögliche Stigmatisierung bestimmter Nutzergruppen und die Sorge, dass ein solcher Detektor dem eigenen Geschäftsmodell schaden könnte.
Google Deepmind wiederum hat sein Wasserzeichensystem SynthID für Text als Open Source veröffentlicht und in die Gemini-Modelle integriert. SynthID passt die Wahrscheinlichkeitswerte bei der Token-Vorhersage geringfügig an, um ein Wasserzeichen zu erzeugen, das die Textqualität nicht beeinträchtigen soll. Die Methode funktioniert laut Google Deepmind sprachübergreifend, hat aber Schwächen bei bearbeitetem Text.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
