Auch OpenAI fügt sich den EU-Regeln und versieht ChatGPT-Texte mit einem unsichtbaren Wasserzeichen. Das Unternehmen ist aber weniger restriktiv als Anthropic.
Der EU‑AI‑Act verlangt von Anbietern generativer KI angeblich, dass maschinell erzeugter Text maschinenlesbar als solcher erkennbar ist. OpenAI hat nun seine Antwort darauf vorgestellt: eine Wasserzeichen-Technologie namens textGrain, die ein unsichtbares statistisches Signal in die Wortwahl des Modells einbettet, ähnlich wie das von Claude verwendete SynthID-Verfahren, das wiederum auf Googles Open-Source-Technologie basiert.
Laut OpenAI soll die Technologie in den kommenden Wochen für ChatGPT- und Codex-Nutzer ausschließlich in der Europäischen Union aktiviert werden. API-Kunden weltweit können das Wasserzeichen aktivieren oder deaktivieren. Das ist weniger restriktiv als Anthropic bei Claude, das sein Wasserzeichen weltweit über alle Bezugsmöglichkeiten verpflichtend gemacht hat. OpenAI-API-Watermarking soll in den kommenden Wochen auch bei Cloud-Partnern wie Microsoft Azure verfügbar sein.
textGrain übertrifft Googles SynthID, bleibt aber fragil
Laut OpenAI hat textGrain in internen Evaluierungen die Leistung anderer getesteter Ansätze erreicht oder übertroffen, darunter auch Googles SynthID für Text. OpenAI plant zudem, die Technologie als Open Source zu veröffentlichen, damit andere darauf aufbauen können.
Die Erkennungsraten hängen allerdings stark von Textlänge und Inhalt ab. Bei einer Ziel-Falsch-Positiv-Rate von 1 Prozent erkannte der Detektor das Wasserzeichen in etwa 95 Prozent der 400-Token-Passagen bei psychologischen Themen, aber nur in rund 80 Prozent bei 200 Token.
Bei mathematischen Inhalten, wo die Wortwahl weniger flexibel ist, lagen die Raten laut OpenAI "deutlich niedriger". Man kann vermuten, dass die Erkennungsrate bei längeren Texten weiter steigt, weil das statistische Signal stärker wird, je mehr Token zur Verfügung stehen. Aber OpenAI belegt das nicht mit Daten.
Die Erkennungsrate hängt stark von Textlänge und Inhaltstyp ab: Bei Psychologie-Texten erreicht der Detektor bei 400 Token (circa 300 Wörter) rund 94 Prozent, bei Mathematik nur etwa 60 Prozent. | Bild: OpenAIZudem ist das Wasserzeichen anfällig gegenüber Textänderungen: Werden nur zehn Prozent der Wörter durch Synonyme ersetzt, sinkt die Erkennungsrate bei 400-Token-Passagen von etwa 92 auf 66 Prozent, berichtet OpenAI. Bei 25 Prozent Wortersetzung fällt sie auf 17 Prozent. Das Wasserzeichen lässt sich also mit vergleichsweise geringem Aufwand nahezu vollständig entfernen.
Schon geringe Bearbeitungen schwächen das Wasserzeichen erheblich: Werden 25 Prozent der Wörter ersetzt, fällt die Erkennungsrate selbst bei 400 Token auf unter 20 Prozent. | Bild: OpenAIDetails zur Funktionsweise finden sich in einem begleitenden technischen Bericht. Anthropic nannte für das Claude-Wasserzeichen keine Erkennungsraten, sprach aber davon, dass das eigene System sehr robust sei, gegenüber Änderungen.
Die Ausgabequalität soll das OpenAI-Wasserzeichen nicht beeinträchtigen. Die Firma verweist hier auf Benchmark-Ergebnisse ihres Frontier-Modells Astra: Über acht verschiedene Benchmarks hinweg, darunter GPQA Diamond, BrowseComp und DeepSWE, zeigten sich laut dem Unternehmen keine bedeutsamen Leistungsunterschiede zwischen markiertem und unmarkiertem Text. Das beantwortet jedoch nicht die Frage, ob die Textqualität beeinflusst wird. Auch das wird bereits im Claude-Kontext intensiv diskutiert.
Ein erkanntes Wasserzeichen sage zudem nichts darüber aus, wie viel menschliche Kreativität oder Bearbeitung in einen Text eingeflossen sei, so OpenAI. Es weise weder Eigentum noch Verantwortung zu, identifiziere keinen Nutzer und mache keine Aussage über die Richtigkeit des Textes. Ebenso gelte der Umkehrschluss nicht: Das Fehlen eines erkannten Wasserzeichens beweise nicht, dass ein Mensch den Text geschrieben habe. Der Text könnte zu kurz sein, bearbeitet, übersetzt oder von einem nicht unterstützten Modell stammen.
Detektor nicht generell verfügbar
Zugang zu textGrain erhalten zunächst nur ausgewählte Forscher und Expertenorganisationen, die sich über ein Bewerbungsformular registrieren können. Der Zugang werde fallweise gewährt, im Einklang mit dem Code of Practice der EU. Anthropic verfährt hier bei seiner Erkennungs-API ähnlich.
Das Erkennungstool soll lediglich melden, ob ein OpenAI-Wasserzeichen erkannt wurde, ohne den Nutzer zu identifizieren oder Prompts und Konversationen offenzulegen. OpenAI begründet die Zugangsbeschränkung mit dem Risiko von Fehlerkennungen und übersehenen Wasserzeichen. Die Firma will den Detektor-Zugang erweitern, "wenn wir glauben, dass die Ergebnisse verantwortungsvoll interpretiert werden können". Wann das der Fall sein wird, lässt das Unternehmen offen.
Für Bilder und Audio hingegen bleiben die bestehenden Verifikationstools, darunter openai.com/verify und die Content Provenance API, weiterhin öffentlich zugänglich. OpenAI verfolgt nach eigenen Angaben einen mehrschichtigen Ansatz, der Content Credentials, C2PA-Konformität und unsichtbare SynthID-Wasserzeichen für Bilder und Audio kombiniert.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
