1 month ago
16
OpenAI reagiert auf die Vorgaben des EU AI Act und führt ein unsichtbares Wasserzeichen für generierte Texte ein. In der Europäischen Union wird das Ganze in den kommenden Wochen nach und nach für ChatGPT und Codex über alle Tarife hinweg ausgerollt. Weltweit bleibt das Feature für API-Kunden vorerst optional (Opt-in) und standardmäßig deaktiviert.
So funktioniert die Erkennung
Die Technik namens textGrain bettet demnach ein statistisches Muster direkt in die Wortwahl des Modells ein. Auf die Textqualität soll das laut internen Benchmarks keine spürbaren Auswirkungen haben. Ein passender Detektor sucht nach diesen Mustern, der ist zum Start aber nicht öffentlich zugänglich. Nur ausgewählte Forscher und Organisationen erhalten laut OpenAI vorerst Zugriff.
Grenzen der Technologie
OpenAI weist offen auf die aktuellen Hürden hin:
* Kürzere Texte (unter 400 Token) oder Themen mit wenig sprachlichem Spielraum (wie Mathematik) lassen sich deutlich schlechter erkennen.
* Manuelle Bearbeitungen schwächen das Signal massiv ab. Werden 10 Prozent der Wörter von Nutzern durch Synonyme ersetzt, sinkt die Erkennungsrate von über 90 Prozent auf rund 66 Prozent, heißt es. Bei 25 Prozent getauschten Wörtern liegt sie nur noch bei 17 Prozent.
* Ein Wasserzeichen speichert keinerlei Nutzerdaten, Prompts oder Urheberrechte und liefert auch keinen Nachweis über den Wahrheitsgehalt eines Textes.
Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.
