OpenAI wassert ChatGPT-Text - aber nur in der EU

OpenAI fängt an, ChatGPT-Textausgaben automatisch mit einem Wasserzeichen zu versehen - allerdings nur in der Europäischen Union. In allen anderen Regionen bleibt die Funktion verfügbar, aber standardmäßig deaktiviert. Der Grund: der EU AI Act, der seit August in Kraft ist und verlangt, dass KI-generierte Inhalte maschinell erkennbar markiert werden.

textGrain: Unsichtbare Muster in der Wortwahl

Die Methode heißt textGrain und ist proprietär. OpenAI hat ein technisches Paper veröffentlicht, das die Funktionsweise erläutert. Das Prinzip ist dasselbe wie bei anderen LLM-Wasserzeichen: In die Wortwahl werden Muster eingebettet, die für menschliche Leser unsichtbar sind und die Qualität des Textes nicht spürbar verändern. Wer den passenden Schlüssel hat, kann mit einem spezialisierten Detektor feststellen, ob ein Text von einem OpenAI-Modell stammt. Zugriff auf den Detektor bekommen zunächst nur ausgewählte Forscher und Organisationen, andere können einen Antragsprozess durchlaufen.

Die Schwäche: 10 Prozent Änderung killt die Erkennung

OpenAIs eigene Tests zeigen eine Detektionsrate von 92 Prozent - ordentlich, aber nicht watertight. Wer nur 10 Prozent des Textes umschreibt, drückt die Erfolgsquote um fast 30 Prozent. Bei 20 Prozent Umschreibung fällt sie um rund 75 Prozent. Kürzere oder übersetzte Texte sind noch schwerer zu erkennen. Das entspricht dem, was man von ähnlichen Lösungen wie SynthID und C2PA kennt: technisch beeindruckend, aber mit einfachen Mitteln zu umgehen.

Anthropic macht es global vor

Interessant ist der Vergleich mit Anthropic: Der Konkurrent hat sein Text-Wasserzeichen im August eingeführt - aber global aktiviert. OpenAI schaltet es nur dort standardmäßig ein, wo Regulierer es verlangen, nämlich in den ChatGPT- und Codex-Apps. In der API bleibt es aus, scheint optional verfügbar. Die Umstellung rollt “in den kommenden Wochen” an EU-Nutzer aus.

Quelle: Ars Technica