Text-KI-Wasserzeichen lassen sich immer trivial entfernen

Sean Goedecke analysiert in einem ausführlichen Blogpost, warum Text-Wasserzeichen für KI-Outputs ein prinzipiell unlösbares Problem darstellen. Mit der EU AI Act, die ab August 2026 durchsetzbar wird und alle KI-Outputs als “maschinell generiert” erkennbar verlangt, steht die Branche unter Druck.

Warum Text so schwer zu markieren ist

Bilder haben Pixel-Rauschen, die man unsichtbar manipulieren kann. Text ist hochkomprimiert – jede Änderung fällt auf. Goedecke erklärt zwei Ansätze: Googles SynthID, das Token-Sampling mathematisch beeinflusst und so ein statistisches Muster erzeugt, und Unicode-Homoglyphen, bei denen normale Leerzeichen durch unsichtbare Unicode-Varianten ersetzt werden. Letzteres hat Claude Code bereits bei chinesischen Nutzern eingesetzt.

Trivial zu entfernen

Beide Methoden haben ein fundamentales Problem: SynthID verschwindet, sobald man den Text durch ein anderes LLM paraphrasiert. Unicode-Homoglyphen lassen sich durch einfaches Ersetzen aller Sonderzeichen entfernen. Da die EU Interoperabilität verlangt und Wasserzeichen-Verfahren öffentlich gemacht werden müssen, wird das Entfernen noch einfacher.

C2PA als Lösung?

C2PA-Metadaten funktionieren für Dateien (Bilder, Audio, Video), aber nicht für Chat-Output. Goedecke fragt treffend: “What would it even look like to sign ChatGPT outputs? There’s no artifact to pass around.” Seine Prognose: Jeder Provider wird einen SynthID-Sampler vor die Inference schalten, ein Detektions-Tool anbieten, und technisch versierte Nutzer werden es trotzdem umgehen.

Original: seangoedecke.com