KI-Wasserzeichen als Sicherheitsrisiko: SynthID verändert Modellverhalten

Wasserzeichen für KI-Texte sollen ab August 2026 laut EU AI Act Pflicht werden - Anthropic führt dafür Googles SynthID-Text in Claude ein. Eine aktuelle Untersuchung von Lasso Security zeigt jetzt eine unangenehme Nebenwirkung: Das Watermarking verändert nicht nur die Wortwahl, sondern auch das Sicherheitsverhalten der Modelle.

Was die Forschung ergab

Andrea Siposova von Lasso Security testete die unveränderte SynthID-Implementierung aus Hugging Face mit sechs offenen Modellen und verglich Antworten mit und ohne Wasserzeichen:

• SynthID nutzt “Tournament Sampling”: Kandidaten-Tokens konkurrieren in Runden, ein geheimer Schlüssel bewertet sie unsichtbar
• Unter Wasserzeichen verweigerten mehrere Modelle schädliche Anfragen, die sie ohne Watermarking blockt hätten - besonders ausgeprägt bei Prompt-Injection
• Auch Tool-Call-Genauigkeit veränderte sich: einzelne Aufrufe wechselten von korrekt zu fehlerhaft und umgekehrt
• Das Verhalten unterschied sich je nach verwendetem Secret Key teils erheblich

Lasso nennt den Effekt “Sampling Drift”: Dieselbe Token-Auswahl, die den Text markiert, verschiebt auch, welche Tools ein Agent aufruft und ob Refusals unter Injection standhalten. Gerade Agent-Setups, in denen geschwächte Verweigerung direkt Folgeschaden anrichten kann, sind betroffen.

Einordnung

Getestet wurden offene Modelle, nicht Claude selbst und nicht Anthropics konkrete Implementierung. Aber die Botschaft an Plattformen steht: Wer Watermarking aktiviert, muss den Modus im Red-Teaming explizit mittesten - sonst prüft man ein anderes Modell, als am Ende läuft.

Quelle: Ars Technica