SynthID im Dauertest - Googles AI-Wasserzeichen haelt, loest aber nicht alles

Google behauptet, seine Tools seien fuer ueber 100 Milliarden KI-Bilder und -Videos genutzt worden. SynthID, Googles unsichtbares Wasserzeichen fuer KI-generierte Inhalte, soll dabei helfen, Echtes von Falschem zu unterscheiden. Ein ausgiebiger Test zeigt: Die Technik ist beeindruckend robust - aber sie ist kein Silberkugel gegen KI-Desinformation.

Der Test

Ein Ars-Technica-Reporter simulierte mit Python und der Pillow-Bibliothek extremen Datenverlust: Hunderte Komprimierungs- und Skalierungszyklen, die echtes Internet-Sharing im Zeitraffer nachahmen. Das Ergebnis? Nach 300 Iterationen war das Bild kaum noch erkennbar - aber SynthID funktionierte auf beiden Testbildern (ein KI-generiertes und ein KI-bearbeitetes Foto) immer noch. Selbst Screenshots ueberlebten das Wasserzeichen, weil die speziellen Pixel in die neue Datei uebernommen werden.

Wo SynthID scheitert

Croppen ist die Schwachstelle. Nach 300 Komprimierungszyklen brach ein 20-prozentiger Crop das Wasserzeichen. Ein 50-prozentiger Crop brach es schon bei rund 250 Iterationen. Metas konkurrierendes Content Seal scheiterte laut Reuters bereits an viel moderaterem Cropping.

Das Fragmentationsproblem

SynthID ist nicht das einzige System. OpenAI, Runway und Nvidia nutzen zwar die zugrundeliegende SynthID-Technologie, aber die Wasserzeichen sind unterschiedlich. Googles Detektor erkennt OpenAIs Wasserzeichen nicht - und umgekehrt. Es gibt keine oeffentliche API und keine Web-Seite zur Ueberpruefung, nur Gemini als Zugang. Zusaetzlich limitiert Google auf etwa 10 Bildchecks pro Tag, um Angriffe zu erschweren.

Die groessere Wahrheit

Selbst wenn SynthID nie geknackt wird: Es wird immer KI-Modelle ohne Wasserzeichen geben. Open-Source-Modelle, die auf lokalen Rechnern laufen, produzieren Inhalte ohne jegliche Kennzeichnung. Die generative Flasche ist entkorkt. Der Artikel argumentiert, dass es vielleicht klueger ist, authentische Inhalte kryptographisch zu verifizieren (via C2PA) als zu versuchen, alles Falsche zu markieren. Der “Liar’s Dividend” - “Das ist nicht ich, das ist KI!” - wird zur mächtigen Ausrede in einer Welt unendlicher Synthetik.

Quelle: Ars Technica