News
Meta schaltete Werbung fuer Deepfake-App gegen Politikerinnen
Meta hat Werbung fuer eine KI-basierte Pornografie-App geschaltet, die Nutzer dazu ermunterte, Deepfake-Videos von weiblichen US-Politikerinnen zu erstellen. Die App namens Kromix tarnte sich als “AI Image Styler” und warb mit dem Slogan “no restrictions” sowie “all the characters are real people”.
Brisante Details
Ein Werbevideo zeigte eine Frau, die einer bekannten US-Politikerin aehnelt, vor einer US-Flagge. Nach einem Bauchgriff-Cut wechselte die Szene zu pornografischem Inhalt mit demselben Gesicht. Die App bot Szenarien wie “bedroom rape” und “Disney love” an und erlaubte das Hochladen beliebiger Fotos zur Manipulation.
Die Werbung lief exklusiv auf maennliche Zielgruppen und wurde erst nach Rueckfrage von WIRED entfernt. Insgesamt zeigte die Kampagne 32 Ads ueber 5 bis 46 Stunden, die meisten mit unter 10 Impressions.
Systematisches Versagen
Meta hat eigene Richtlinien gegen nonconsensual intimate imagery und “nudify”-Apps. Trotz automatisierter Ueberpruefung vor der Veroeffentlichung schluepfte die Werbung durch. Die Seite wurde am 3. August erstellt, hatte null Follower - red flags, die das System haette abfangen muessen.
Zwischen November und Januar entfernte Meta immerhin 344.000 aehnliche Ads und reichte Klaagen gegen Entwickler ein. Doch die Tech Transparency Project fand weitere tausende, die unentdeckt blieben. Die Angreifer nutzen mittlerweile Cover-Bilder mit Straenden oder Wasserfaellen, um die pornografischen Inhalte zu tarnen.
Groessere Dimension
Das Problem betrifft nicht nur Meta. Apple kaempft mit aehnlichen Apps im App Store - San Franciscos Stadtanwalt forderte im Sommer die Entfernung von 13 spezifischen Apps. Politikerinnen in Schweden, England und Nordirland wurden dieses Jahr bereits mit Grok-generierten sexualisierten Bildern ins Visier genommen - rund 3 Millionen Bilder sollen im Januar allein entstanden sein.