News
Meta schaltete Werbung für Deepfake-App gegen Politikerinnen
Meta hat Werbung für eine KI-basierte Pornografie-App geschaltet, die Nutzer dazu ermunterte, Deepfake-Videos von weiblichen US-Politikerinnen zu erstellen. Die App namens Kromix tarnte sich als “AI Image Styler” und warb mit dem Slogan “no restrictions” sowie “all the characters are real people”.
Brisante Details
Ein Werbevideo zeigte eine Frau, die einer bekannten US-Politikerin ähnelt, vor einer US-Flagge. Nach einem Bauchgriff-Cut wechselte die Szene zu pornografischem Inhalt mit demselben Gesicht. Die App bot Szenarien wie “bedroom rape” und “Disney love” an und erlaubte das Hochladen beliebiger Fotos zur Manipulation.
Die Werbung lief exklusiv auf männliche Zielgruppen und wurde erst nach Rückfrage von WIRED entfernt. Insgesamt zeigte die Kampagne 32 Ads über 5 bis 46 Stunden, die meisten mit unter 10 Impressions.
Systematisches Versagen
Meta hat eigene Richtlinien gegen nonconsensual intimate imagery und “nudify”-Apps. Trotz automatisierter Überprüfung vor der Veröffentlichung schlüpfte die Werbung durch. Die Seite wurde am 3. August erstellt, hatte null Follower - red flags, die das System hätte abfangen müssen.
Zwischen November und Januar entfernte Meta immerhin 344.000 ähnliche Ads und reichte Klaagen gegen Entwickler ein. Doch die Tech Transparency Project fand weitere tausende, die unentdeckt blieben. Die Angreifer nutzen mittlerweile Cover-Bilder mit Stränden oder Wasserfällen, um die pornografischen Inhalte zu tarnen.
Größere Dimension
Das Problem betrifft nicht nur Meta. Apple kämpft mit ähnlichen Apps im App Store - San Franciscos Stadtanwalt forderte im Sommer die Entfernung von 13 spezifischen Apps. Politikerinnen in Schweden, England und Nordirland wurden dieses Jahr bereits mit Grok-generierten sexualisierten Bildern ins Visier genommen - rund 3 Millionen Bilder sollen im Januar allein entstanden sein.