Meta ließ 332 KI-Werbungen mit echten Kinderfotos durch - TTP-Untersuchung

Das Tech Transparency Project (TTP) hat 332 Werbungen auf Facebook und Instagram dokumentiert, die von Metas Prüfsystemen nicht erkannt wurden - obwohl sie KI-generierte sexualisierte Darstellungen von Kindern enthielten. Besonders brisant: Einige Werbung zeigte Fotos echter Kinder, die per KI in explizite Videos verwandelt wurden. Ein Fall betraf ein Pressefoto einer jungen Europäerin aus einem Königshaus, ein anderes die Aufnahmen einer 14-jährigen Instagram-Influencerin und ein drittes Stockfotos eines Mädchens im Grundschulalter.

“This is the AI men actually use”

Die überwiegende Mehrheit der Werbung bewarb Apps aus China, darunter zahlreiche “Nudify”-Anwendungen, die digital bearbeitete Nacktbilder erzeugen. Ein Werbeslogan versprach ausdrücklich: “Es gibt keine Einschränkungen, alle Charaktere sind echte Menschen.” Das Justizministerium hatte bereits 2024 klaergestellt, dass KI-generiertes CSAM strafrechtlich gleichbehandelt wird wie echtes Material.

Nach dem Rüstungsversprechen

Die Untersuchung erscheint wenige Wochen, nachdem Meta mit Wired zusammen 53 ähnliche Werbung gemeldet bekam und neue Erkennungssysteme ankündigte. TTP fand stattdessen hunderte weitere CSAM-Werbungen. Zudem zog Meta Löschungen teils um Tage heraus: Eine gemeldete Werbung kletterte von vier auf 330 Aufrufe, bevor sie verschwand. Die Werbung erreichte mindestens 29.000 Menschen in der EU.

Druck aus der Politik wächst

Nach dem 18-Milliarden-Dollar-Kinderschutz-Vergleich schauen Generalstaatsanwälte in Michigan und Florida auf die Vorkommnisse, Senator Mark Warner fordert Aufklärung, und Australiens eSafety-Behörde hat Informationen angefordert. Meta selbst verweist auf die kurzen Clips und Verwischungen, die die Erkennung erschwert hätten - und auf weniger als 200 Aufrufe im Durchschnitt pro Werbung.

Quelle: arstechnica.com