Meta liess 332 KI-Werbungen mit echten Kinderfotos durch - TTP-Untersuchung

Das Tech Transparency Project (TTP) hat 332 Werbungen auf Facebook und Instagram dokumentiert, die von Metas Pruefsystemen nicht erkannt wurden - obwohl sie KI-generierte sexualisierte Darstellungen von Kindern enthielten. Besonders brisant: Einige Werbung zeigte Fotos echter Kinder, die per KI in explizite Videos verwandelt wurden. Ein Fall betraf ein Pressefoto einer jungen Europaeerin aus einem Koenigshaus, ein anderes die Aufnahmen einer 14-jaehrigen Instagram-Influencerin und ein drittes Stockfotos eines Maedchens im Grundschulalter.

“This is the AI men actually use”

Die ueberwiegende Mehrheit der Werbung bewarb Apps aus China, darunter zahlreiche “Nudify”-Anwendungen, die digital bearbeitete Nacktbilder erzeugen. Ein Werbeslogan versprach ausdruecklich: “Es gibt keine Einschraenkungen, alle Charaktere sind echte Menschen.” Das Justizministerium hatte bereits 2024 klaergestellt, dass KI-generiertes CSAM strafrechtlich gleichbehandelt wird wie echtes Material.

Nach dem Ruestungsversprechen

Die Untersuchung erscheint wenige Wochen, nachdem Meta mit Wired zusammen 53 aehnliche Werbung gemeldet bekam und neue Erkennungssysteme ankuendigte. TTP fand stattdessen hunderte weitere CSAM-Werbungen. Zudem zog Meta Loeschungen teils um Tage heraus: Eine gemeldete Werbung kletterte von vier auf 330 Aufrufe, bevor sie verschwand. Die Werbung erreichte mindestens 29.000 Menschen in der EU.

Druck aus der Politik waechst

Nach dem 18-Milliarden-Dollar-Kinderschutz-Vergleich schauen Generalstaatsanwaelte in Michigan und Florida auf die Vorkommnisse, Senator Mark Warner fordert Aufklaerung, und Australiens eSafety-Behoerde hat Informationen angefordert. Meta selbst verweist auf die kurzen Clips und Verwischungen, die die Erkennung erschwert haetten - und auf weniger als 200 Aufrufe im Durchschnitt pro Werbung.

Quelle: arstechnica.com