News
xAI verklagt Minnesota - Grok und die Nudification-Krise
xAI’s Grok wurde genutzt, um AI-generierte CSAM und non-consensuelle intime Bilder zu erstellen. Es gab Verhaftungen. Opfer - darunter eine 10-jaehrige - verklagen xAI. Ein Arkansas-Fotograf soll Grok genutzt haben, um Hunderte Kunden-Fotos zu sexualisieren. Eine Sammelklage formiert sich.
xAI’s doppelte Strategie
Erstens: Nutzer verklagen. xAI hat im Juli Klagen gegen Nutzer eingereicht, die angeblich Safeguards umgingen. Ein frueher Sieg wuerde “Safe Harbor” etablieren - die Nutzer tragen die Verantwortung, nicht xAI.
Zweitens: Minnesota verklagen. Minnesota hat ein Gesetz erlassen (gueltig ab 1. August 2026), das “Nudification”-Technologie verbietet - mit Strafen bis zu 500.000 Dollar pro schaedlichem Bild. xAI klagt auf Verfassungswidrigkeit nach dem First Amendment.
Das First Amendment-Argument
xAI argumentiert, das Gesetz sei zu weit gefasst. “Intimate parts” umfasse Oberschenkel, Gesaess, maennliche Brueste - damit waeren Bilder von Maennern ohne Shirt oder Leuten in Badehose verboten. Zudem greife die Haftung selbst bei einverstaendlichen, selbst erstellten und nie geteilten Bildern. xAI verweist auf die engere Definition des Take It Down Act.
Die Strafen seien katastrophal: 10 Bilder = 5 Millionen, 1.000 = 500 Millionen, 100.000 = 50 Milliarden Dollar.
Widerwillige Anpassung
xAI raeumte ein, Grok ab dem 1. August zu aktualisieren - aber nur weil es “keine praktische Wahl” gibt. Eigentlich wuerde xAI Grok unveraendert lassen und sich auf Nutzungsbedingungen verlassen. Musk selbst hatte Grok’s Faehigkeit beworben, “jemanden in einen Bikini zu setzen.”
Minnesota’s AG Keith Ellison verteidigt das Gesetz: “AI-Nudification beraubt das Ziel seiner Wuerde und kann enormen Schaden anrichten.” Der Ausgang koennte praegend sein - AI-Tool-Haftung vs. Nutzer-Haftung, First Amendment fuer AI-Bilder, und die Befugnis von Bundesstaaten zur Regulierung.