News
xAI verklagt Minnesota - Grok und die Nudification-Krise
xAI’s Grok wurde genutzt, um AI-generierte CSAM und non-consensuelle intime Bilder zu erstellen. Es gab Verhaftungen. Opfer - darunter eine 10-jährige - verklagen xAI. Ein Arkansas-Fotograf soll Grok genutzt haben, um Hunderte Kunden-Fotos zu sexualisieren. Eine Sammelklage formiert sich.
xAI’s doppelte Strategie
Erstens: Nutzer verklagen. xAI hat im Juli Klagen gegen Nutzer eingereicht, die angeblich Safeguards umgingen. Ein früher Sieg würde “Safe Harbor” etablieren - die Nutzer tragen die Verantwortung, nicht xAI.
Zweitens: Minnesota verklagen. Minnesota hat ein Gesetz erlassen (gültig ab 1. August 2026), das “Nudification”-Technologie verbietet - mit Strafen bis zu 500.000 Dollar pro schädlichem Bild. xAI klagt auf Verfassungswidrigkeit nach dem First Amendment.
Das First Amendment-Argument
xAI argumentiert, das Gesetz sei zu weit gefasst. “Intimate parts” umfasse Oberschenkel, Gesäß, männliche Brüste - damit wären Bilder von Männern ohne Shirt oder Leuten in Badehose verboten. Zudem greife die Haftung selbst bei einverstaendlichen, selbst erstellten und nie geteilten Bildern. xAI verweist auf die engere Definition des Take It Down Act.
Die Strafen seien katastrophal: 10 Bilder = 5 Millionen, 1.000 = 500 Millionen, 100.000 = 50 Milliarden Dollar.
Widerwillige Anpassung
xAI räumte ein, Grok ab dem 1. August zu aktualisieren - aber nur weil es “keine praktische Wahl” gibt. Eigentlich würde xAI Grok unverändert lassen und sich auf Nutzungsbedingungen verlassen. Musk selbst hatte Grok’s Fähigkeit beworben, “jemanden in einen Bikini zu setzen.”
Minnesota’s AG Keith Ellison verteidigt das Gesetz: “AI-Nudification beraubt das Ziel seiner Würde und kann enormen Schaden anrichten.” Der Ausgang könnte prägend sein - AI-Tool-Haftung vs. Nutzer-Haftung, First Amendment für AI-Bilder, und die Befugnis von Bundesstaaten zur Regulierung.