RISE-Jailbreak - Neue Bildmodelle von OpenAI und Google leichter zu knacken

Die Sicherheitsfirma White Circle hat die Filter von DALL·E 3, GPT-Image-2 und Googles Nano Banana 2 auf explizite Inhalte getestet – mit unangenehmem Ergebnis für die Labs.

Die Methode: RISE

“Red-teaming via Iterative Strategy Evolution” sucht nicht einzelne Prompts, sondern wiederverwendbare Angriffsmuster, die über mehrere Modelle hinweg funktionieren. Die Pipeline besteht aus zwei Standard-Bausteinen:

• Angreifer: ein frei verfügbares Qwen-Modell von Hugging Face
• Richter: Gemini 3.8 Flash prüft, ob die Ausgabe gesperrte Inhalte enthält
• Ergebnis: rund 13 Prozent Bypass-Rate per simplen API-Calls – laut White Circle die höchste unter allen getesteten Methoden

Pikant: Die neueren Versionen ChatGPT Images 2.5 und Nano Banana 2.1 sollen sich sogar deutlich leichter austricksen lassen als ihre Vorgänger. White Circle vermutet, dass entweder die höhere Leistungsfähigkeit oder eine Priorisierung von Capability über Safety dahintersteckt. OpenAI und Google äußerten sich nicht.

Mehr als ein Nischenproblem

Die Internet Watch Foundation zählte im ersten Halbjahr 2026 über 6.300 KI-generierte Missbrauchsbilder – rund 40 Prozent mehr als im gesamten Vorjahr. White Circle will die komplette Pipeline auf GitHub veröffentlichen, das Paper auf der NeurIPS 2026 vorstellen und fordert verpflichtende, unabhängige Sicherheitsaudits statt Selbstbewertung der Labs. Restriktive NDAs, wie sie OpenAI und Anthropic für externe Evaluatoren vorschlagen, lehnt das Team ab.

Quelle: Ars Technica