Article
ChatGPT-Anwalt bestraft: Erfundene Zeugen im Berufungsverfahren
Der New Mexico Supreme Court hat Strafverteidiger Stephen Aarons wegen direkter Missachtung des Gerichts verurteilt: Sein Berufungsschriftsatz enthielt “false testimony from wholly fabricated witnesses” - erfundene Zeugenaussagen von Personen, die nie vor Gericht auftraten. Das Gericht verhängte 5.000 Dollar Strafe, verwies ihn ans Disziplinargremium und sperrte ihn vorläufig vom Auftreten vor dem höchsten Gericht des Bundesstaats.
Was passiert ist
Aarons, seit über 40 Jahren Strafverteidiger, hatte 2025 eine computergenerierte Transkription des Mordprozesses samt weiterer Akten in ChatGPT (o3-Modell) geladen und daraus den Schriftsatz erstellt. Das Modell erfand Aussagen von “Officer Michelle Amarillo”, “Officer Sanchez” und weiteren Personen - darunter eine Zeugin namens “Mariah Chavez”, deren Beschreibung des Täters die Verteidigung stützen sollte. Zusätzlich beschrieb der Brief reale Präzedenzfälle unzutreffend.
“I didn’t know that AI could hallucinate”
Auf die Frage, ob er von KI-Halluzinationen gewusst habe, antwortete Aarons wortwörtlich: “I didn’t know that AI could hallucinate facts.” Justice C. Shannon Bacon konterte scharf: Ihr 13-jähriger Neffe und die 75-jährige Stiefmutter kennten das Problem - “either you buried your head in the sand - and that’s an intentional choice to be uninformed - or you took a gamble.” Zudem hatte Aarons seinen Mandanten, der wegen Mordes lebenslänglich einsitzt, nie über den ChatGPT-Fehler informiert. Das Gericht ordnete einen neuen Pflichtverteidiger an und löschte alle bisherigen Schriftsätze aus den Akten.