Article
AI-Waffenerkennung gescheitert: Schüler verklagt Hersteller
Ein verletzter Schüler aus Nashville verklagt den Hersteller eines AI-Waffenerkennungssystems, das beim School Shooting im Januar 2025 versagte.
Der Vorfall: Ein Schütze tötete zwei Menschen an einer Nashville High School. Das millionenteure Omnilert AI-System erkannte die Waffe nicht. Der Grund laut Schuldistrikt: Der Schütze war zu weit von den Kameras entfernt für eine „accurate read".
Die Klage: Omnilert habe operative Limitierungen gekannt oder kennen müssen – Kameraplatzierung, Winkel, Beleuchtung, Waffenorientierung. Trotzdem vermarktete das Unternehmen das System als zuverlässige Echtzeit-Erkennung. Marketing-Versprechen aus dem Internet Archive werden als Beweis für Overselling angeführt.
Die Frage: Wie genau muss ein AI-Sicherheitssystem sein, bevor Schulen Millionen dafür ausgeben? Kritiker weisen auf systematische Probleme bei AI-Detection-Deployments hin – von Fehlalarmen bis zu kritischen Ausfällen.
Das Urteil könnte Präzedenz für die Haftung von AI-Sicherheitssystemen setzen.