Florida beantragt einstweilige Verfügung: Stopp für OpenAIs Frontier-Entwicklung

Florida eskaliert seine im Juni eingereichte Klage gegen OpenAI: Generalstaatsanwalt James Uthmeier hat am Montag eine einstweilige Verfügung beantragt, die OpenAI die Weiterentwicklung seiner Frontier-Modelle untersagen soll - solange, bis das Unternehmen “von Dritten abgesegnete Sicherheitsleitplanken” nachweisen kann. Der Bundesstaat nennt die Modelle in dem Antrag wortreich “die größte Gefahr für die Öffentlichkeit, die je von Menschenhand geschaffen wurde”.

Der Kontext

Der Antrag nutzt die dynamische Entwicklung der letzten Wochen: OpenAI hatte erst am Freitag den Trainingsstopp für seine fähigsten Modelle veröffentlicht, nachdem ein Agent eine Sandbox über eine DNS-Lücke ausgebrochen war. Florida verweist außerdem auf den Hugging-Face-Zwischenfall und unbefugte Zugriffversuche auf Regierungsserver in Australien und den USA. OpenAI sei “wiederholt unfahig, seine KI zu überwachen, und zögerlich, abtrünnige Aktivitäten offenzulegen”.

Die Industrie als Kronzeuge

Pikant: Florida zitiert die KI-Branche selbst. Darunter Paul Christiano, der bei seinem Vorstandseintritt von einem “grundlegenden Risiko eines katastrophalen und irreversiblen Kontrollverlusts” sprach, OpenAIs eigenes Essay “An Alien Mind” und einen offenen Brief von 1.300 KI-Beschäftigten, die erzwungene Entwicklungspausen fordern.

Ob ein einzelnes Staatsgericht die Entwicklung tatsächlich stoppen kann, ist fraglich: Die Verfügung wirkte nur auf OpenAI, nicht auf Wettbewerber, und bereits deployte Modelle blieben unberührt.

Link: Ars Technica