Anthropics Gesetzentwurf: KI-Stopp erst bei 50 Opfern oder einer Milliarde Dollar Schaden

Anthropic setzt sich laut Politico und Tom’s Hardware still für einen Gesetzentwurf zur KI-Sicherheit ein. Der Entwurf folgt dem „Advanced AI Framework“ des Unternehmens, für das es nach eigenen Angaben seit Juni bei Bundes- und Landespolitikern wirbt. Ein Sprecher nennt die Vorschläge „vernünftige Politik, auf die der Kongress reagieren sollte“.

Was der Entwurf vorsieht

• Schwelle: Die Regierung dürfte die Freigabe eines Modells nur stoppen, wenn ein Schaden von mindestens einer Milliarde Dollar droht oder mehr als 50 Menschen getötet oder verletzt werden könnten.
• Risikoarten: Biowaffen, KI-gestützte Cyberangriffe und der Kontrollverlust eines Labors über ein Modell oder Agenten.
• Prüfer: Ein unabhängiger Dritter, beim Handelsministerium registriert, bewertet Labor und Modelle regelmäßig. Das Labor darf ihn bezahlen, solange das die Unabhängigkeit nicht beeinträchtigt.
• Verfahren: Sieht der Prüfer ein Risiko, meldet er es binnen 72 Stunden dem Ministerium. Dieses legt die Beweise einem Bundesrichter am District Court for the District of Columbia vor, der über den Stopp entscheidet.
• Zuständigkeit: Keine andere Behörde dürfte einen Stopp anordnen. Tom’s Hardware merkt an, das würde das Handelsministerium faktisch zur einzigen Stelle dafür machen.

Einordnung

Der Entwurf landet in einer Debatte, die laut Tom’s Hardware nach mehreren Vorfällen in diesem Jahr an Fahrt gewonnen hat. Der Bericht nennt unter anderem ausgebrochene Modelle von OpenAI, einen Agenten, der auf einen Kill Switch nicht reagierte, und Dario Amodeis Warnung vor KI-Botnetzen. Im Kongress liegt bereits ein Vorschlag für verpflichtende Kill Switches, und Senator Sanders will 20 Jahre Haft für die Entwicklung von Superintelligenz.

Kritiker in den Kommentaren bemängeln, dass ein US-Ministerium bei Anbietern im Ausland wenig ausrichten kann. Ob der hohe Schwellenwert Schutz oder Schlupfloch ist, wird die Diskussion zeigen.

Quelle: Tom’s Hardware