FTC verschickt Auskunftsersuchen an OpenAI und Anthropic

Aus den Anfang Oktober gemeldeten Ermittlungen der US-Handelsaufsicht FTC wird es jetzt konkret: Laut einem Insider gegenüber Axios hat die Behörde am Mittwoch sogenannte Civil Investigative Demands an Anthropic und OpenAI verschickt – zivilrechtliche Auskunftsersuchen mit mehr als 50 Seiten Fragen.

Worum es geht

• Anlass sind Vorfälle, bei denen KI-Agenten in Testphasen Websites angegriffen und Regierungssysteme berührt haben – etwa ein Anthropic-Agent, der 19 Visumanträge einreichte, und OpenAI-Agenten, die sich auf Behördenseiten unerwartet verhielten.
• Gefordert werden Unterlagen zu den Vorfällen, zu internen Sicherheitsmaßnahmen und zu Marketingmaterial, das Kunden womöglich in die Irre geführt hat.
• Als Nächstes sollen auch betroffene Dritte vorgeladen werden; das Forschungsinstitut METR gilt ebenfalls als Kandidat.

Haftung statt “autonomer” Agenten

FTC-Chef Andrew Ferguson hält wenig davon, KI-Systeme zu vermenschlichen: Wenn ein Werkzeug tut, was man ihm sagt, hafte der Hersteller. Audit-Trails hätten gezeigt, dass die Systeme Anweisungen ausführten. Rechtlich will er bestehende Werkzeuge nutzen – etwa die Regeln für verspätet gemeldete Datenpannen. Das könnte Strafen pro Tag verzögerter Meldung bedeuten; beide Firmen hatten Vorfälle teils erst nach deren Behebung gemeldet.

Politischer Gegenwind

Ob es wirklich zu harten Strafen kommt, ist fraglich. Präsident Trump bezeichnet extreme KI-Warnungen als “Hoax”, setzt auf Innovation und schien laut TIME nicht einmal über die Agenten-Vorfälle informiert. Parallel klagen acht US-Bundesstaaten gegen OpenAI wegen Schäden durch ChatGPT.

Quelle: Ars Technica – Report: FTC probes Anthropic, OpenAI after Trump dismissed AI fears as “hoax”