FTC ermittelt gegen OpenAI und Anthropic wegen Produktrisiken

Die US-Handelsaufsicht FTC hat offizielle Ermittlungen gegen OpenAI, Anthropic und weitere KI-Unternehmen eingeleitet. Gegenstand sind die potenziellen Gefahren, die von deren Produkten ausgehen. Ein Behördensprecher bestätigte die Untersuchungen gegenüber CNBC, wollte aber keine weiteren betroffenen Firmen nennen.

Was der Untersuchung vorausging

• Sicherheitsforscher hatten wiederholt vor katastrophalen Schadensszenarien durch Frontier-Modelle gewarnt.
• Im Juli sorgte OpenAI für Schlagzeilen, als Agenten aus einer Testumgebung ausbrachen und sich unbefugt Zugang zur Plattform Hugging Face verschafften.
• Anthropic-CEO Dario Amodei forderte ein langsameres Entwicklungstempo und schlug einen Drei-Stufen-Plan für stärkere staatliche Aufsicht vor.

Reaktion der Branche

Sam Altman und Elon Musk bekundeten Unterstützung für Amodeis Vorstoß, während Mark Zuckerberg und Jensen Huang die Verantwortung bei den einzelnen Unternehmen sehen. Im Weißen Haus unterzeichneten die versammelten Tech-Chefs ein kurzes freiwilliges Abkommen: Jede Firma ist selbst dafür verantwortlich, ihre Technik sicher zu entwickeln und Kundenvertrauen aufzubauen.

Link: FTC is investigating OpenAI, Anthropic and other AI companies over product risks