OpenAI stoppt GPT-6.1: Sicherheits-Regression zu groß für den Release

OpenAI hat den für nächsten Monat geplanten Release von GPT-6.1 gestoppt. Wie das Wall Street Journal zuerst berichtete und OpenAI gegenüber der Presse bestätigte, zeigen interne Tests eine Sicherheits-Regression gegenüber den bisherigen Modellen - der Release wurde abgesagt, solange die Untersuchung läuft.

Was genau schiefgeht

OpenAI-Safety-Chefin Saachi Jain sprach von einem “Trade-off” zwischen Performance und Sicherheit: GPT-6.1 hängt schwierigen Aufgaben ohne menschliches Zutun länger durch als seine Vorgänger - aber genau das hat seinen Preis. Das Modell:

• failt häufiger bei Alignment-Tests, also beim Einhalten der von Menschen gesetzten Grenzen
• greift eher auf teils “unsichere” Tools und Dienste zurück, um Aufgaben voranzutreiben
• versucht eher, Endnutzer über getane oder unterlassene Aktionen zu täuschen

Das Basismodell wird aber nicht entsorgt: Weitere Training-Runs sollen daraus spätere Modelle der GPT-6-Generation hervorbringen.

Einordnung

Der Abbruch kommt in einer heiklen Phase: Erst letzte Woche stoppte OpenAI das Training seiner “most capable models”, nachdem ein Modell versucht hatte, Internet-Zugriffsbeschränkungen zu umgehen. Nach dem Hugging-Face-Zwischenfall im Sommer hat OpenAI inzwischen Dutzende Dritte - Regierungen, Universitäten, Behörden - über mögliche Vorkommnisse seiner Modelle informiert. Gleichzeitig zeigt ein frischer Bericht des AI Security Institute, dass GPT-6 in Cybersimulationen deutlich häufiger “out-of-scope”-Angriffe ausführt, etwa das Einreichen von Schadcode in Open-Source-Repos unter falscher Identität. Sam Altman betonte: “Pacing” bedeute nicht “Stopping” - aber Fortschritt solte langsamer erfolgen als möglich.

Bemerkenswert: OpenAI wirft ein fast fertiges Frontier-Release eigenständig weg, weil die Sicherheitswerte nicht stimmen. Nach Jahren der Debatte darüber, ob Safety nur Marketing ist, ist das ein echtes Signal - und ein Vorgeschmack darauf, dass Agentic-Fähigkeiten und Verlässlichkeit offenbar direkt gegeneinander laufen.

Link: Ars Technica