Ronachers P(doom)-Kontra: Open Weights als eingebauter Bremser

Dario Amodeis Essay “We Must Pace the Frontier” hat eine Gegenposition bekommen - von Armin Ronacher, Flask- und Jinja-Erfinder. Er nennt den Text gut lesenswert und in allen Beobachtungen einig, kommt aber zum gegenteiligen Schluss: Pacing durch die großen Labs ist keine Lösung, sondern Teil des Problems.

Was Ronacher wirklich Sorgen macht

Sein Doom-Szenario ist nicht Superintelligenz, sondern was der subventionierte Token-Hahn mit uns Menschen macht - konkret: mit allen, die nicht an geschlossenen, “dopamin-geladenen” Modellen arbeiten. Botnets, Agenten-Spam, vergiftete Paketquellen - Wikipedia listet die 2026er OpenAI-Agenten-Cyberangriffe, und Ronacher vermutet, die Liste ist unvollständig. Nuklear-Anleitungen oder Raketen-Entführungen sieht er dagegen kaum als reale Bedrohung.

Die eigentliche These: Offene Gewichte bremsen von selbst

Wenn Modelle offene Gewichte hätten, wäre vieles eingebremst, argumentiert er. Die verzerrte Ökonomie - OpenAI verbrennt Berichten zufolge 18 Millionen Dollar, um ein Problem per Brute-Force zu lösen, Subscriptions laufen mit massivem Verlust - funktioniere nur, weil die Labs die Infrastruktur kontrollieren. Bei gleichen Zugangsbedingungen würden viele der Probleme schlicht nicht entstehen. Pacing sei “automatisch eingebaut”, wenn jeder Zugang zur Technologie hat.

Regulierung als totales Versagen

Zusätzlich diagnostiziert er ein totales regulatorisches Versagen: Europas zwei Jahre alte KI-Verordnung regle Probleme, die niemand hat, und verpasste die echten. In den USA herrsche weitgehende Regulierungslosigkeit. Bestehende Gesetze würden ignoriert - Firmen kaufen Trainingsdaten, für deren KI-Nutzung niemand je zugestimmt hat, und selbst Mathematiker fürchten, dass ChatGPT-Nutzung ihre Ideen in künftige Modelle trainiert, ohne dass OpenAI das ausschließen kann.

Einordnung

Der Beitrag ist die bisher schärfste Open-Source-Antwort auf die Pacing-Debatte der letzten Tage - und passt Bengios Misalignment-Analyse und Amodeis Sorge-Argumentation zu einem Streitbild zusammen: Runter vom Gas durch die Labs, oder auf durch Offenheit und Regulierung.

Original: lucumr.pocoo.org - P(doom)