500$ RL-Finetuning eines 9B Open Models schlägt Frontier-Modelle

Open Source + RL schlägt Frontier bei 40x geringeren Kosten

Fermisense zeigt in einer detaillierten Fallstudie, was die erfolgreichsten AI-First-Unternehmen gemeinsam haben: Sie finetunen Open-Source-Modelle mit Reinforcement Learning auf ihre spezifischen Workflows – und schlagen dabei Frontier-Modelle bei einem Bruchteil der Kosten.

Die Zahlen

Ein GRPO-trainiertes 9B Open-Source-Modell erreichte 87,3% des maximalen Scores bei der Katalog-Integritätsprüfung. Die beste Frontier-Konfiguration (5 Modelle, optimierte Prompts) erreichte nur 76,9% – ein relativer Vorsprung von 13,5%. Gleichzeitig kostet das trainierte Modell 0,50$ pro 1.000 Listings, verglichen mit 34$ beim teuersten Frontier-Setup. Das ist 40x billiger als die günstigste und 340x billiger als die teuerste Frontier-Option.

Das Playbook

Das Muster wiederholt sich bei Bridgewater, Harvey und Intercom:

• Bridgewater trainierte ein Open-Modell auf Labels ihrer Investment-Experten – 30% weniger Fehler als das beste Frontier-Modell
• Harvey baute einen Legal-Agent, der GPT-5.5 und Claude Opus 4.8 auf eigenen Rubrics übertrifft
• Intercom’s Fin Apex löst mehr Support-Tickets als Frontier-Modelle bei geringeren Kosten

Der Ansatz: Frontier-Modelle etablieren die Baseline und generieren Trainingsdaten. Dann überführt man dieses Wissen in ein kompaktes Open-Modell mit RL – die Workflow-Logik steckt in den Weights, veränderliche Fakten bleiben in Tools.

Warum das funktioniert

Ein spezialisiertes Modell muss nicht alles können – es muss nur einen spezifischen Workflow beherrschen. Das erlaubt kleinere Modelle, die Größenordnungen billiger zu betreiben sind. Das “company-specific judgment”, das kein Prompt aus einem Frontier-Modell herauskitzeln kann, wird durch RL in die Modellgewichte eintrainiert.

Der Artikel nennt auch die fünf Gründe, warum AI-Adoption bei vielen scheitert: Prozesse werden nicht neu gestaltet, Experimentation fehlt, Business Context ist unzureichend, Impact wird nicht gemessen, und AI-Budgets sind unklar. Uber verbrannte sein jährliches Engineering-Budget in vier Monaten an Token-Kosten.

Die Botschaft: Wer AI ernst nutzt, landet früher oder später bei eigenen finetuned Modellen. Die Frontier-API ist der Prototyp – das trainierte Spezialmodell ist die Produktion.

Zum Original: Fermisense – When Machines Take the Wheel