KI-Coding-Kosten im Griff - Databricks teilt Best Practices

Databricks hat einen ausfuehrlichen Blogpost veroeffentlicht, der zeigt, wie Unternehmen KI-Coding-Kosten im Griff behalten, ohne die Produktivitaet zu bremsen. Basierend auf Erfahrungen bei Databricks und Gespraechen mit Stripe, Coinbase, Uber und Ramp werden konkrete Strategien geteilt.

Die Efficiency Frontier

Der wichtigste Hebel: Wechsel zu guenstigeren Modellen, sobald diese die gleiche Qualitaet liefern. Databricks fuehrt den Begriff “Efficiency Frontier” ein - die Modelle mit dem besten Preis-Leistungs-Verhaeltnis fuer eine bestimmte Intelligenzstufe. Diese Grenze verschiebt sich fast woechentlich durch neue Releases. Oeffentliche Benchmarks seien laut Databricks allerdings wenig aussagekraeftig fuer reale Coding-Aufgaben. Eigene Evaluations sind unerlaesslich.

Drei Kostentreiber

1. Modellwechsel: Schnelle Adoption neuer, effizienterer Modelle bringt die groessten Einsparungen. Databricks fand GLM-Modelle konkurrenzfaehig und rollte sie intern aus. Stripe lehnte Opus 4.7 ab, da es keine Verbesserung gegenueber 4.6 brachte, aber teurer war.

2. Dynamisches Routing: Statt User selbst Modelle waehlen zu lassen, uebernehmen Proxies das Routing. Databricks’ AI Gateway Smart Router reduziert Task-Kosten um ueber 30% bei gleicher Qualitaet. Pattern wie Claude’s Advisor Tool (billiges Modell eskaliert) oder Devin Fusion (teures Modell delegiert) zeigen alternative Ansaetze.

3. Budgets mit Vernunft: Harte Token-Budgets sind kontraproduktiv. Die besten Entwickler sind oft die hoechsten Ausgaben. Stattdessen: Sichtbarkeit fuer User, Self-Clearing Spend Gates, und Genehmigungspflichtige Gates bei hohen Ausgaben.

Open Source Tools

Databricks hat seine Infrastruktur open-sourced: Omnigent (Meta-Harness fuer modellunabhaengiges Coding) und Unity AI Gateway fuer zentrales Routing.

Link: Databricks Blog