Dan Luu: 'Hirn abschalten' beim AI-Coding funktioniert für niemanden

Dan Luu analysiert in seinem neuesten Essay die Verbreitung einer Arbeitsweise, die er — nach Niklas Gruhn — „Meat Proxy" nennt: Entwickler schalten beim Coden mit LLMs das eigene Hirn ab und bestätigen nur noch Agenten-Ausgaben. Anfang 2025 habe das oft absurde Resultate produziert; im September 2026 funktioniere es stellenweise schon fast beeindruckend.

Das Kernargument

Luu rechnet ökonomisch: Sollten LLMs je gut genug werden, dass ein hirnabschaltender Angestellter brauchbare Software produziert, dann braucht das Unternehmen den Angestellten nicht mehr — es lässt einfach das Modell in der Loop laufen und entlässt ihn. „Es gibt keinen Punkt, an dem diese Methode für den Mitarbeiter funktionieren wird."

Warum Brain-off auch heute scheitert

• Praxisbericht aus einem Team: Selbst eine hoch automatisierbare Bazel-Migration dauerte mit Agenten Monate — zu viele schwer spezifizierbare Anforderungen, zu viele Entscheidungspunkte.
• Bei hochwertigen Aufgaben muss der Mensch zwingend die Rollen von QA, Architekt und Engineering Manager übernehmen.
• Bei out-of-distribution-Problemen bricht Agenten-Performance sichtbar ein: Ein per Prompt erzeugter simpler Minimax-Bot schlug haushoch ein AlphaZero-stilisiertes Bot-Projekt, das solche Gegner eigentlich dominieren sollte.

Sein unbequemer Abschluss: Wer Agenten mühelos steuern kann, coastet vermutlich längst selbst — und sollte sie deutlich härter fordern.

Quelle: There’s no point at which turning your brain off will work