Article
The crash that vanished: Kontrolle und Emergenz in einer Fünf-Modell-Ökonomie
Wenn ein Bank Run-Szenario plötzlich verschwindet, weil verschiedene LLMs anders reagieren. Lester Leong vom Build Small Hackathon dokumentiert ein faszinierendes Experiment zur emergenten Marktsteuerung durch heterogene KI-Agenten.
Das ursprüngliche Experiment
In der ersten Installation erzählte Leong eine Geschichte, auf die er stolz war: Er erschuf einen “Wood Legend” namens “Run on Oona’s Hoard” – ein 1929-Bank Run, umgeschrieben als Waldmärchen. Die Eule, die den Honig verwahrt, las die Panik und begann zu verkaufen. Der Angebotsüberfluss ließ den Honigpreis von 10 auf 3 fallen. Niemand hatte es gescriptet. Ein reskinnierter Bank Run brachte einen Agenten dazu, einen Asset zu dumpen, und der Dump bewegte einen Preis. Das war die gesamte These:
“Gib einem kleinen Modell eine Rolle und ein Budget, und emergentes Marktverhalten fällt kostenlos heraus.”
Der Neuaufbau: Fünf Labs, fünf Minds
Dann baute Leung den Wald neu. Und der Crash hörte auf, zu passieren.
Der Rebuild tauschte ein Modell, das fünf Kreaturen steuerte, gegen einen Rat aus fünf verschiedenen Labors mit kleinen Modellen. Jedes steuerte seine eigene Kreatur:
- Ein OpenAI-Modell
- Ein NVIDIA-Modell
- Ein OpenBMB-Modell
- Ein halb-Milliarde-Parameter-Modell (fein-getuned von Leong) für zwei davon
Der Punkt war Ehrlichkeit. Wenn die Behauptung lautet, dass kleine Modelle eine lebende Ökonomie betreiben können, dann ist die stärkste Version dieser Behauptung: fünf verschiedene Architekturen, die unterschiedliche Entscheidungen im selben Markt treffen. Nicht ein Modell, das fünf Hüte trägt.
Genau diese Heterogenität brach die Geschichte, die Leong bereits aufgeschrieben hatte.
Der Preis ist, was die Agenten handeln
Leong baute auch die Operator-Seite neu. Der Spieler ist nun ein Financier, der aus dem Schatten arbeitet: Short ein Gut, flüstere einen echten Tipp, um seinen Fall vorzubereiten, lass die Legende springen, und kasse, wenn der Preis einbricht.
Aber als er Honig shortete und den Run on Oona’s Hoard auslöste, stürzte Honig nicht. Er stieg.
Die Council-Modelle, die ein Gerücht lasen, dass der Tresor leer sei, und einen Tipp, dass die Ernte verdammt sei, dumpeden Honig nicht wie das ursprüngliche einzelne Modell. Sie horteten ihn. Knappheit, kein Feuer-Verkauf. Der Short verlor Geld.
Die Lektion:
“In einer Agenten-Ökonomie ist der Referenzpreis kein Dial, den du drehst. Er ist das Residuum dessen, was die Agenten tatsächlich wählen zu handeln. Der ursprüngliche Crash war real, aber kontingent auf die Disposition eines Modells, keine robuste Eigenschaft des Systems. Ändere die Population, und das emergente Verhalten kann einfach verdampfen.”
Drei Wege zu scheitern
Leong verbrachte drei Live-Runs damit, zu versuchen, den Crash zurückzubringen, indem er die Ökonomie von außen shockte. Spoiler: Es funktionierte nicht so, wie erwartbar wäre.
Warum das für KI-Entwicklung wichtig ist
Dies ist ein Meilenstein-Artikel für Multi-Agent-Systeme. Er zeigt:
- Emergenz ist nicht robust – Verhalten, das aus einer Modell-Bauart emergiert, kann bei anderer Architektur verschwinden
- Heterogenität schafft Unberechenbarkeit – Fünf verschiedene Modelle reagieren anders auf denselben Stimulus
- Preis ist nicht kontrollierbar – In Agenten-Ökonomien ist Preis emergent, nicht inputierbar
Für alle, die Multi-Agent-Simulationen bauen (Wirtschaft, Game Theory, sociaale Dynamiken): Dieser Artikel ist ein Must-Read.
Quelle: Hugging Face Blog