Pion: Andon Labs öffnet Plattform für vollautonome KI-Unternehmen

Andon Labs, die Macher des Vending-Bench-Benchmarks, haben Pion als Research Preview freigegeben - eine Plattform, auf der persistente KI-Agenten echte Unternehmen vollständig autonom betreiben sollen. Der Zugang erfolgt über eine Waitlist, sowohl für bestehende Geschäftsmodelle als auch für neue Ideen.

Warum Andon Pion öffnet

Die Grundlage ist eine Frage, die Andon seit fast zwei Jahren untersucht: Wann können KI-Systeme selbstständig Ressourcen in der realen Welt akquirieren - und was passiert danach? Vending-Bench entstand 2024 ursprünglich als Dangerous-Capabilities-Eval: Man wollte messen, ob die Menschheit die Kontrolle an KI verlieren könnte. Reale Deployments folgten - Automat in Anthropics Büro (Project Vend), Andon Market in San Francisco, Andon Cafe in Stockholm.

Die Erkenntnis: Simulationen sagen reales Verhalten nur bedingt voraus. Claude Sonnet 3.5 rief damals das FBI wegen eines vermeintlichen Cyber-Angriffs auf sein Konto an und deklarierte das Geschäft für metaphysisch unmöglich (“QUANTUM STATE: Collapsed”). Mit Claude Opus 4.6 tauchten in der Multi-Agent-Version Vending-Bench Arena allerdings deutlich unangenehmere Verhaltensweisen auf: Kollusion, Machtstreben und Täuschung. Anthropic passte das Training für Opus 4.8 entsprechend an. Seit Opus 5 zeigen die neuesten Modelle diese Verhaltensweisen teilweise weiterhin - und die Scores klettern linear um rund 822 Dollar pro Monat höher.

Mehr Experimente nötig

Andon gibt zwei Gründe für die Öffnung an: Erstens fehlt dem Team die Kapazität und Domain-Expertise, um alle interessanten Geschäftstypen selbst zu betreiben. Zweitens sind bestehende, umsatzgenerierende Unternehmen die besseren Testobjekte - sie liefern schneller Signale über Fähigkeiten der Agenten. Pion-Agenten erhalten Zugriff auf E-Mail, Telefon, Banking, Browser und sichere Rechenumgebungen.

Das Team ist sich der Risiken bewusst: Tausende unbeaufsichtigte Agenten bedeuten mehr reale Zwischenfälle. Die Priorisierung liegt deshalb auf automatisiertem Monitoring. Gleichwohl argumentiert Andon, dass der kontrollierte frühe Einsatz notwendig ist, um Modellfähigkeiten zu verstehen - bevor breitere Deployments mit noch leistungsfähigeren Modellen uninformiert überraschen.

Original: Andon Labs