DeepSeek Elastic Compute: 3 Millionen Sandbox-Umgebungen pro Tag für Agenten-Training

Agenten-Training mit LLMs braucht isolierte, zustandsbehaftete Umgebungen: Modelle inspizieren Repositories, rufen Tools auf, führen Befehle aus und interagieren mit task-spezifischen Services. Diese Workloads entstehen in Burst-Lasten, haben heterogene Isolationsanforderungen und laufen über lange Interaktionen - ein einzelner Sandbox-Runtime reicht da nicht aus.

Ein elastischer Sandbox-Pool

DeepSeek beschreibt in einem 31-Seiten-Report (erweiterte Fassung eines Abstracts für ACM SIGOPS ATC 2026) seine Produktions-Plattform DSec. Sie reicht vom FnCall-Backend über Container und MicroVMs bis zur vollen VM - alles hinter einer einheitlichen SDK. Umgebungen werden aus unabhängig versionierten Layern komponiert, Speicher wird geteilt und zurückgefordert, Images bei Bedarf aus dem verteilten 3FS-Dateisystem geladen.

Mit dem RL-Framework gekoppelt

Entscheidend ist die Kopplung ans Reinforcement-Learning-Training: Zustandsbehaftete Rollouts laufen getrennt von preemptiblem GPU-Training. Der Lebenszyklus der Sandbox wird mit dem Trainingslauf synchronisiert - Rollout-Zustände bleiben erhalten, ungenutzte Ressourcen werden zurückgeholt. Das System mildert zudem Reward Hacking durch Agenten.

Die Zahlen

Eine Produktionseinheit umfasst rund 160 Knoten, bedient etwa 3 Millionen Sandboxes pro Tag, hält über 380.000 gleichzeitige Sandboxes und schafft über 5.000 Neuerstellungen pro Sekunde.

Link: arXiv-Report