KI-Agenten schreiben 800.000 Zeilen: GitHub portiert die Copilot-Runtime nach Rust

Die Runtime hinter GitHub Copilot CLI, der Copilot App und dem SDK ist komplett umgebaut: Stephen Toub, Distinguished Engineer bei Microsoft, beschreibt im GitHub Blog die Portierung der Agent-Runtime von TypeScript auf Node.js und V8 hin zu mehr als 800.000 Zeilen Produktions-Rust. Den Großteil des Codes haben KI-Agenten geschrieben – verteilt über 128 Pull Requests, die inkrementell in den Main-Zweig gemerged wurden, statt auf einen großen Cutover am Ende zu warten. Performance der Runtime verbesserte sich dabei um Größenordnungen.

Was die alte Architektur kostete

Ursprünglich lag das SDK pragmatisch auf der CLI auf: Jede Einbettung startete einen headless-CLI-Prozess, Funktionaufrufe wurden per JSON-RPC über die Prozessgrenze gemarshallt. Für SDK-Consumer in C#, Python, Go, Java, Rust oder TypeScript bedeutete das eine komplette zweite Laufzeitumgebung mit mindestens 100 MB Working Set, ein Node-Crash riss die Session mit und zwei Prozesse mussten beaufsichtigt werden. Die Rust-Runtime lässt sich stattdessen in-process über ein C-ABI einbetten, mit minimalen Abhängigkeiten und FFI-Anbindung für alle sechs SDK-Sprachen.

Ein Entwickler statt eines Teams

Das eigentliche Signal: Ein Projekt, das vor Agenten ein ganzes Team ein bis zwei Jahre beschäftigt hätte, zog primär von einem einzigen Entwickler in wenigen Monaten durch – während das Team parallel die Fähigkeiten der Runtime weiter ausbaute. Toub betont, das sei keine generelle Rust-Empfehlung für jedes TypeScript-Projekt; entscheidend waren Embedding über C-ABI, niedrige Startup- und Speicherkosten und Vorhersagbarkeit bei Ressourcen.

Quelle: GitHub Blog