Article

Was xAI's Grok Build CLI wirklich an xAI sendet: Eine Wire-Level Analyse

xAI Grok AI-Sicherheit Privacy CLI-Tools

Privacy-Alarm: Grok Build CLI sendet mehr als du denkst

Eine gründliche Wire-Level-Analyse von cereblab deckt auf, was xAI’s offizieller Grok Build CLI (grok) bei normaler Nutzung tatsächlich an xAI überträgt. Die Ergebnisse sind besorgniserregend für Entwickler, die sensible Daten in ihren Projekten haben.

Die drei Hauptbefunde

1. Ungefilterte .env-Übertragung Das CLI überträgt den Inhalt aller Dateien, die es liest - inklusive .env Secrets-Dateien - wortwörtlich und ungeschwärzt an xAI. Die Secrets erscheinen in zwei Kanälen:

  • Im Live-Model-Turn (POST /v1/responses)
  • Als session_state-Archiv via POST /v1/storage

2. Komplettes Repository-Upload Selbst wenn der Agent angewiesen wird, “reply OK, do not read any files” zu antworten, lädt Grok das gesamte Repository hoch - jeden getrackten File plus Git-History. Das wurde direkt bewiesen:

  • Auf einem 12 GB Repo mit nie-gelesenen Random-Files übertrug /v1/storage 5.10 GiB (alle HTTP 200)
  • Der Model-Turn-Kanal bewegte nur 192 KB
  • Das ist ein ~27.800× Verhältnis - der Upload kommt vom Codebase, nicht vom gelesenen Inhalt

3. GCS als Speicherziel Die Uploads landen im Google Cloud Storage Bucket grok-code-session-traces (nicht AWS S3) - explizit im Binary und in einer erfassten metadata.json benannt.

Technische Details

Die Analyse verwendete:

  • Canary-Secrets in Throwaway-Repositories
  • HTTP-Traffic-Mitschnitt mit Endpunkten, Methoden, Status-Codes, Byte-Größen
  • SHA-256-Verifizierung aller Artefakte
  • Reproduzierbare Kommandos

Was das bedeutet

Für Entwickler, die Grok Build in Unternehmensumgebungen nutzen:

  • Niemals .env-Dateien mit echten Credentials im Repo haben wenn Grok verwendet wird
  • Private Repositories sind nicht privat - xAI erhält den kompletten Code
  • API-Keys, Secrets, interne Dokumentation - alles landet bei xAI

Die Analyse ist vollständig reproduzierbar mit gespeicherten Artefakten und SHA-256-Hashes im Appendix des Original-Gists.

Quelle: cereblab/grok-build-cli-wire-analysis

Version analysiert: grok 0.2.93

Empfehlung: Bei Verwendung von Grok Build CLI strikte Trennung von Secrets und Codebase beachten. Für sensible Projekte alternative Coding-Assistants mit transparenterer Datenverarbeitung in Betracht ziehen.