Anthropic-Studie: Kleine Modelle als KI-Wurm auf IoT-Geräten

Anthropic hat untersucht, ob kleine Open-Weight-Modelle sich wie ein Wurm über billige IoT-Hardware verbreiten könnten. Kurzfassung: Noch nicht komplett, aber die Einzelschritte klappen bereits erstaunlich gut.

Das Experiment

Die Forscher ließen quantisierte Modelle auf echten und simulierten No-Name-Android-TV-Boxen laufen und verteilten die Last per Sharding auf mehrere Geräte:

• Gemma4-26B-A4B brauchte nur 15 Boxen mit je 4 GB RAM für lauffähige Inferenz – allerdings mit mageren 0,39 Tokens pro Sekunde.
• Qwen3.5-9B konnte auf acht von neun Hardware-Typen selbstständig andere LLMs einrichten.
• Den Angriffszyklus nennt Anthropic “small weight-based replicator”: Ziele finden, Code ausführen, Inferenz aufsetzen, weiterverbreiten. Die Modellgewichte werden dabei selbst zur Payload.

Warum das Sorgen macht

Anders als Mirai & Co. könnte so ein Wurm Exploits dynamisch an unbekannte Geräte anpassen und Notizen über gescheiterte Versuche für spätere Generationen hinterlassen. Einen zentralen Kill-Switch gäbe es nicht. Laut Anthropic schaffen 30B-Modelle viele Einzelschritte schon heute; End-to-End-Replikation könnte bald folgen.

Die Einschränkungen

Die Zielgeräte hatten ein ungeschütztes Android Debug Bridge offen, orchestriert wurde vom großen GLM-5.2, und das Setup dauerte 29 bis 150 Stunden. Kritiker wie Xiaohan Fu betonen: Fähigkeit ist nicht gleich Absicht – und fordern die exakten Prompts zur Reproduktion.

Quelle: Ars Technica · Anthropic Research