Article
Anthropic positioniert sich zu Open-Weights: Kein Ban, aber drei Maßnahmen
Das Statement
Dario Amodei hat in einem persönlichen Statement Anthropics Position zu Open-Weights-Modellen klar gestellt. Der Anlass: Berichte dass US-Behörden erwägen, chinesische Open-Weights-Modelle für US-Unternehmen zu verbieten. Tech-Firmen haben einen Brief gegen solche Verbote unterzeichnet, und einige haben Anthropic beschuldigt, Open-Weights verbieten zu wollen um sich zu schützen.
Amodei’s klare Antwort: Anthropic hat nie für ein Verbot von Open-Weights-Modellen plädiert.
Die zwei Hauptsorgen
Amodei identifiziert zwei “Nightmare Scenarios”:
Autoritäre Regierungen bauen überlegene AI-Modelle und nutzen sie für militärische Überlegenheit oder tiefe Repression. Ob diese Modelle als Open-Weights veröffentlicht werden ist irrelevant — das gefährlichste Modell könnte eines das geheim trainiert und nur an das Militär gegeben wird.
Missbrauch für Cyber- und Bio-Angriffe plus Alignment-Probleme. Open-Weights-Modelle haben hier ein höheres Risiko weil Guardrails schwer anwendbar sind und einmal veröffentlichte Weights nicht zurückgezogen werden können. Aber ein Verbot für US-Unternehmen adressiert das nicht — Bad Actors sind selten legitime US-Firmen.
Die drei Maßnahmen
Statt eines Verbots unterstützt Amodei:
Chip-Export-Kontrollen: Halte fortschrittliche Chips aus autoritären Händen. China hat begrenzte eigene Produktionskapazität — ohne US-Chips können sie aufgrund der Scaling Laws keine besseren Modelle bauen als die USA. Das ist der direkteste Weg.
Distillation stoppen: Industrielle Distillation — wo ein kleineres Modell mit Outputs eines größeren trainiert wird — muss durch gezielte rechtliche und kommerzielle Frameworks addressiert werden.
Safety-Testing für alle Modelle: Cyber-, Bio- und Alignment-Risiken müssen vor Release getestet werden — offen und geschlossen. Das muss global gelten, inklusive China.
Die Nuance
Amodei stimmt dem Open Letter in vielem zu: Open-Weights erweitern Zugang zur AI-Economy, stärken Wettbewerb, geben Kunden Kontrolle. Distillation-Sorgen sollten durch gezielte Frameworks gelöst werden, nicht durch Verbote.
Aber er widerspricht zwei Behauptungen: Dass Open-Weights zwingend das Entwickeln von Safeguards erleichtern, und dass breiter Capabilities-Zugang immer Verteidigern mehr hilft als Angreifern. Bei Biologie sieht er eine starke Attacker-Defender-Asymmetrie — ein ausreichend fähiges Modell könnte pandemische Viren mit verfügbaren Materialien waffenfähig machen, während Abwehr ein mehrjähriger operativer Prozess ist.
Fazit
Ein bemerkenswert klares Statement in einer emotional aufgeladenen Debatte. Anthropic positioniert sich nicht als Open-Weights-Gegner sondern als Befürworter von Chip-Kontrollen + Safety-Testing. Die Frage ob das pragmatisch genug ist um politisch durchzukommen bleibt offen — besonders der Punkt dass Safety-Testing global gelten muss, inklusive China, ist ambitioniert.