News

Anthropics Biowaffen-Alarm spaltet Virologen: Nur Grundlagenforschung oder echte Gefahr?

Anthropic Claude Biosecurity KI-Regulierung security

Anthropics Bericht über fünf mutmaßliche Biowaffen-Versuche mit Claude hat eine scharfe Debatte unter Pathogen-Forschern ausgelöst. Ein Follow-up von Science zeigt: Die Fachwelt ist gespalten, ob die Fälle Grund zur Panik geben.

“Das ist einfach Grundlagenforschung”

Der Scripps-Virologe Kristian Andersen, Evolutionsbiologe und Co-Autor einer ähnlichen Zika-Studie, hält die Experimente für “perfectly safe” durchgeführte Routineforschung. Seine Argumentation:

  • Die beschriebenen Mutationen kommen in der Natur bereits vor - Virologen tauschen sie routinemäßig in einen “Backbone” ein, um ihre Wirkung zu studieren.
  • Die Chikungunya-Studie mit Immunflucht-Mutationen sei Standard-Mechanistikforschung, keine neuartige Risiko-Erhöhung.
  • Das Kompilieren eines öffentlichen Gift-Atlas für die Medikamentenentwicklung sei per se nicht verdächtig.

Erst die Verschleierung durch VPNs, Zwischenserver und getarnte Konten habe Anthropic alarmiert. Biosecurity-Experte Gregory Koblentz (George Mason University) relativiert auch das: Wer Claude aus gesperrten Ländern nutzen will, umgehe die Sperren “wie Teenager die Parental Controls auf ihren Handys”.

Der beunruhigendere Einwand

Andersens eigentliche Sorge gilt nicht den Viren, sondern der Macht der Modelle: Wenn Firmen wie Anthropic selbst entscheiden, welche Forschung “gefährlich” ist, und sie einfach abschalten, leidet legitime Wissenschaft. Er berichtet, dass Claude inzwischen selbst simple Ebola-Genomvergleiche blockiert. Experten wie Filippa Lentzos (King’s College London) und Gigi Gronvall (Johns Hopkins) halten eine Mittellage: Die Online-Reaktionen seien “überhitzt”, doch der Report bringe erstmals reale Daten in eine bisher meist hypothetische Debatte - und sollte sie in Richtung Regulierung bringen statt privater Zensur.

Link: science.org