Oxide-Gründer Bryan Cantrill schlägt zurück: 10-Prozent-Aussterbe-These ist reine Angstverbreitung

Nachdem Ex-Anthropic-Mitarbeiter Jacob Coxon und Alignment-Lead Evan Hubinger öffentlich eine Wahrscheinlichkeit von über 10 Prozent beziffert haben, dass KI “alle Menschen” im nächsten Jahrzehnt tötet, legt Bryan Cantrill (Mitgründer von Oxide Computer, Professor a.D.) jetzt eine scharfe Gegenposition vor.

Das Vertrauens-Argument

Cantrill beginnt mit einer persönlichen Beichte: Als Erstsemesterhetzte er mit einem erfundenen Computervirus-Panic einen ganzen PC-Saum in Panik - und lernte, wie leicht sich Angst unter Laien verbreitet, die Technik nicht beurteilen können. Seine Übertragung auf heute: Domain-Experten tragen implizites öffentliches Vertrauen - wer als KI-Experte Aussterbensszenarien behauptet, misbraucht genau dieses Vertrauen. “Falsehood flies, and the truth comes limping after it” (Jonathan Swift). Coxon selbst sei kein Experte für Critical Infrastructure, Bioweapons oder Aussterbensbiologie - seine Begründungen (“Hacking kritischer Infrastruktur”, “Extinction-Level Bioweapons”) blieben handgewunken.

Warum Engineering nicht Intelligenz ist

Der Kern seiner fachlichen Widerlegung: Akte im Ingenieurwesen erfordern nicht nur Intelligenz, sondern Handeln und Reasoning in der physischen Welt. Digitale Systeme besitzen nur die Agentur, die Menschen ihnen über wissentlich konstruierte, kontrollierte Systeme einräumen - mit menschlicher Verantwortung und Kontrolle. Roboter, die diese Grenze verschieben könnten, existieren nicht in dem Zeitfenster, das die Aussterbe-Prognosen unterstellen.

Sein Fazit: “Extraordinaire claims require extraordinary evidence” (Sagan) - wer mehr als 10 Prozent Menschheitsauslöschung pro Jahrzehnt behauptet, muss Belege in derselben Größenordnung liefern, keine Hand-Wave-Extrapolationen.

Link: bcantrill.dtrace.org