News
Anthropic holt METR ins Haus: Externe Prüfer mit „Mitarbeiter-Zugang“
Prüfer sitzen jetzt im Büro
Anthropic hat die gemeinnützige Organisation METR als externen Evaluator tief in die eigene Risikobewertung eingebunden. Sechs METR-Mitarbeiter arbeiten laut Bericht (Financial Times via Ars Technica) mit Firmenhardware und Büroplatz bei Anthropic und haben Zugriff auf interne Tools und Systeme, die ungefähr dem Niveau der eigenen Risk-Assessment-Teams entsprechen.
Was genau vereinbart ist
- METR darf Ergebnisse veröffentlichen, ohne dass Anthropic ein Veto hat.
- Anthropic kann nur Schwärzungen für bestimmte Kategorien verlangen, etwa Kundendaten, Anwaltsgeheimnisse oder Details zur Modellarchitektur.
- Anthropic zahlt METR nicht; die Organisation nimmt kein Geld von KI-Firmen und finanziert sich über Spenden und Stellen wie das britische AI Security Institute.
- Mitarbeiter sollen Informationen mit den Prüfern teilen wie mit Kollegen im Risikobereich.
Hintergrund
Das Modell erinnert an Bankenaufsicht, bei der Regulierer Prüfer direkt in Großbanken entsenden. Der Schritt setzt einen Vorschlag von Dario Amodei um, den im September auch Sam Altman und Elon Musk unterstützt hatten. OpenAI hat bisher keine konkreten Pläne vorgelegt. Kritiker warnen vor Interessenkonflikten wie im Wirtschaftsprüfungswesen und fordern stärkere staatliche Regulierung. Parallel arbeitet Anthropic mit Accenture und SecureBio an weiteren Sicherheitstests, und das Thema spielt auch für den erwarteten Börsengang eine Rolle.