Wie viel Einblick sollten Außenstehende in die Sicherheitsarbeit eines KI-Unternehmens bekommen? Anthropic hat am 15. Oktober ein ungewöhnliches Zugriffsmodell vorgestellt, das genau diese Frage neu beantwortet — orientiert an einem Vorbild, das man eher aus der Finanzwelt kennt als aus der Tech-Branche.
Sechs Prüfer mit Mitarbeiterstatus
Im Zentrum steht die gemeinnützige Prüforganisation METR, die künftig sechs eigene Mitarbeiter mit sogenanntem „Employee-Like Access“ bei Anthropic ausstattet. Das bedeutet konkret: eigene Firmenhardware, Zugang zu Büroräumen und Zugriff auf interne Tools — in etwa so, wie ein neuer Kollege eingearbeitet würde. Anthropic beschreibt das Prinzip so, dass eigene Mitarbeiter ermutigt werden, Informationen mit den METR-Prüfern zu teilen „wie mit einem Kollegen, der an Alignment-Risiken arbeitet“.
Veröffentlichen ohne Erlaubnis einholen zu müssen
Der entscheidende Unterschied zu bisherigen externen Audits: METR darf seine Ergebnisse veröffentlichen, ohne vorher Anthropics Zustimmung einzuholen. Ausgenommen sind nur klar definierte Kategorien — Kundendaten, Informationen, die unter Anwalt-Mandant-Privileg fallen, sowie Details zur Modellarchitektur. Zwar entscheidet Anthropic selbst, was in diese Kategorien fällt, METR kann aber öffentlich kommentieren, falls es die Redaktionen für unangemessen hält. Ein Verzicht auf echtes Blockaderecht also, mit eingebauter Gegenkontrolle.
Nicht nur METR: ein gestuftes System
Neben METR baut Anthropic ein mehrstufiges Netz externer Prüfer auf. Die Organisation SecureBio bekommt begrenzten Zugriff speziell für das chemisch-biologische Risikokapitel im Anthropic-Risk-Report — ein Pilot-Review dazu ist bereits veröffentlicht, eine Ausweitung ist angekündigt. Accenture und Faculty erhalten erweiterten Zugriff für Model-Red-Teaming, Alignment-Bewertungen und Safeguard-Tests. Mit Hugging Face laufen laut Anthropic „frühe Gespräche“ über eine mögliche weitere Kooperation, ein konkretes Modell steht hier noch nicht fest.
Der Vergleich mit der Bankenaufsicht
Anthropic selbst zieht in der Ankündigung die Parallele zur Finanzregulierung: „Bankenaufsicht arbeitet nach ähnlicher Logik. Banken haben mehr Wissen über ihre Risikopositionen; Regulatoren entsenden Resident Examiners in große Banken.“ Die Idee dahinter: Wer das größte Wissen über die eigenen Risiken hat, sollte auch denjenigen, die diese Risiken unabhängig bewerten sollen, einen entsprechend tiefen Einblick ermöglichen — statt sich auf nachträgliche, oberflächliche Audits zu verlassen.
Für Entwickler, Admins und alle, die Claude-Modelle in eigenen Projekten einsetzen, ändert sich durch diese Ankündigung technisch zunächst nichts. Relevant ist sie dennoch, weil sie zeigt, wie Anthropic versucht, Vertrauen in die eigenen Sicherheitsversprechen glaubwürdiger zu machen — ein Thema, das angesichts wachsender regulatorischer Aufmerksamkeit für KI-Unternehmen an Bedeutung gewinnt. Ob das Modell tatsächlich zu kritischeren, unabhängigeren Berichten führt, wird sich erst zeigen, wenn METR und die anderen Partner ihre ersten Ergebnisse unter den neuen Bedingungen veröffentlichen.
Häufige Fragen
Was bedeutet „Employee-Level Access“ konkret?
Darf METR wirklich alles veröffentlichen, was es findet?
Betrifft das auch andere Prüforganisationen außer METR?
Interessant ist der Schritt auch deshalb, weil er zeigt, wie unterschiedlich die großen KI-Anbieter mit externer Kontrolle umgehen. Während manche Unternehmen externe Prüfungen vor allem als einmalige PR-Maßnahme nutzen, verspricht Anthropic hier eine dauerhafte, strukturelle Einbindung — mit allen Reibungspunkten, die das mit sich bringt, etwa wenn METR zu Ergebnissen kommt, die Anthropic selbst nicht gefallen. Ob die Redaktionsregeln in der Praxis tatsächlich so eng gefasst bleiben wie angekündigt, lässt sich erst an den ersten veröffentlichten METR-Berichten unter dem neuen Modell beurteilen.