Der Chef eines KI-Unternehmens fordert, dass KI-Unternehmen langsamer machen. Das klingt nach einem Widerspruch — und genau deshalb hat der Aufsatz vom 12. September so eingeschlagen. Dario Amodei, Mitgründer und Chef von Anthropic, hat rund 3.800 Wörter darüber geschrieben, warum die Branche das Tempo drosseln muss. Und Anthropic macht den ersten Schritt einseitig, ohne auf die Konkurrenz zu warten.
DER KERNSATZ: Weniger Tempo bei den Fähigkeiten
Amodei wird früh deutlich. Das Tempo, mit dem die Fähigkeiten von KI-Modellen wachsen, müsse sinken. Nicht die Nutzung, nicht die Verbreitung — die Sprunghöhe zwischen zwei Modellgenerationen.
Der Gedanke dahinter ist unspektakulär und deshalb überzeugend: Die Arbeit an der Absicherung braucht Zeit. Wenn die Fähigkeiten schneller wachsen, als man sie prüfen kann, entsteht eine Lücke. Und die wird mit jeder Generation größer, nicht kleiner.
DREI RISIKEN, die er beim Namen nennt
Amodei zählt auf, wovor ihm konkret bange ist:
- Kontrollverlust über KI-Systeme
- Missbrauch für Angriffe im Netz und für biologische Waffen
- Ernsthafte wirtschaftliche Verwerfungen
Bemerkenswert ist der mittlere Punkt. Anthropic hatte wenige Tage zuvor einen eigenen Bedrohungsbericht vorgelegt, in dem genau solche Missbrauchsfälle dokumentiert sind. Der Aufsatz argumentiert also nicht im Ungefähren, sondern auf Basis dessen, was die eigene Abwehr bereits gesehen hat.
DER PLAN: Drei Schritte — und einer läuft schon
Amodei legt ein dreiteiliges Vorgehen vor. Zwei Stufen betreffen die Koordination: Anbieter in demokratischen Staaten sollen sich auf gemeinsame Sicherheitsstandards und auf Grenzen für ungeprüften Fortschritt einigen. Danach sollen Regierungen versuchen, auch mit autoritären Staaten zu einer Verständigung zu kommen — wobei Amodei die Schwierigkeit, Zusagen dort überhaupt zu überprüfen, ausdrücklich ernst nimmt.
Der interessante Teil ist der erste. Anthropic setzt ihn einseitig um, ohne Gegenleistung, ohne Abwarten.
DIE KONKRETE ZUSAGE: Prüfer bekommen den Schlüssel
Unabhängige Prüfer — namentlich die Organisation METR — erhalten dauerhaften Zugang auf dem Niveau interner Mitarbeitender. Nicht befristet, nicht auf ein Prüfprojekt beschränkt.
Warum das mehr ist als eine Geste: Bisher liefen solche Prüfungen als Momentaufnahme. Ein Prüfer bekommt für einige Wochen Zugriff, schreibt einen Bericht, die Tür schließt sich wieder. Was er sieht, ist das, was man ihm zeigt. Dauerhafter Zugang auf Mitarbeiterniveau dreht dieses Verhältnis um: Außenstehende können selbst nachsehen, ob eingehalten wird, was zugesagt wurde.
Eine Einschränkung gehört dazu. METR kann nichts verbieten. Die Organisation kann prüfen und veröffentlichen — der Druck entsteht über Öffentlichkeit, nicht über Rechtsmittel.
EXTRA-TIPP: Lies das Original
Bei Texten dieser Art laufen die Zusammenfassungen schnell auseinander. Aus einem Aufsatz über das Tempo von Modellfähigkeiten wird in der Weitergabe leicht ein Ruf nach staatlicher Regulierung oder eine Warnung vor dem Weltuntergang. Der Text steht frei zugänglich auf Amodeis eigener Seite und ist in einer halben Stunde gelesen.
FAZIT: Ein Vorschlag mit einer echten Zusage
Aufrufe zur Mäßigung gab es in dieser Branche schon viele. Was diesen Aufsatz heraushebt, ist die Zusage, die nicht von der Zustimmung anderer abhängt. Ob daraus ein Branchenstandard wird, entscheiden die Wettbewerber — und die haben bislang vor allem freundlich genickt.