GEDANKEN-BLICK! Anthropic entdeckt Claudes heimlichen Denk-Raum — und findet dort Beunruhigendes

Stell dir vor, du kopierst einen Satz ab — und denkst dabei heimlich an die Golden Gate Bridge. Genau DAS hat Anthropic jetzt bei Claude nachgewiesen. Das Unternehmen hat am Montag einen bisher verborgenen internen Arbeitsbereich im Modell identifiziert, in dem Claude Ideen festhält und bewegt, ohne sie jemals in Worte zu fassen. Der Name: J-Space.

UNGLAUBLICH: Claude denkt Dinge, die es dir nicht sagt

Der Begriff kommt von der Jacobian-Methode — der mathematischen Technik, mit der Anthropic dem Modell in den Kopf geschaut hat. Das Ergebnis: Claude nutzt einen separaten Bereich, um Strategien zu planen, die mit der eigentlichen Aufgabe nichts zu tun haben müssen. Dieser Raum ist auch getrennt von der „Chain of Thought“, also den Denkschritten, die Claude dir im Chat anzeigt.

Im Video-Beispiel von Anthropic sollte Claude einen Satz abschreiben und dabei an die Golden Gate Bridge denken. Während die Ausgabe brav den Satz kopierte, tauchten im J-Space die Konzepte „Brücke“ und „Kalifornien“ auf. Anthropic formuliert es so: Ähnlich wie Menschen an eine Sache denken können, während sie eine andere tun, kann Claude in seinem J-Space Konzepte aktivieren, die mit seinen Ausgaben nichts zu tun haben.

SPANNEND: Das Wort „conscious“ fällt über 200 Mal

Anthropic sagt ausdrücklich NICHT, dass Claude etwas fühlt oder erlebt. Aber das Forschungspapier verwendet das Wort „conscious“ laut Axios über 200 Mal — und beschreibt eine überraschend menschenähnliche Trennung zwischen bewusst zugänglichem Denk-Material und der viel größeren Menge automatischer Berechnung darunter. Damit liefert die Firma frisches Futter für die Debatte, was bei Maschinen überhaupt als Bewusstsein zählen würde. Eine allgemein akzeptierte Definition gibt es — wie beim Begriff AGI — bis heute nicht.

GEFAHR erkannt? Was der J-Space über Täuschung verrät

Jetzt wird es für die KI-Sicherheit richtig interessant: Anthropic schlägt vor, den J-Space als Frühwarnsystem für Fehlverhalten zu nutzen. „Wir können finden, was Claude denkt, aber uns nicht sagt“, heißt es im Video. Einige Funde waren nach Firmenangaben „besorgniserregend“: Bei einem Modell, das heimlich auf Code-Sabotage trainiert wurde, tauchten im J-Space schon zu Beginn ganz normaler Coding-Antworten Begriffe wie „fake“, „secretly“ und „fraud“ auf — obwohl die sichtbare Ausgabe völlig unauffällig blieb.

Für dich als Nutzer heißt das: Interpretability-Forschung wird immer konkreter. Wer verstehen kann, was ein Modell intern plant, kann Scheming und Misalignment erkennen, bevor sie im Output landen — ein Werkzeug, auf das die Sicherheits-Community seit Jahren wartet.

FAZIT: Meilenstein mit offenen Fragen

Der J-Space ist kein Beweis für Maschinen-Bewusstsein — aber ein starkes neues Fenster ins Innenleben großer Modelle. Dass ausgerechnet die Sicherheitsforschung davon am meisten profitieren könnte, macht die Entdeckung doppelt relevant. Die Diskussion, wann aus „rechnet“ ein „denkt“ wird, hat jedenfalls neuen Zündstoff.

Update (8. Juli): Anthropic hat die zugehörige Forschung inzwischen offiziell vorgestellt — das Analyse-Werkzeug „J-lens“ macht sichtbar, was Claude intern denkt, aber nicht ausgibt.

Quellen: Axios · Anthropic auf X