Für viele Menschen ist Claude längst mehr als ein Werkzeug für E-Mails und Code — manche schreiben dort regelrechte Tagebücher hinein, tippen Sorgen, Wut und Gedanken einfach so ab, wie sie kommen. Genau das wurde einer Frau aus Bonita Springs, Florida jetzt zum Verhängnis: Anthropic meldete einen ihrer Einträge der Polizei — und sie sitzt seither mit einer Anklage wegen einer schriftlichen Gewaltandrohung da.
WAS GENAU PASSIERT IST
Carli Michelle Heller soll laut Ermittlungsunterlagen am 26. September 2026 in einem Claude-Chat angekündigt haben, sie werde das Lee County Sheriff’s Office „shoot up“ — also bewaffnet angreifen. Einen Tag später, am 27. September, folgte laut denselben Unterlagen ein weiterer Eintrag über einen Waffenkauf. Die Berichte von WINK News sowie den Tech-Portalen Decrypt und TechSpot stimmen in den Kerndaten überein: ein Gerichtstermin für Heller ist für November angesetzt.
SO FUNKTIONIERT DIE MELDUNG AN DIE POLIZEI
Claude selbst hat hier nichts Besonderes getan — kein Modell hat „gedacht“ oder „entschieden“. Was passierte, ist nüchterner: Anthropics automatische Sicherheitsfilter markierten die Einträge wegen ihres Inhalts, und ein menschliches Überprüfungsteam bei Anthropic sah sich die gekennzeichneten Inhalte danach an. Laut der Datenschutzrichtlinie vom 10. September 2026 darf Anthropic Nutzerdaten „at its sole discretion“ — also nach eigenem Ermessen — an Strafverfolgungsbehörden weitergeben, wenn ein begründeter Verdacht („good-faith belief“) auf eine Gefahr besteht. Genau diese Klausel griff hier.
NICHT DER ERSTE FALL — LAUT TOM’S HARDWARE BEREITS DER DRITTE
Besonders bemerkenswert: Laut einem Bericht von Tom’s Hardware ist der Heller-Fall mindestens die dritte bekannte Konversation, die seit August 2026 von Claude-Chats an die Polizei weitergegeben wurde. Das deutet darauf hin, dass Anthropic sein Monitoring in den vergangenen Wochen spürbar verschärft hat — und dass Vorfälle dieser Art kein einmaliger Ausrutscher sind, sondern zu einem wiederkehrenden Muster werden.
WARUM DICH DAS AUCH OHNE DROHUNGEN BETRIFFT
Die wichtigste Erkenntnis für normale Nutzer liegt nicht im Einzelfall, sondern im Prinzip: Ein KI-Chat mit Claude, ChatGPT oder einem anderen Cloud-Dienst ist kein geschütztes privates Tagebuch im rechtlichen Sinne. Es gibt keine Schweigepflicht wie bei einem Therapeuten, kein Berufsgeheimnis wie bei einem Anwalt. Alles, was du eintippst, landet auf den Servern des Anbieters — und dort entscheidet im Zweifel ein Algorithmus plus ein menschliches Team, ob das, was du geschrieben hast, weitergegeben wird.
Für deutsche und europäische Nutzer ist die rechtliche Lage zwar formal anders geregelt (hier greift die DSGVO statt der US-Nutzungsbedingungen), das Grundprinzip bleibt aber gleich: Auch europäische Anbieter behalten sich in ihren AGB regelmäßig vor, bei Gefahr für Leib und Leben Daten an Behörden weiterzugeben. Wer Claude, Gemini oder ChatGPT als Ventil für Frust nutzt, sollte sich bewusst machen, dass Formulierungen wie Gewaltandrohungen — selbst wenn sie nicht ernst gemeint sind — automatisiert erkannt und eskaliert werden können.
FAZIT: KI-CHATS SIND KEIN STILLES KÄMMERLEIN
Der Fall zeigt exemplarisch, wie sich die Rolle von KI-Chatbots verändert hat: Vom reinen Produktivitätswerkzeug zum Alltagsbegleiter, in den Menschen private Gedanken hineinschreiben — ohne sich klarzumachen, dass am anderen Ende ein Unternehmen mitliest, wenn die Systeme Alarm schlagen. Wer ernsthafte Sorgen oder Krisen hat, sollte sich an echte Ansprechstellen wenden, nicht an einen Chatbot. Und wer einfach nur Dampf ablassen will, sollte Formulierungen meiden, die als konkrete Drohung gelesen werden können — denn offenbar schaut inzwischen häufiger jemand genauer hin.