Kimsuky: Offline-KI-Labor auf Angriffsservern entdeckt

Ollama, GPT4All, Msty — klingt nach einem gemütlichen Homelab-Wochenende? Genau dieselben Werkzeuge laufen jetzt auf den Angriffsservern von Nordkoreas Staats-Hackern. Die südkoreanische Sicherheitsfirma Genians hat am Montag dokumentiert, dass die Spionage-Gruppe Kimsuky sich ein komplett eigenes, lokales KI-Labor aufgebaut hat — nach Einschätzung der Forscher der erste belegte Fall, in dem eine staatlich gesteuerte APT-Gruppe eine selbst gehostete LLM-Umgebung für den operativen Einsatz betreibt.

UNGLAUBLICH: Die KI wohnt direkt beim Diebesgut

Der brisanteste Fund: Die Modelle laufen auf denselben Servern, auf denen die Gruppe gestohlene Daten empfängt und ihre Angriffe steuert. Statt Beute mühsam zu sichten, lässt Kimsuky die lokale KI erbeutete Dateien direkt vor Ort analysieren und zusammenfassen. Dazu kommen laut Genians zwei weitere Einsatzfelder: Unterstützung bei der Malware-Entwicklung und die Automatisierung von Angriffsabläufen.

DARUM setzt Kimsuky auf offline statt ChatGPT

Die Logik ist kalt und schlüssig: Kommerzielle Chatbots protokollieren jede Anfrage und filtern Missbrauch — Anbieter wie OpenAI, Google und Anthropic haben nordkoreanische Konten in der Vergangenheit reihenweise gesperrt. Offene Modelle, die per Ollama, GPT4All oder Msty lokal laufen, kennen dagegen weder Logfiles beim Anbieter noch Konto-Sperren. Die Guardrails der KI-Konzerne enden dort, wo jemand die Modelle einfach selbst hostet — dieselbe Freiheit, die dein Homelab so attraktiv macht, nutzt hier ein Geheimdienst-Apparat.

GEFAHR! Phishing mit Krypto-Köder

Ganz konkret wird es beim Klassiker: Genians zufolge produziert Kimsuky mit generativer KI weiterhin Phishing-Dokumente — bevorzugt getarnt als Unterlagen zu Krypto-Werten, Anlagestrategien und Fintech-Diensten. Die Masche passt zum Muster der Gruppe, die wir schon beim Gift-Angriff auf 144 KI-Pakete im Visier hatten: Erst kommt die perfekt formulierte Mail, dann der Zugriff aufs Konto.

Das bedeutet es für dein Homelab

Keine Panik: Dein lokaler Ollama-Server ist dadurch nicht unsicherer geworden. Aber der Fall zeigt zwei Dinge. Erstens: Verlass dich nicht darauf, dass KI-generiertes Phishing an den Filtern der Anbieter scheitert — die Angreifer brauchen diese Anbieter schlicht nicht mehr. Zweitens: Wer selbst lokale Modelle betreibt, sollte sie niemals offen ins Internet stellen — offene KI-Endpunkte werden aktiv gescannt und gekapert. Misstraue Finanz- und Investment-Dokumenten aus dem Nichts, prüfe Absender-Domains und aktiviere überall Zwei-Faktor-Authentifizierung.

Häufige Fragen

Wer oder was ist Kimsuky?

Kimsuky ist eine staatlich gesteuerte nordkoreanische Hacker-Gruppe (APT), die seit Jahren Spionage gegen Regierungen, Denkfabriken, Journalisten und zunehmend gegen Krypto- und Finanzziele betreibt. Ihr Markenzeichen sind aufwendige Phishing-Kampagnen mit täuschend echten Dokumenten und Absender-Adressen.

Warum ist ein Offline-KI-Labor so bemerkenswert?

Es ist laut Genians der erste dokumentierte Fall, in dem eine Staats-APT eine komplett selbst gehostete LLM-Umgebung operativ nutzt. Damit umgeht die Gruppe sämtliche Schutzmechanismen kommerzieller KI-Anbieter: keine Protokolle, keine Missbrauchs-Filter, keine Konto-Sperren. Die Angreifer sind bei der KI-Nutzung niemandem mehr Rechenschaft schuldig.

Sind Ollama, GPT4All und Msty jetzt gefährlich?

Nein. Die Werkzeuge selbst sind legitime Open-Source-Software, die auch in unzähligen Homelabs läuft. Gefährlich ist, wofür Kimsuky sie einsetzt. Wichtig bleibt: Lokale KI-Server nicht ungeschützt ins Internet stellen, denn offene Endpunkte werden aktiv gesucht und missbraucht.

Wie schütze ich mich vor solchen Phishing-Angriffen?

Sei besonders wachsam bei unaufgeforderten Dokumenten zu Krypto, Geldanlage oder Fintech. Prüfe Absender-Domains genau, öffne Anhänge im Zweifel gar nicht und nutze Zwei-Faktor-Authentifizierung — idealerweise mit Hardware-Schlüsseln, die Phishing-Seiten technisch ins Leere laufen lassen.

Quellen: The Hacker News · Al Jazeera · TNW

SPIONAGE-SCHOCK! Nordkoreas Hacker bauen sich ihr eigenes ChatGPT — komplett offline auf ihren Angriffsservern