Während sich die KI-Branche meist um geschlossene Cloud-Modelle dreht, hat Meta am 15. Oktober einen Gegenentwurf veröffentlicht: Muse Spark Open, ein offenes Modell mit 816 Milliarden Parametern, das sich — mit entsprechender Hardware — komplett lokal betreiben lässt.
Die technischen Eckdaten
Muse Spark Open nutzt eine Sparse-Mixture-of-Experts-Architektur mit 256 Experten, von denen pro Verarbeitungsschritt nur ein kleiner Teil aktiv wird. Dadurch sind von den 816 Milliarden Parametern tatsächlich nur rund 42 Milliarden pro Token aktiv — ein Kompromiss, der riesige Modellkapazität mit vertretbarem Rechenaufwand pro Anfrage verbindet. Das Modell verarbeitet eine Kontextlänge von bis zu einer Million Token und nimmt Text, Bilder, Video und Audio als Eingabe entgegen, liefert die Antwort aber ausschließlich als Text.
Lokal laufen lassen — was es an Hardware braucht
Der spannendste Teil für Homelab-Enthusiasten: Meta hat das Modell gezielt auf lokale Inferenz über Apples MLX-Framework hin optimiert. Für die volle, NVFP4-quantisierte Version empfiehlt Meta zwei Mac Studios mit M5-Ultra-Chip und je 512 GB Arbeitsspeicher, die per Thunderbolt 5 und RDMA zu einem gemeinsamen 1-Terabyte-Speicherpool verbunden werden. Alternativ reichen laut Meta auch vier Mac Studios mit je 256 GB. Wer nicht gleich mehrere High-End-Macs anschaffen will, kann auf kleinere Quantisierungen ausweichen: Neben dem vollen BF16-Format (rund 1,6 Terabyte) bietet Meta eine NVFP4-Version mit etwa 530 Gigabyte an — ein Drittel der ursprünglichen Größe. Community-Formate von AMD, Intel und Unsloth (darunter FP8, MXFP4, INT4 und GGUF) sollen die Einstiegshürde weiter senken.
Wie schnell ist das Modell in der Praxis?
Mit der sogenannten DFlash-V2-Speculative-Decoding-Technik erreichte Muse Spark Open auf einer AMD-MI355X-GPU eine 3,7-fache Durchsatzsteigerung bei einer einzelnen Anfrage und noch 2,9-fach bei 16 gleichzeitigen Anfragen, mit im Schnitt 6,4 akzeptierten Vorschlags-Token pro Schritt. Auf Mac-Hardware liegen die in der Community gemessenen Werte deutlich niedriger, aber für ein Modell dieser Größenordnung weiterhin praxistauglich für Einzelnutzer-Workloads.
Lizenziert ist das Modell unter der hauseigenen „Muse Model License“ — offen im Sinne von frei herunterladbar und lokal nutzbar, aber mit eigenen Nutzungsbedingungen statt einer klassischen Open-Source-Lizenz wie Apache oder MIT. Meta positioniert Muse Spark Open explizit als Nachfolger des kleineren Muse Glimmer und bewirbt es als „fähigstes US-amerikanisches Open-Weight-Modell“ bislang — eine klare Kampfansage Richtung chinesischer Open-Weight-Konkurrenz wie DeepSeek oder Qwen.
Für die meisten Homelab-Betreiber bleibt das Modell wegen der Hardware-Anforderungen vorerst Theorie — zwei M5-Ultra-Mac-Studios kosten zusammen leicht einen fünfstelligen Betrag. Für KI-Enthusiasten mit entsprechendem Budget oder kleineren Firmen, die Daten zwingend lokal verarbeiten müssen, ist es aber eine der wenigen Optionen, ein wirklich großes Modell ohne Cloud-Anbindung zu betreiben.