816 Milliarden Parameter in einen Mac? Was Apple und Meta diesmal wollen

816 Milliarden sind die Summe. Auf dem Mac läuft 4-Bit-NVFP4, und jedes Token aktiviert etwa 42 Milliarden. Ein Mac Studio fasst das nicht. Ein Mac mini erst recht nicht.

Am 15. Oktober erschien Muse Spark Open, kein Mac für 816 Milliarden Parameter

Metas Forschungsbeitrag nennt Muse Spark Open das bisher fähigste offene US-Gewicht, gebaut fürs Programmieren und für lange Agentenläufe. Der Entwicklerbeitrag vom selben Tag beschreibt eine dünn besetzte Mixture-of-Experts: 816 Milliarden Parameter insgesamt, etwa 42 Milliarden aktiv pro Token, Eingabe aus Text, Bild, Video und Audio, Kontext 1 Million Token. Die Gewichte lagen am selben Tag auf Hugging Face und außerdem bei Amazon SageMaker, Google Cloud Model Garden und Microsoft Foundry. APIs standen ab Tag eins bei Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter und Together AI. Entwicklerbeitrag: Build with Muse Spark Open.

Die Modellkarte legt die Form fest: ein MoE-Transformer plus Perception Encoder, Vokabular 202.048, Trainingsdaten aus mehr als 100 Sprachen. Von 256 Experten nutzt jedes Token 8. 42 Milliarden geteilt durch 816 Milliarden ist nicht 8 geteilt durch 256, weil die Attention-Schichten geteilt sind. Native Präzision ist BF16. Was Apple auf dem Mac gestoppt hat, ist NVFP4. Empfohlenes Sampling: temperature 1,0, top_p 1,0, top_k aus. Für Code und Agenten high oder xhigh, Standard ist xhigh. Das sind Sätze der Karte. Wir haben sie nicht selbst gefahren.

Der 15. Oktober war also zweierlei: die Gewichte und ein Weg, den NVFP4-Checkpoint über Mac Studios zu teilen. Meta schreibt, Muse Code habe in dieser Desktop-Umgebung iOS-Änderungen an Ice Cubes geliefert, einem Open-Source-Mastodon-Client, und das Modell habe in DaVinci Resolve Bild für Bild geschaut. Das ist Metas Beschreibung. Dieser Artikel wiederholt den Lauf nicht.

Wie 816 Milliarden auf einen Mac kommen: zwei mal 512 GB oder vier mal 256 GB

Apple rechnet mit Speicher. In nativem BF16 brauchen allein die Parameter mehr als 1,6 TB. In NVFP4 wiegen die Gewichte etwa 493 GB. Mit den Zwischenwerten der Inferenz passt das Modell immer noch nicht auf ein Mac Studio, auch nicht mit 512 GB gemeinsamem Speicher. MLX teilt. Pipeline-Parallelität schneidet nach der Tiefe auf zwei Rechner. Tensor-Parallelität schneidet jede Schicht in der Breite. Die Leitung ist RDMA über Thunderbolt 5, das macOS 26.2 mitbringt. MLX 0.30.1 nennt das Kollektiv jaccl.

Metas Hardware-Seite und das Mac-Kochbuch nennen dieselben Maschinen: zwei M5 Ultra mit 512 GB oder vier mit 256 GB. Das Kochbuch setzt etwa vier Stunden an, will den vollen NVFP4-Checkpoint auf der Platte jedes Mac und SSH ohne Passwort. Jedes Paar braucht eine direkte Thunderbolt-5-Leitung, und zwei Kabel pro Paar sollen die Bandbreite verdoppeln. Bei vier Macs hängt jeder an den anderen drei. Aus dieser Regel gezählt: zwei Rechner brauchen 2 Kabel, vier brauchen 6 Paare mal 2, also 12. Die 12 steht nicht im Dokument, sie folgt aus der Regel. Kochbuch: Muse Spark Open on Mac.

493 GB und 700 GB widersprechen sich nicht. Apples 493 GB ist die Größe der NVFP4-Gewichte. Die 700 GB und 2 TB auf der Hugging-Face-Karte sind der VRAM, den sie für einen GPU-Rechner samt Laufzeit ansetzen. Der Mac-Weg gilt nur für NVFP4. BF16 zeigt auf der Karte auf GPUs, nicht auf einen Mac.

36 Token/s sind vier Rechner bei 8192 Token, und es ist Apples Tabelle

Apple hat mlx_lm.benchmark in drei Anordnungen laufen lassen, Kontext 8192, Batch 1, 128 erzeugte Token. Muse Spark Open hat keine Zeile für einen Rechner, weil es nicht passt. Die Tabelle unten übernimmt nur die Spalte 8192, die die Seite zuerst zeigt. Die Zahlen sind von Apple. Wir haben sie nicht gemessen.

„Über 36 Token pro Sekunde“ ist die letzte Zeile, und die Bildunterschrift sagt Kontext 8192. Bei 65536 steht im Fließtext etwas anderes: auf vier M5 Ultra senken zwei Kabel pro Leitung die Zeit bis zum ersten Token von etwa 50,5 Sekunden auf 40,6 Sekunden. Tensor-Parallelität halte die Erzeugung auch bei langem Kontext schneller, eine Erzeugungszahl für 65536 neben 36,73 druckt der Absatz nicht. Das Fenster von 1 Million Token steht nicht in der Tabelle.

Ein Faktor wird leicht an das falsche Modell geklebt. Auf einem Rechner ist die Zeit bis zum ersten Token für Qwen 3.8 (27B, dicht, BF16) und Mistral Medium 3.5 (128B, dicht, FP8) auf dem M5 Ultra bis etwa 4,6-mal so kurz wie auf dem M3 Ultra. Die Erzeugung liegt bei etwa 1,6-mal, passend zur Bandbreite von 819 GB/s auf 1,2 TB/s. Bei Kontext 65536 belegen die beiden auf einem 512-GB-Rechner etwa 68 GB und 158 GB. Die Spitzenleistung setzt Apple bei etwa 200 W (M3 Ultra) und 300 W (M5 Ultra) an. Keiner dieser Sätze gilt für Muse Spark Open. Es gibt keine M3-Zeile und keine Ein-Rechner-Zeile.

Apple will einen Desktop-Cluster, den es verkaufen kann, nicht 816 Milliarden Parameter auf einem iPhone

Die Mac-Studio-Mitteilung vom 25. August hatte das schon gesagt: M5 Ultra skaliert auf eine 36-Kern-CPU, eine 80-Kern-GPU, 512 GB gemeinsamen Speicher und 1,2 TB/s Bandbreite. Thunderbolt 5 plus RDMA legt den Speicher mehrerer Rechner zusammen, vier Systeme werden mit bis etwa dem 3-Fachen der Inferenz eines einzelnen beschrieben. Die Option 512 GB heißt „Ende Oktober“. Andere Konfigurationen kommen ab dem 22. September. Der Startpreis von 5.499 US-Dollar (5.099 im Education Store) ist das Basis-M5-Ultra, nicht zwei Rechner mit 512 GB.

Der MLX-Beitrag vom 15. Oktober gibt dieser Hardware einen Modellnamen. Muse Spark Open passt nicht in ein Gehäuse, also reicht „ein Mac“ nicht. Die Geschichte ist der Cluster. MLX ist Apples Open-Source-Array-Framework, die Neural Accelerators rechnen die Matrizen, jaccl läuft über Thunderbolt. Am Ende steht ein OpenAI-kompatibler Dienst auf Port 8080, den OpenCode aufruft. Apple will, dass die Desktop-Vorführung eines großen offenen Gewichts auf dem Mac Studio stattfindet und nicht nur auf gemieteten GPUs.

Sie findet nicht auf einem iPhone statt und ist kein Apple-Intelligence-Feature. Der Faktor 4,6 misst die Zeit bis zum ersten Token kleinerer dichter Modelle auf einem Rechner. Er ist keine Beschleunigung für Muse Spark Open. Wer wegen der Überschrift einen Mac mini kauft, kauft eine andere Speicherstufe, Größenordnungen unter einem Checkpoint von 493 GB.

Meta will den Namen des offenen US-Gewichts und eine Lizenz, die große Wiederverkäufer zurückholt

„Fähigstes offenes US-Gewicht“ ist Metas Satz. Die Vergleichstabelle der Modellkarte ist kein Sieg in jeder Zeile. Unten stehen die Zeilen, die zeigen, wo es führt. Die Einstellung ist das xhigh, das Meta nennt. Die Werte stehen auf der Karte. Wir haben sie nicht nachgemessen und Artificial Analysis am 16. Oktober nicht neu geladen.

Die Zeile, die es anführt, ist Werkzeugnutzung, MCP-Atlas. Beim Intelligenzindex, bei Computerbedienung, Terminal und Software-Engineering druckt die Karte für Kimi, GLM oder Qwen eine höhere Zahl. Meta zielt auf Agenten und lange Aufgaben, nicht auf den ersten Platz jeder Tafel. Die Desktop-Vorführung stützt „das läuft auch zu Hause“. Die sieben APIs vom selben Tag sind die Tür, die die meisten diese Woche wirklich öffnen können.

Die Lizenz steht auf der Hugging-Face-Modellseite. Sie erlaubt kostenlose Nutzung, Feintuning und Weitergabe, mit zwei Schwellen. Erstens muss jedes Produkt, das die Software oder ein Derivat nutzt, „Built with Muse Spark Open“ in der Oberfläche, der Dokumentation, auf der Website oder in den Einstellungen zeigen. Zweitens: Wer selbst oder über ein verbundenes Unternehmen Dritten Modellantworten über eine API oder etwas Vergleichbares gibt, betreibt Model as a Service. Liegt der Umsatz des Unternehmens samt verbundenen Unternehmen in zwölf aufeinanderfolgenden Monaten über 20 Millionen US-Dollar, ist vor diesem Angebot eine Mitteilung an Meta und ein separater schriftlicher Vertrag nötig. Interne Nutzung, Forschung und der Einbau als Funktion des eigenen Produkts — nicht der Verkauf des Modells selbst als Dienst — gehen an dieser zweiten Schwelle vorbei. Die Nutzungsregeln nennen niemanden unter 18 als vorgesehene Nutzer. Offene Gewichte mit einer kommerziellen Schwelle, nicht Apache unter neuem Dateinamen.

Wer diesen Mac-Studio-Cluster nicht kauft, hat drei Wege, die zu den Dokumenten passen

Die Überschrift fragt, was die beiden Firmen wollen. Auf der eigenen Hardware passen am 16. Oktober nur die folgenden Zeilen.

• Muse Spark Open selbst laufen lassen: zwei M5 Ultra mit 512 GB oder vier mit 256 GB, macOS 26.2, MLX 0.30.1, Thunderbolt 5 direkt zwischen jedem Paar. 512 GB steht weiter auf „Ende Oktober“ aus der Mitteilung vom 25. August. Vier Rechner mit 256 GB warten nicht darauf.
• Diese Woche nutzen, ohne den Cluster zu kaufen: eine der sieben APIs aus dem Startbeitrag. Eine Preisliste steht dort nicht, also erfindet dieser Artikel keinen Satz.
• Ein Mac Studio mit 512 GB ist schon da: Auf Apples Tabelle passen Qwen 3.8 und Mistral Medium 3.5. Muse Spark Open passt nicht.
• Nur ein Mac mini: Der gemeinsame Speicher liegt eine Größenordnung unter einem NVFP4-Checkpoint von 493 GB. Er kann der Mac sein, der eine API ruft, kompiliert und signiert. Er kann nicht der Rechner sein, der die Gewichte hält. Warum der Speicher zuerst ausgeht, steht im Weiterlesen am Ende.

Offen sind zwei Dinge: ob das Mac Studio mit 512 GB Ende Oktober wirklich in den Verkauf geht, wie es die August-Mitteilung sagte, und wie die Rechnung der gehosteten APIs aussieht. Apple hat in jenem Absatz auch keine Erzeugungsgeschwindigkeit bei 65536 Token in derselben Spalte wie 36,73 Token/s gedruckt. Bis diese Zahl existiert, ist das Ergebnis bei 8192 nicht die Geschwindigkeit des Fensters von 1 Million Token.

Fragen

Läuft Muse Spark Open auf einem Mac mini?

Nein. Apple setzt die NVFP4-Gewichte bei etwa 493 GB an, und mit Zwischenwerten fasst sie nicht einmal ein Mac Studio mit 512 GB. Der dokumentierte Mac-Weg sind zwei M5-Ultra-Mac-Studios mit 512 GB oder vier mit 256 GB.

Rechnet die Inferenz bei jedem Token alle 816 Milliarden Parameter?

Nein. Es ist eine Mixture of Experts. Die Karte nennt 256 Experten und 8 aktive pro Token, etwa 42 Milliarden aktive Parameter. 816 Milliarden ist die Summe.

Unter welchen Bedingungen gelten 36 Token/s?

Apples Tabelle: vier M5 Ultra, Tensor-Parallelität, NVFP4, Kontext 8192, mlx_lm.benchmark, Batch 1, 128 erzeugte Token. Nicht das Fenster von 1 Million und kein Lauf für diesen Artikel.

Darf man die Gewichte kommerziell nutzen?

Die Muse Model License erlaubt viele kostenlose Nutzungen, und das Produkt muss Built with Muse Spark Open zeigen. Wer das Modell als API an Dritte verkauft und mit verbundenen Unternehmen in zwölf Monaten über 20 Millionen US-Dollar Umsatz liegt, muss Meta benachrichtigen und einen separaten Vertrag schließen. Interne Nutzung und der Einbau als Funktion des eigenen Produkts fallen nicht unter diese Klausel.

Ist der Faktor 4,6 Muse Spark Open gegen das vorherige Mac Studio?

Nein. 4,6-mal ist die Zeit bis zum ersten Token für Qwen 3.8 und Mistral Medium 3.5 auf einem Rechner, M5 Ultra gegen M3 Ultra. Muse Spark Open hat keine Ein-Rechner-Zeile und keine M3-Zeile.