816 миллиардов параметров в Mac? Чего на этот раз добиваются Apple и Meta

816 миллиардов — это сумма. На Mac запускают 4-битный NVFP4, и каждый токен активирует около 42 миллиардов. Одна Mac Studio это не вмещает. Mac mini — тем более.

15 октября вышел Muse Spark Open, а не Mac, в который входят 816 миллиардов параметров

Исследовательский пост Meta называет Muse Spark Open самой способной открытой моделью США на сегодня, собранной для кода и долгих агентных задач. Пост для разработчиков в тот же день описывает разреженную смесь экспертов: 816 миллиардов параметров всего, около 42 миллиардов активны на токен, на вход текст, изображение, видео и звук, контекст — 1 миллион токенов. Веса в тот же день легли на Hugging Face, а также в Amazon SageMaker, Google Cloud Model Garden и Microsoft Foundry. API с первого дня названы у Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. Пост: Build with Muse Spark Open.

Карточка фиксирует форму: MoE-трансформер плюс кодировщик восприятия, словарь 202 048, данные более чем на 100 языках. Из 256 экспертов каждый токен использует 8. Сорок два миллиарда к 816 миллиардам — это не 8, делённые на 256: слои внимания общие. Родная точность — BF16. Чекпоинт, который Apple замерила на Mac, — NVFP4. Рекомендуемое сэмплирование: temperature 1,0, top_p 1,0, top_k выключен. Для кода и агентов — high или xhigh, по умолчанию xhigh. Это фразы карточки. Мы их не запускали.

Значит, 15 октября вышли сразу две вещи: веса и путь, который раскладывает чекпоинт NVFP4 по нескольким Mac Studio. Meta пишет, что Muse Code на этом столе внёс изменения iOS в Ice Cubes, открытый клиент Mastodon, а модель в DaVinci Resolve смотрела материал кадр за кадром. Это описание Meta. Эта статья его не повторяет.

Как 816 миллиардов попадают на Mac: две машины по 512 ГБ или четыре по 256 ГБ

Apple считает память. В родном BF16 одни параметры занимают больше 1,6 ТБ. В NVFP4 веса — около 493 ГБ. Добавьте промежуточные значения инференса, и одна Mac Studio всё равно не вмещает модель, даже с 512 ГБ унифицированной памяти. MLX режет. Конвейерный параллелизм режет модель по глубине на две машины. Тензорный режет каждый слой по ширине. Связь — RDMA по Thunderbolt 5, который появился в macOS 26.2. С MLX 0.30.1 этот коллектив называется jaccl.

Страница железа Meta и руководство для Mac называют одни машины: две M5 Ultra по 512 ГБ или четыре по 256 ГБ. Руководство закладывает около четырёх часов, полный чекпоинт NVFP4 на диске каждого Mac и SSH без пароля. Каждая пара нуждается в прямом Thunderbolt 5, и текст советует два кабеля на пару, чтобы удвоить канал. При четырёх Mac каждая машина соединена с тремя остальными. Если посчитать по этому правилу: две машины — 2 кабеля, четыре — 6 пар × 2, то есть 12. Числа 12 в документе нет, оно следует из правила. Руководство: Muse Spark Open on Mac.

493 ГБ и 700 ГБ не спорят друг с другом. 493 ГБ у Apple — это размер весов NVFP4. 700 ГБ и 2 ТБ в карточке Hugging Face — это VRAM, которую они просят на GPU-машине вместе со средой выполнения. Путь на Mac обещает только NVFP4. BF16 в карточке указывает на GPU, не на Mac.

36 токенов/с — это четыре машины при контексте 8192, и это таблица Apple

Apple прогнала mlx_lm.benchmark в трёх раскладках, контекст 8192, batch 1, 128 сгенерированных токенов. У Muse Spark Open нет строки для одной машины: она не помещается. Таблица ниже копирует только столбец 8192, который страница показывает первым. Цифры принадлежат Apple. Мы их не измеряли.

«Больше 36 токенов в секунду» — это последняя строка, и подпись к рисунку говорит о контексте 8192. На 65536 в тексте Apple другое: на четырёх M5 Ultra два кабеля на связь снижают время до первого токена примерно с 50,5 секунды до 40,6 секунды. Тензорный параллелизм, пишут они, сохраняет ускорение генерации и на длинном контексте, но число генерации для 65536 рядом с 36,73 в этом абзаце не напечатано. Окна в 1 миллион токенов в таблице нет.

Один множитель легко приклеить не к той модели. На одной машине время до первого токена у Qwen 3.8 (27B, плотная, BF16) и Mistral Medium 3.5 (128B, плотная, FP8) на M5 Ultra до примерно 4,6 раза короче, чем на M3 Ultra. Генерация — около 1,6 раза, вровень с полосой памяти от 819 ГБ/с до 1,2 ТБ/с. При контексте 65536 эти две модели занимают около 68 ГБ и 158 ГБ на одной машине с 512 ГБ. Пиковую мощность Apple пишет около 200 Вт для M3 Ultra и 300 Вт для M5 Ultra. Ни одна из этих фраз не про Muse Spark Open. У неё нет строки M3 и нет строки для одной машины.

Apple хочет продаваемый настольный кластер, а не 816 миллиардов параметров на iPhone

Пресс-релиз Mac Studio от 25 августа уже это сказал: M5 Ultra доходит до 36-ядерного CPU, 80-ядерного GPU, 512 ГБ унифицированной памяти и полосы 1,2 ТБ/с. Thunderbolt 5 плюс RDMA собирает память нескольких машин, а четыре системы описаны как до примерно 3 раз быстрее инференса одной. Вариант на 512 ГБ — «конец октября». Остальные конфигурации начинают приходить с 22 сентября. Стартовые 5499 долларов (5099 в Education) — это базовый M5 Ultra, а не две машины по 512 ГБ.

Пост про MLX от 15 октября даёт этому железу имя модели. Muse Spark Open не помещается в один корпус, поэтому истории «купить один Mac» мало. История — это кластер. MLX — открытый фреймворк массивов Apple, Neural Accelerator считает матрицы, jaccl идёт по Thunderbolt. В конце поста — совместимый с OpenAI сервер на порту 8080, к которому обращается OpenCode. Apple хочет, чтобы настольная демонстрация большой открытой модели происходила на Mac Studio, а не только на арендованных GPU.

На iPhone этого нет, и в Apple Intelligence это не записано. Множитель 4,6 измеряет первый токен меньших плотных моделей на одной машине. Это не ускорение Muse Spark Open. Купить Mac mini из-за заголовка — значит купить другой объём унифицированной памяти, на порядки меньше чекпоинта в 493 ГБ.

Meta хочет имя открытой модели США и лицензию, которая возвращает крупных перепродавцов

«Самая способная открытая модель США» — это фраза Meta. Сравнительная таблица карточки не означает победу в каждой строке. Ниже только строки, которые отвечают, где она впереди. Режим — тот xhigh, который указывает Meta. Оценки взяты из карточки. Мы их не перепроверяли и 16 октября не обновляли Artificial Analysis.

Строка, где она впереди, — вызов инструментов, MCP-Atlas. На общем индексе, в работе с компьютером, в терминале и в программной инженерии карточка печатает более высокое число у Kimi, GLM или Qwen. Meta ставит модель на агентов и длинные задачи, а не на первое место каждой доски. Настольная демонстрация поддерживает фразу «это можно запустить дома». Семь API, названных в тот же день, — дверь, которую большинство на этой неделе реально может открыть.

Лицензия лежит на странице модели в Hugging Face. Она разрешает бесплатное использование, дообучение и распространение, но ставит два порога. Первый: продукт, который использует это ПО или производную, должен заметно показать «Built with Muse Spark Open» в интерфейсе, документации, на сайте или в настройках. Второй: если вы или аффилированное лицо отдаёте третьей стороне выходы модели через API или похожий интерфейс, это Model as a Service. Если валовая выручка компании и аффилированных лиц за любые 12 месяцев подряд превышает 20 миллионов долларов, до такого предложения нужно уведомить Meta и подписать отдельное письменное соглашение. Внутреннее использование, исследования и встраивание как функции собственного продукта — а не продажа самой модели как услуги — этот второй порог не проходят. Политика использования говорит, что модель не предназначена для лиц младше 18 лет. Открытые веса с коммерческим порогом, а не Apache под новым именем файла.

Если этот кластер Mac Studio не покупать, документам соответствуют три пути

Заголовок спрашивает, чего хотят две компании. На своём железе 16 октября с документами совпадают только строки ниже.

• Запустить сам Muse Spark Open: две M5 Ultra по 512 ГБ или четыре по 256 ГБ, macOS 26.2, MLX 0.30.1, прямой Thunderbolt 5 на каждой паре. Вариант 512 ГБ всё ещё строка «конец октября» из релиза 25 августа. Четыре машины по 256 ГБ его не ждут.
• Нужно на этой неделе и кластер покупать не хотите: один из семи API, названных в посте о выпуске. Прайс-листа там нет, поэтому эта статья не выдумывает цену.
• Одна Mac Studio на 512 ГБ уже есть: в таблице Apple помещаются Qwen 3.8 и Mistral Medium 3.5. Muse Spark Open не помещается.
• Есть только Mac mini: унифицированная память на порядок меньше чекпоинта NVFP4 в 493 ГБ. Это может быть Mac, который вызывает API, собирает и подписывает. Это не может быть машина, на которой лежат веса. Почему память кончается первой, сказано в связанном тексте в конце.

Открыты две вещи: поступит ли Mac Studio на 512 ГБ в продажу в конце октября, как писал августовский релиз, и как выглядит счёт размещённых API. Apple также не напечатала в том абзаце скорость генерации при 65536 токенах в том же столбце, что и 36,73 токена/с. Пока этого числа нет, результат на 8192 нельзя называть скоростью окна в 1 миллион токенов.

Вопросы

Может ли один Mac mini запустить Muse Spark Open?

Нет. Apple оценивает веса NVFP4 примерно в 493 ГБ, и с промежуточными значениями их не вмещает даже одна Mac Studio на 512 ГБ. Документированный путь на Mac — две Mac Studio M5 Ultra по 512 ГБ или четыре по 256 ГБ.

Считает ли инференс все 816 миллиардов параметров на каждом токене?

Нет. Это смесь экспертов. Карточка пишет: 256 экспертов, 8 активных на токен, около 42 миллиардов активных параметров. 816 миллиардов — это сумма.

При каких условиях верны 36 токенов/с?

Таблица Apple: четыре M5 Ultra, тензорный параллелизм, NVFP4, контекст 8192, mlx_lm.benchmark, batch 1, 128 сгенерированных токенов. Это не окно в 1 миллион и не замер для этой статьи.

Можно ли использовать веса коммерчески?

Muse Model License разрешает многие бесплатные применения, и продукт должен сказать Built with Muse Spark Open. Продажа модели как API третьим лицам, если компания с аффилированными лицами превышает 20 миллионов долларов выручки за 12 месяцев, требует уведомления Meta и отдельного соглашения. Внутреннее использование и встраивание как функции своего продукта под эту оговорку не попадают.

Множитель 4,6 — это Muse Spark Open против прошлого Mac Studio?

Нет. 4,6 раза — это время до первого токена у Qwen 3.8 и Mistral Medium 3.5 на одной машине, M5 Ultra против M3 Ultra. У Muse Spark Open нет строки для одной машины и нет строки M3.