8160억 파라미터를 Mac에 집어넣는다? Apple과 Meta는 이번에 무엇을 노리나

8160억은 총 파라미터다. Mac에서 도는 것은 4비트 NVFP4이고, 토큰마다 깨우는 것은 약 420억이다. Mac Studio 한 대에 안 들어가고, Mac mini에는 더 안 들어간다.

10월 15일에 나온 것은 Muse Spark Open이지, 8160억이 들어가는 Mac이 아니다

Meta 연구 글은 Muse Spark Open을 현재 미국에서 가장 유능한 오픈 웨이트 모델이라고 부르며, 코딩과 긴 에이전트 작업용이라고 했다. 같은 날 개발자 글은 희소 혼합 전문가로 적는다. 총 파라미터 8160억, 토큰당 약 420억이 활성, 텍스트·이미지·영상·오디오를 읽고, 컨텍스트는 100만 토큰. 가중치는 당일 Hugging Face에 올라갔고 Amazon SageMaker, Google Cloud Model Garden, Microsoft Foundry에도 들어갔다. API는 첫날부터 Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter, Together AI. 개발자 글: Build with Muse Spark Open.

모델 카드는 형태를 고정한다. MoE Transformer와 지각 인코더, 어휘 202,048, 100개 이상 언어의 데이터. 전문가 256개 중 토큰마다 8개를 쓴다. 420억 나누기 8160억은 8 나누기 256이 아니다. 어텐션 층은 공유되기 때문이다. 기본 정밀도는 BF16. Apple이 Mac에서 잰 것은 NVFP4. 권장 샘플링은 temperature 1.0, top_p 1.0, top_k 끔. 코딩과 에이전트는 high 또는 xhigh이고 기본값은 xhigh다. 카드의 문장이지, 여기서 돌려 본 결과가 아니다.

그래서 10월 15일은 두 가지가 동시에 일어났다. 가중치 공개, 그리고 NVFP4 체크포인트를 여러 Mac Studio에 나누는 경로. Meta는 그 데스크톱에서 Muse Code가 오픈소스 Mastodon 클라이언트 Ice Cubes에 iOS 변경을 넣었고, DaVinci Resolve에서는 프레임 단위로 영상을 봤다고 적었다. Meta 자신의 설명이다. 이 글은 재현하지 않았다.

8160억이 Mac에 들어가려면 512GB 두 대, 또는 256GB 네 대

Apple이 세는 것은 메모리다. BF16 그대로면 파라미터만 1.6TB를 넘는다. NVFP4로 줄이면 가중치는 약 493GB. 추론 중간 결과를 더하면 512GB 통합 메모리가 있어도 Mac Studio 한 대에 안 들어간다. MLX는 나눈다. 파이프라인 병렬은 층 깊이로 두 대에 자르고, 텐서 병렬은 각 층의 너비를 자른다. 통신은 macOS 26.2의 Thunderbolt 5 RDMA이고, MLX 0.30.1부터 이 집합 통신을 jaccl이라고 부른다.

Meta 하드웨어 페이지와 Mac 조리서는 같은 기계를 가리킨다. M5 Ultra 512GB 두 대, 또는 256GB 네 대. 조리서는 약 4시간, 각 Mac 디스크에 NVFP4 체크포인트 전체, 기기 사이는 비밀번호 없는 SSH를 적는다. 모든 쌍에 Thunderbolt 5 직결이 필요하고, 대역을 두 배로 하려고 쌍마다 케이블 두 줄을 권한다. 네 대면 각 대가 나머지 세 대와 연결된다. 이 규칙으로 세면 두 대는 2줄, 네 대는 6쌍×2로 12줄이다. 12는 문서 규칙으로 센 수고, 문서가 ‘12’를 인쇄한 것은 아니다. 조리서: Muse Spark Open on Mac.

493GB와 700GB는 서로 부정하지 않는다. Apple의 493GB는 NVFP4 가중치 크기다. Hugging Face의 700GB와 2TB는 런타임을 포함해 GPU 시스템에 두라는 메모리다. Mac 경로가 약속하는 것은 NVFP4뿐이다. BF16은 카드에서 GPU를 가리키며 Mac이 아니다.

36토큰/초는 네 대, 컨텍스트 8192, 그리고 Apple 자신의 표

Apple은 mlx_lm.benchmark로 세 가지 배치를 쟀다. 컨텍스트 8192, batch 1, 생성 128토큰. Muse Spark Open에는 한 대 숫자가 없다. 들어가지 않기 때문이다. 아래 표는 페이지가 기본으로 보여주는 8192 열만 옮겼다. 숫자는 Apple의 것이고 이 글의 측정이 아니다.

‘36토큰/초 초과’는 마지막 줄이고, 그림 설명은 컨텍스트 8192다. 65536에서는 Apple 본문이 다른 사실을 적는다. M5 Ultra 네 대에서 쌍마다 케이블 두 줄이면 첫 토큰이 약 50.5초에서 40.6초로 준다. 긴 컨텍스트에서도 텐서 병렬이 생성 가속을 유지한다고 했지만, 그 문단에 36.73과 나란한 65536 생성 속도는 없다. 100만 토큰은 이 표에 없다.

잘못 붙기 쉬운 배수가 있다. 한 대에서 Qwen 3.8(270억, 밀집, BF16)과 Mistral Medium 3.5(1280억, 밀집, FP8)의 첫 토큰은 M3 Ultra 대비 M5 Ultra가 최대 약 4.6배다. 생성은 약 1.6배이고, 메모리 대역이 819GB/s에서 1.2TB/s로 오른 것과 맞다. 컨텍스트 65536에서 이 둘은 512GB 한 대에 약 68GB와 158GB를 쓴다. 피크 전력은 M3 Ultra 약 200W, M5 Ultra 약 300W라고 Apple이 적었다. 이 문장들은 Muse Spark Open의 것이 아니다. M3 행도 없고 한 대 행도 없다.

Apple이 원하는 것은 팔리는 데스크톱 클러스터이지, iPhone 위의 8160억이 아니다

8월 25일 Mac Studio 보도자료는 이미 이렇게 적었다. M5 Ultra는 최대 36코어 CPU, 80코어 GPU, 통합 메모리 512GB, 대역 1.2TB/s. Thunderbolt 5와 RDMA로 여러 대의 메모리를 묶고, 네 대는 한 대 추론의 최대 약 3배. 512GB는 ‘10월 하순’. 나머지 구성은 9월 22일부터 도착한다. 5,499달러(교육 5,099달러)는 입문 M5 Ultra이지 512GB 두 대의 가격이 아니다.

10월 15일 MLX 글은 그 하드웨어에 이름이 있는 모델을 올렸다. Muse Spark Open은 한 대에 안 들어가므로 ‘한 대 산다’로는 이야기가 닫히지 않는다. 클러스터 이야기다. MLX는 Apple의 오픈소스 배열 프레임워크이고, Neural Accelerator가 행렬 곱을 하며, jaccl이 Thunderbolt를 탄다. 글 끝은 포트 8080에서 OpenAI 호환 서버를 열고 OpenCode가 호출하는 예다. Apple이 원하는 것은 프론티어 오픈 웨이트의 데스크톱 시연이 Mac Studio에서 일어나는 것이지, 빌린 GPU 위에서만 일어나는 것이 아니다.

iPhone에서는 일어나지 않았고 Apple Intelligence 기능으로도 적히지 않았다. 4.6배는 더 작은 밀집 모델이 한 대에서 첫 토큰에 걸리는 시간이다. Muse Spark Open의 가속비가 아니다. 제목만 보고 Mac mini를 사면 다른 통합 메모리를 산다. 493GB 가중치와는 자릿수가 다르다.

Meta가 원하는 것은 미국 오픈 웨이트의 이름과, 큰 재판매를 되돌리는 라이선스

‘미국에서 가장 유능한 오픈 웨이트’는 Meta의 문장이다. 모델 카드의 비교표가 모든 줄에서 1등이라는 뜻은 아니다. 아래는 ‘어디서 앞서는가’에 해당하는 줄만 옮겼다. 추론 설정은 Meta가 적은 xhigh다. 점수는 카드의 숫자이며, 재측정이 아니고 10월 16일에 Artificial Analysis를 다시 연 실시간 순위도 아니다.

앞서는 줄은 도구 호출(MCP-Atlas)이다. 종합 지수, 컴퓨터 사용, 터미널, 소프트웨어 공학 줄에서는 카드에 적힌 Kimi, GLM, Qwen이 더 높다. Meta가 모델을 두는 곳은 에이전트와 긴 작업이지, ‘모든 보드 1등’이 아니다. 데스크톱 시연은 ‘집에서도 돌릴 수 있다’를 받친다. 같은 날 적힌 일곱 API가 이번 주 대부분 사람이 실제로 여는 문이다.

라이선스는 Hugging Face 모델 페이지에 있다. 무료 사용, 미세 조정, 재배포를 허용하지만 문이 두 개다. 첫째, 그 소프트웨어나 파생 모델을 쓰는 제품은 화면, 문서, 사이트, 설정 중 하나에 “Built with Muse Spark Open”을 눈에 띄게 표시한다. 둘째, 자신 또는 계열사가 API와 비슷한 인터페이스로 제삼자에게 모델 출력을 주면 Model as a Service다. 연속 12개월 총수입이 2,000만 달러를 넘으면 그 형태로 내기 전에 Meta에 알리고 별도 서면 계약을 한다. 내부 사용, 연구, 그리고 모델 자체를 서비스로 팔지 않고 자기 제품 기능에 넣는 경우는 두 번째 문을 지나지 않는다. 18세 미만은 예상 사용자가 아니다. 상용 문이 있는 오픈 웨이트이지, Apache 파일 이름만 바꾼 것이 아니다.

이 Mac Studio 묶음을 사지 않는다면, 문서와 맞는 길은 세 가지

제목은 두 회사가 무엇을 노리는지 묻는다. 자기 기계로 내리면 10월 16일 문서와 맞는 것은 아래뿐이다.

• Muse Spark Open 자체를 돌리려면: 조리서대로 M5 Ultra 512GB 두 대 또는 256GB 네 대, macOS 26.2, MLX 0.30.1, 모든 쌍을 Thunderbolt 5로 직결. 512GB는 8월 25일 보도자료의 ‘10월 하순’에 그대로 있다. 256GB 네 대는 그 구성을 기다리지 않는다.
• 이번 주에 쓰고 클러스터는 사지 않으려면: 발표 글이 이름을 적은 일곱 API. 가격표는 Meta 발표 글에 없으므로 이 글은 단가를 만들지 않는다.
• 512GB Mac Studio가 이미 한 대 있다면: Apple 표에서 Qwen 3.8과 Mistral Medium 3.5는 들어간다. Muse Spark Open은 들어가지 않는다.
• Mac mini만 있다면: 통합 메모리는 493GB NVFP4 가중치보다 자릿수가 작다. API를 부르고, 컴파일하고, 서명하는 Mac은 될 수 있다. 가중치가 있는 기계는 될 수 없다. 메모리가 먼저 막히는 이유는 글 끝의 관련 글에 있다.

아직 닫히지 않은 것은 두 가지다. 512GB Mac Studio가 보도자료대로 10월 하순에 판매되는지, 그리고 호스팅 API 청구서가 어떤 모양인지. Apple은 그 문단에 36.73토큰/초와 같은 열의 65536 컨텍스트 생성 속도를 아직 적지 않았다. 그 숫자가 나오기 전에는 8192 결과를 100만 토큰의 속도라고 말하지 않는다.

질문

Mac mini 한 대로 Muse Spark Open을 돌릴 수 있나?

없다. Apple은 NVFP4 가중치를 약 493GB로 적고, 중간 결과를 더하면 512GB Mac Studio 한 대에도 들어가지 않는다. 공식 Mac 경로는 M5 Ultra Mac Studio 512GB 두 대 또는 256GB 네 대다.

8160억 파라미터를 매 토큰마다 전부 계산하나?

아니다. MoE다. 카드는 전문가 256개, 토큰당 8개 활성, 활성 파라미터 약 420억이라고 적는다. 8160억은 총량이다.

36토큰/초의 조건은?

Apple 표: M5 Ultra 네 대, 텐서 병렬, NVFP4, 컨텍스트 8192, mlx_lm.benchmark, batch 1, 생성 128토큰. 100만 토큰이 아니고 이 글의 측정도 아니다.

가중치를 상업적으로 쓸 수 있나?

Muse Model License는 많은 무료 용도를 허용하고, 제품에는 Built with Muse Spark Open을 표시한다. 모델을 API로 제삼자에게 팔고 회사와 계열사의 연속 12개월 총수입이 2,000만 달러를 넘으면 Meta 통지와 별도 계약이 필요하다. 내부 사용과 자기 제품 기능에 넣는 것은 이 조항을 타지 않는다.

4.6배는 Muse Spark Open의 이전 세대 대비인가?

아니다. 4.6배는 한 대의 Qwen 3.8과 Mistral Medium 3.5 첫 토큰이고, M5 Ultra 대 M3 Ultra다. Muse Spark Open에는 한 대 행도 M3 행도 없다.