# Inferência distribuída MLX da Apple: capacidade do modelo, velocidade e limites de confiança

Published: 2026-10-18

A pesquisa da Apple de 15 de outubro mostra o Muse Spark Open a correr em quatro Mac Studios e explica porque é que o paralelismo de pipeline e de tensor têm diferentes efeitos na velocidade de geração. Esta edição de 17 de outubro, publicada a 18 de outubro, também examina o mapa de cobertura de benchmarks da Mercor e uma atualização de segurança da OpenCode Console de 18 de outubro GMT+7 explicitamente rotulada. As medições do fornecedor, a cobertura do índice selecionado e os relatórios de perda de utilizadores não verificados mantêm as suas ressalvas separadas.

Canonical: https://thedailydiff.dev/pt-PT/video/2026-10-17-apple-mac-cluster/

## O que este vídeo aborda

- Os pesos do modelo e o espaço de trabalho de inferência consomem ambos memória; apenas a pegada de peso de um modelo pode subestimar a capacidade necessária.
- O paralelismo de pipeline distribui camadas sucessivas, enquanto o paralelismo de tensor divide o trabalho dentro de cada camada e necessita de comunicação frequente de baixa latência.
- A Apple reporta mais de 36 tokens por segundo em quatro Mac Studios M5 Ultra com um contexto de 8.192 tokens; a comparação do cabo diz respeito à espera do primeiro token num contexto de 65.536 tokens.
- A descoberta da Mercor de 90% das horas de trabalho descreve pouca ou nenhuma cobertura no seu índice de benchmark selecionado. Não estabelece uma taxa de falha de modelo de 90%.
- O aviso editado da OpenCode descreve um subconjunto de utilizadores da Console com fornecedores externos ligados. O aviso público não estabelece o compromisso de todas as instalações locais.
- Teste a sua carga de trabalho real e reveja os serviços com credenciais antes de tratar uma configuração de modelo local como uma solução completa de privacidade ou custo.

## Capítulos

- 0:00 Por que é que dois Macs podem manter a mesma velocidade?
- 0:41 Por que é que o modelo precisa de mais do que um Mac?
- 1:30 Como é que o Thunderbolt ajuda os Macs a trabalharem juntos?
- 2:19 Que trabalho é que os benchmarks de IA realmente cobrem?
- 3:11 Quem é que a OpenCode diz que foi afetado durante a noite?
- 4:02 O que é que a inferência local coloca sob o seu controlo?
- 4:40 Compraria o cluster de quatro Macs?

## Transcrição traduzida

Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube.

### Por que é que dois Macs podem manter a mesma velocidade?

0:00 Seria de esperar que dois Macs tornassem a sua IA duas vezes mais rápida. Os próprios testes da Apple mostram que a velocidade de geração pode permanecer quase inalterada. Neste vídeo, o que é que quatro Macs compram? O que é que os benchmarks não mostram? Uma ferramenta de codificação liga o hardware a uma violação durante a noite. Voltaremos a isso. Para sábado, dezassete de outubro, este é o The Daily Diff. MLX é a framework de array de código aberto da Apple para aprendizagem de máquina em silício Apple.

0:22 Os seus novos testes correm o Muse Spark Open da Meta em quatro Mac Studios. Utiliza memória unificada, que a CPU e a GPU partilham. A Apple publicou isto a quinze de outubro. A Mercor mapeou o trabalho que os benchmarks de IA mal medem. Estamos a cobrir a edição de dezassete de outubro, com uma atualização noturna de dezoito de outubro sobre a OpenCode Console.

### Por que é que o modelo precisa de mais do que um Mac?

0:41 Comecemos pela parte inconveniente. O teste Muse Spark Open da Apple utiliza cerca de quinhentos gigabytes apenas para o modelo de quatro bits. Um único Mac Studio atinge o máximo de quinhentos e doze gigabytes, e a inferência também precisa de memória de trabalho. Os pesos quase enchem a mala antes de ter empacotado uma única meia. Mais máquinas fazem o modelo caber. O paralelismo de pipeline corta o modelo através das suas camadas. O Mac A faz as camadas anteriores, depois passa o resultado intermédio ao Mac B para

1:05 as camadas posteriores. Para um token gerado, esses passos ainda acontecem em sequência. As medições da Apple mostram que a velocidade de descodificação permanece muito semelhante à de uma única máquina. Contratou um segundo cozinheiro e deu-lhe a mesma sanduíche. No Hacker News, um desenvolvedor questionou por que a tabela da Apple usava um modelo Meta de quatro bits ao lado de um modelo Qwen na sua precisão nativa. modelo de quatro bits ao lado de um modelo Qwen na sua precisão nativa. A tabela da Apple indica os formatos, por isso leia as notas de rodapé antes de comprar. Os benchmarks de apresentações de slides permanecem invictos.

1:29 O paralelismo de tensor corta cada camada em vez disso.

### Como é que o Thunderbolt ajuda os Macs a trabalharem juntos?

1:32 Vários Macs trabalham em pedaços da mesma camada juntos, depois combinam os seus resultados. Isso pode acelerar a geração, mas as máquinas comunicam repetidamente. A Apple usa acesso remoto de memória de baixa latência via Thunderbolt. Uma ousada jogada de carreira para um cabo. O resultado principal é de mais de trinta e seis tokens por segundo de quatro Mac Studios M5 Ultra, com cerca de oito mil tokens de contexto. A Apple mediu-o ela própria.

1:55 Prompts mais longos mudam a história. Num teste de grande contexto, dois cabos por ligação reduziram a espera pelo primeiro token em cerca de dez segundos. Um modelo local dá-lhe um limite útil em torno dos prompts, desde que a sua configuração real os mantenha locais. A Apple não forneceu um preço de equilíbrio universal contra APIs alojadas. Isso depende da utilização e do modelo que necessita. Uma máquina que responde a perguntas ocasionais gasta muito tempo a ser um ornamento de secretária

2:17 muito caro. A escolha desse modelo exige um teste para o seu trabalho.

### Que trabalho é que os benchmarks de IA realmente cobrem?

2:21 A Mercor mapeou vinte e nove benchmarks para a taxonomia de empregos americana. O seu índice cobre aproximadamente novecentas tarefas de quase dezanove mil. O mapa estima que noventa por cento das horas de trabalho têm pouca ou nenhuma cobertura de benchmark. Isso é um espaço em branco gigante no exame. O mapa da Mercor mede a cobertura. Uma ocupação em branco tem tarefas pouco testadas; a capacidade do modelo continua a ser uma questão aberta. O mapeamento utilizou um modelo de IA, com revisão humana num subconjunto dos próprios prompts de benchmark da Mercor.

2:49 Os revisores aceitaram aproximadamente três quartos das suas primeiras escolhas. O sistema de avaliação precisa do seu próprio sistema de avaliação, naturalmente. Portanto, se está preocupado com o seu trabalho, uma tabela de classificação não pode resolver a discussão. Se está a comprar um assistente de codificação, volte a reproduzir uma tarefa real com as suas próprias verificações de aceitação. O trabalho útil inclui os detalhes complicados após a demonstração. Ninguém é promovido porque o chatbot terminou com confiança a folha de cálculo errada. o chatbot terminou com confiança a folha de cálculo errada. O que nos leva à atualização noturna.

### Quem é que a OpenCode diz que foi afetado durante a noite?

3:13 A OpenCode diz que uma violação de segurança afetou 1,4% dos utilizadores da Console. O seu aviso editado restringe isso a um subconjunto com fornecedores externos ligados, e diz que os utilizadores afetados foram contactados por e-mail. Chama a isto um ataque de destilação em larga escala e diz que o incidente está em curso. Uma causa raiz pública ainda não chegou. As respostas incluem pessoas que relatam créditos de fornecedor desaparecidos, que é o seu relato dos acontecimentos. O aviso não estabelece as perdas ou compensações de cada pessoa.

3:38 A Apple tinha acabado de mostrar como ligar o OpenCode à inferência local, e agora o seu nome está ao lado de um aviso de segurança. O nome do produto abrange vários limites de confiança diferentes. Os utilizadores da Console devem ler o aviso oficial e verificar a utilização do fornecedor. Se for afetado, siga as instruções de remediação e reveja as credenciais ligadas. Este aviso dá-nos um âmbito específico da Console alojada. Não fornece aqui qualquer evidência de um compromisso em todas as instalações locais.

### O que é que a inferência local coloca sob o seu controlo?

4:02 Aqui está a ligação. O artigo da Apple nomeia o OpenCode como um cliente para o seu servidor de modelo local. A mesma interface de codificação pode estar à frente de infraestruturas muito diferentes. Isso responde ao que quatro Macs compram. Capacidade e um limite de inferência que pode administrar. Os serviços em torno desse limite ainda merecem a sua própria revisão. A minha regra de compra é simples. Prove que o modelo se encaixa, meça a tarefa completa e verifique todos os serviços que detêm uma

4:23 credencial. O resultado da Apple torna a inferência local em grande escala mais prática, enquanto o teste de pipeline explica por que a adição de hardware pode desapontar. O seu teste de aceitação pertence ao lado do pedido de compra. Se preferir ler isto a ouvir-me dizê-lo, a diferença chega à sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev, link abaixo.

### Compraria o cluster de quatro Macs?

4:40 Portanto, o veredicto de hoje é NECESSITA DE REVISÃO. Eu mediria a minha carga de trabalho real antes de comprar o cluster. Subscreva, toque no sino e diga-me nos comentários se o teria carimbado de forma diferente. E essa é a diferença de hoje. Eu sou o Niko da Axrisi. Fazer merge de forma responsável.

## Fontes

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X