# Inferencias distribuidas de Apple MLX: capacidad del modelo, velocidad y límites de confianza

Published: 2026-10-18

La investigación de Apple del 15 de octubre muestra a Muse Spark Open ejecutándose en cuatro Mac Studios y explica por qué el paralelismo de canalización y de tensores tienen diferentes efectos en la velocidad de generación. Esta edición del 17 de octubre, publicada el 18 de octubre, también examina el mapa de cobertura de benchmarks de Mercor y una actualización de seguridad de OpenCode Console del 18 de octubre GMT+7, explícitamente etiquetada. Las mediciones del proveedor, la cobertura de índices seleccionados y los informes no verificados de pérdidas de usuarios conservan sus advertencias separadas.

Canonical: https://thedailydiff.dev/es-US/video/2026-10-17-apple-mac-cluster/

## Lo que cubre este video

- Tanto los pesos del modelo como el espacio de trabajo de inferencia consumen memoria; la huella de peso de un modelo por sí sola puede subestimar la capacidad requerida.
- El paralelismo de canalización distribuye capas sucesivas, mientras que el paralelismo de tensores divide el trabajo dentro de cada capa y necesita una comunicación frecuente de baja latencia.
- Apple reporta más de 36 tokens por segundo en cuatro Mac Studios M5 Ultra con un contexto de 8,192 tokens; la comparación de cables se refiere a la espera del primer token en un contexto de 65,536 tokens.
- El hallazgo del 90% de horas de trabajo de Mercor describe poca o ninguna cobertura en su índice de benchmarks seleccionado. No establece una tasa de falla del modelo del 90%.
- El aviso editado de OpenCode describe un subconjunto de usuarios de Console con proveedores externos vinculados. El aviso público no establece el compromiso de cada instalación local.
- Pruebe su carga de trabajo real y revise los servicios que contienen credenciales antes de tratar una configuración de modelo local como una solución completa de privacidad o costos.

## Capítulos

- 0:00 ¿Por qué dos Macs pueden mantener la misma velocidad?
- 0:41 ¿Por qué el modelo necesita más de una Mac?
- 1:30 ¿Cómo ayuda Thunderbolt a que las Macs trabajen juntas?
- 2:19 ¿Qué trabajo cubren realmente los benchmarks de IA?
- 3:11 ¿Quién dice OpenCode que fue afectado durante la noche?
- 4:02 ¿Qué pone bajo su control la inferencia local?
- 4:40 ¿Compraría el clúster de cuatro Macs?

## Transcripción traducida

Traducido de la narración original en inglés. El audio y los subtítulos disponibles son controlados por YouTube.

### ¿Por qué dos Macs pueden mantener la misma velocidad?

0:00 Uno esperaría que dos Macs hicieran su IA el doble de rápido. Las propias pruebas de Apple muestran que la velocidad de generación puede permanecer casi sin cambios. En este video, ¿qué se consigue con cuatro Macs? ¿Qué se les escapa a los benchmarks? Una herramienta de codificación conecta el hardware con una brecha nocturna. Volveremos a eso. Para el sábado diecisiete de octubre, este es The Daily Diff. MLX es el framework de matrices de código abierto de Apple para aprendizaje automático en silicio de Apple.

0:22 Su nueva prueba ejecuta Muse Spark Open de Meta en cuatro Mac Studios. Utiliza memoria unificada, que la CPU y la GPU comparten. Apple publicó esto el quince de octubre. Mercor mapeó el trabajo que los benchmarks de IA apenas miden. Estamos cubriendo la edición del diecisiete de octubre, con una actualización nocturna del dieciocho de octubre sobre OpenCode Console.

### ¿Por qué el modelo necesita más de una Mac?

0:41 Empecemos por lo inconveniente. La prueba Muse Spark Open de Apple utiliza unos quinientos gigabytes solo para el modelo de cuatro bits. Un solo Mac Studio alcanza un máximo de quinientos doce gigabytes, y la inferencia también necesita memoria de trabajo. Los pesos casi llenan la maleta antes de que hayas empacado un solo calcetín. Más máquinas hacen que el modelo encaje. El paralelismo de canalización divide el modelo a través de sus capas. La Mac A hace las capas anteriores, luego pasa el resultado intermedio a la Mac B para

1:05 las capas posteriores. Para un token generado, esos pasos aún ocurren en secuencia. Las mediciones de Apple muestran que la velocidad de decodificación es muy similar a la de una sola máquina. Has contratado a un segundo cocinero y le has dado el mismo sándwich. En Hacker News, un desarrollador cuestionó por qué la tabla de Apple usaba un modelo Meta de cuatro bits junto a un modelo Qwen en su precisión nativa. La tabla de Apple indica los formatos, así que lea las notas al pie antes de comprar. Los benchmarks de las presentaciones de diapositivas siguen invictos.

1:29 El paralelismo de tensores divide cada capa en su lugar.

### ¿Cómo ayuda Thunderbolt a que las Macs trabajen juntas?

1:32 Múltiples Macs trabajan en piezas de la misma capa juntas, luego combinan sus resultados. Esto puede acelerar la generación, pero las máquinas se comunican repetidamente. Apple utiliza acceso remoto a la memoria de baja latencia a través de Thunderbolt. Un movimiento de carrera audaz para un cable. El resultado principal es más de treinta y seis tokens por segundo de cuatro Mac Studios M5 Ultra, con unos ocho mil tokens de contexto. Apple lo midió ella misma.

1:55 Las indicaciones más largas cambian la historia. En una prueba de contexto grande, dos cables por enlace redujeron la espera del primer token en unos diez segundos. Un modelo local le da un límite útil alrededor de las indicaciones, siempre que su configuración real las mantenga locales. Apple no ha proporcionado un precio de equilibrio universal frente a las API alojadas. Eso depende de la utilización y del modelo que necesite. Una máquina que responde preguntas ocasionales pasa mucho tiempo siendo un adorno de escritorio muy

2:17 caro. Elegir ese modelo requiere una prueba para su trabajo.

### ¿Qué trabajo cubren realmente los benchmarks de IA?

2:21 Mercor mapeó veintinueve benchmarks en la taxonomía de empleos estadounidense. Su índice cubre aproximadamente novecientas tareas de casi diecinueve mil. El mapa estima que el noventa por ciento de las horas de trabajo tienen poca o ninguna cobertura de benchmarks. Eso es un espacio en blanco gigante en el examen. El mapa de Mercor mide la cobertura. Una ocupación en blanco tiene tareas apenas probadas; la capacidad del modelo sigue siendo una pregunta abierta. El mapeo utilizó un modelo de IA, con revisión humana en un subconjunto de las propias indicaciones de benchmark de Mercor.

2:49 Los revisores aceptaron aproximadamente tres cuartas partes de sus primeras elecciones. El sistema de calificación necesita su propio sistema de calificación, naturalmente. Así que, si le preocupa su trabajo, una tabla de clasificación no puede zanjar la discusión. Si está comprando un asistente de codificación, reproduzca una tarea real con sus propias comprobaciones de aceptación. El trabajo útil incluye las partes incómodas después de la demostración. Nadie es ascendido porque el chatbot terminó con confianza la hoja de cálculo equivocada. Lo que nos lleva a la actualización nocturna.

### ¿Quién dice OpenCode que fue afectado durante la noche?

3:13 OpenCode dice que una brecha de seguridad afectó al uno punto cuatro por ciento de los usuarios de Console. Su aviso editado lo restringe a un subconjunto con proveedores externos vinculados, y dice que se envió un correo electrónico a los usuarios afectados. Lo llama un ataque de destilación a gran escala y dice que el incidente está en curso. Aún no se ha llegado a una causa raíz pública. Las respuestas incluyen a personas que reportan crédito de proveedor desaparecido, que es su relato de los hechos. El aviso no establece las pérdidas o compensaciones de cada persona.

3:38 Apple acababa de mostrar cómo conectar OpenCode a la inferencia local, y ahora su nombre aparece junto a una advertencia de seguridad. El nombre del producto cubre varios límites de confianza diferentes. Los usuarios de Console deben leer el aviso oficial y verificar el uso del proveedor. Si se ve afectado, siga las instrucciones de remediación y revise las credenciales conectadas. Este aviso nos da un alcance específico de Console alojada. Aquí no proporciona ninguna evidencia de una vulneración en cada instalación local.

### ¿Qué pone bajo su control la inferencia local?

4:02 Aquí está la conexión. El artículo de Apple nombra a OpenCode como cliente para su servidor de modelo local. La misma interfaz de codificación puede estar frente a una infraestructura muy diferente. Eso responde a lo que se consigue con cuatro Macs. Capacidad y un límite de inferencia que se puede administrar. Los servicios alrededor de ese límite aún merecen su propia revisión. Mi regla de compra es simple. Demuestre que el modelo encaja, mida toda la tarea y verifique cada servicio que tenga una

4:23 credencial. El resultado de Apple hace que la inferencia local a gran escala sea más práctica, mientras que la prueba de canalización explica por qué añadir hardware puede decepcionar. Su prueba de aceptación debe ir junto a la orden de compra. Si prefiere leer esto en lugar de oírmelo decir, el "diff" llega a su bandeja de entrada cada mañana, gratis en the daily diff dot dev, enlace abajo.

### ¿Compraría el clúster de cuatro Macs?

4:40 Así que el veredicto de hoy es NECESITA REVISIÓN. Mediría mi carga de trabajo real antes de comprar el clúster. Suscríbase, pulse la campana y dígame en los comentarios si lo habría marcado de forma diferente. Y esa es la diferencia de hoy. Soy Niko de Axrisi. Fusión con responsabilidad.

## Fuentes

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X