# Распределенный вывод Apple MLX: емкость модели, скорость и границы доверия

Published: 2026-10-18

Исследование Apple от 15 октября показывает, что Muse Spark Open работает на четырех Mac Studio и объясняет, почему параллелизм конвейера и тензоров по-разному влияют на скорость генерации. Это издание от 17 октября, опубликованное 18 октября, также рассматривает карту покрытия бенчмарков Mercor и явно помеченное обновление безопасности OpenCode Console от 18 октября по Гринвичу+7. Измерения поставщиков, покрытие выбранными индексами и неподтвержденные сообщения пользователей о потерях сохраняют свои отдельные оговорки.

Canonical: https://thedailydiff.dev/ru/video/2026-10-17-apple-mac-cluster/

## Что освещается в этом видео

- Веса модели и рабочее пространство для вывода данных потребляют память; только объем весов модели может недооценивать требуемую емкость.
- Конвейерный параллелизм распределяет последовательные слои, тогда как тензорный параллелизм делит работу внутри каждого слоя и требует частой связи с низкой задержкой.
- Apple сообщает о более чем 36 токенах в секунду на четырех Mac Studio M5 Ultra с контекстом в 8192 токена; сравнение кабелей касается ожидания первого токена в контексте 65536 токенов.
- Вывод Mercor о 90% рабочего времени описывает небольшое или полное отсутствие покрытия в выбранном им индексе бенчмарков. Он не устанавливает 90% отказов модели.
- Отредактированное уведомление OpenCode описывает подмножество пользователей Console со связанными внешними провайдерами. Публичное уведомление не подтверждает компрометацию каждой локальной установки.
- Протестируйте свою фактическую рабочую нагрузку и проверьте службы, хранящие учетные данные, прежде чем рассматривать локальную настройку модели как полное решение для обеспечения конфиденциальности или снижения затрат.

## Главы

- 0:00 Почему два Mac могут работать с одинаковой скоростью?
- 0:41 Почему модели требуется более одного Mac?
- 1:30 Как Thunderbolt помогает Macам работать вместе?
- 2:19 Какую работу на самом деле охватывают бенчмарки ИИ?
- 3:11 Кого, по словам OpenCode, затронула ночная атака?
- 4:02 Что локальный вывод дает вам под контроль?
- 4:40 Купил бы я кластер из четырех Mac?

## Переведенная стенограмма

Переведено с оригинального английского повествования. Доступные аудио и субтитры контролируются YouTube.

### Почему два Mac могут работать с одинаковой скоростью?

0:00 Вы ожидаете, что два Mac сделают ваш ИИ в два раза быстрее. Собственные тесты Apple показывают, что скорость генерации может оставаться почти неизменной. В этом видео, что дают четыре Mac? Что упускают бенчмарки? Один инструмент для кодирования связывает аппаратное обеспечение с ночным взломом. Мы вернемся к этому. За субботу, семнадцатое октября, это The Daily Diff. MLX – это открытый фреймворк массивов Apple для машинного обучения на Apple

0:22 кремнии. Его новый тест запускает Muse Spark Open от Meta на четырех Mac Studio. Он использует унифицированную память, которую делят ЦП и ГП. Apple опубликовала это пятнадцатого октября. Mercor нанес на карту работы, которые ИИ-бенчмарки почти не измеряют. Мы освещаем издание от семнадцатого октября с ночным обновлением от восемнадцатого октября о OpenCode Console.

### Почему модели требуется более одного Mac?

0:41 Начнем с неудобного момента. Тест Muse Spark Open от Apple использует около пятисот гигабайт только для четырех- битной модели. Один Mac Studio имеет максимум пятьсот двенадцать гигабайт, и для вывода данных также нужна рабочая память. Веса почти заполняют чемодан, прежде чем вы упаковали хотя бы один носок. Больше машин позволяют модели уместиться. Конвейерный параллелизм разрезает модель по ее слоям. Mac A выполняет более ранние слои, затем передает промежуточный результат Mac B для

1:05 более поздних слоев. Для одного сгенерированного токена эти шаги все еще происходят последовательно. Измерения Apple показывают, что скорость декодирования остается очень похожей на одну машину. Вы наняли второго повара и дали ему тот же сэндвич. На Hacker News один разработчик задался вопросом, почему в таблице Apple использовалась четырехбитная модель Meta наряду с моделью Qwen с ее нативной точностью. В таблице Apple указаны форматы, поэтому прочитайте сноски перед покупкой. Бенчмарки в слайдах остаются непобедимыми.

1:29 Тензорный параллелизм, напротив, разрезает каждый слой.

### Как Thunderbolt помогает Macам работать вместе?

1:32 Несколько Mac работают над частями одного и того же слоя вместе, затем объединяют свои результаты. Это может ускорить генерацию, но машины обмениваются данными многократно. Apple использует удаленный доступ к памяти с низкой задержкой через Thunderbolt. Смелый карьерный ход для кабеля. Главный результат – более тридцати шести токенов в секунду от четырех Mac Studio M5 Ultra с контекстом около восьми тысяч токенов. Apple измеряла это сама.

1:55 Более длинные подсказки меняют историю. В одном тесте с большим контекстом два кабеля на одно соединение сократили ожидание первого токена примерно на десять секунд. Локальная модель дает вам полезные границы вокруг подсказок, при условии, что ваша фактическая настройка сохраняет их локальными. Apple не предоставила универсальной точки безубыточности по сравнению с размещенными API. Это зависит от использования и модели, которая вам нужна. Машина, отвечающая на случайные вопросы, тратит много времени, будучи очень

2:17 дорогим настольным украшением. Выбор этой модели требует теста для вашей работы.

### Какую работу на самом деле охватывают бенчмарки ИИ?

2:21 Mercor сопоставил двадцать девять бенчмарков с американской таксономией профессий. Его индекс охватывает примерно девятьсот задач из почти девятнадцати тысяч. Карта оценивает, что девяносто процентов рабочих часов имеют небольшое или полное отсутствие покрытия бенчмарками. Это гигантское пустое место в экзаменационной работе. Карта Mercor измеряет покрытие. Пустая профессия имеет едва протестированные задачи; возможности модели остаются открытым вопросом. При сопоставлении использовалась модель ИИ с ручной проверкой подмножества собственных запросов бенчмарков Mercor.

2:49 Рецензенты приняли примерно три четверти его первых выборов. Система оценки нуждается в собственной системе оценки, естественно. Так что, если вы беспокоитесь о своей работе, таблица лидеров не сможет решить спор. Если вы покупаете помощника по кодированию, воспроизведите реальную задачу с собственными проверками приемлемости. Полезная работа включает неудобные моменты после демонстрации. Никого не повышают, потому что чат-бот уверенно заполнил неверную таблицу. Что подводит нас к ночному обновлению.

### Кого, по словам OpenCode, затронула ночная атака?

3:13 OpenCode сообщает, что нарушение безопасности затронуло один целую четыре десятых процента пользователей Console. Его отредактированное уведомление сужает это до подмножества со связанными внешними провайдерами и говорит, что пострадавшим пользователям были отправлены электронные письма. Он называет это крупномасштабной атакой дистилляции и говорит, что инцидент продолжается. Публичная основная причина еще не установлена. Среди ответов есть сообщения людей о пропаже кредита провайдера, что является их версией событий. Уведомление не устанавливает потери или компенсацию каждого человека.

3:38 Apple только что показала, как подключить OpenCode к локальному выводу, и теперь его имя находится рядом с предупреждением о безопасности. Название продукта охватывает несколько различных границ доверия. Пользователи Console должны прочитать официальное уведомление и проверить использование провайдера. Если вы пострадали, следуйте инструкциям по устранению и проверьте подключенные учетные данные. Это уведомление дает нам конкретную область действия размещенной Console. Оно не предоставляет здесь доказательств компрометации каждой локальной установки.

### Что локальный вывод дает вам под контроль?

4:02 Вот связь. В статье Apple OpenCode назван клиентом для ее локального сервера моделей. Один и тот же интерфейс кодирования может стоять перед очень разной инфраструктурой. Это отвечает на вопрос, что дают четыре Mac. Емкость и граница вывода, которой вы можете управлять. Услуги вокруг этой границы все еще заслуживают отдельного рассмотрения. Мое правило покупки простое. Докажите, что модель подходит, измерьте всю задачу и проверьте каждую службу, хранящую

4:23 учетные данные. Результат Apple делает крупномасштабный локальный вывод более практичным, в то время как конвейерный тест объясняет, почему добавление оборудования может разочаровать. Ваш приемочный тест должен быть рядом с заказом на покупку. Если вы предпочитаете читать это, а не слушать, The Daily Diff приходит на вашу почту каждое утро, бесплатно на thedailydiff.dev, ссылка ниже.

### Купил бы я кластер из четырех Mac?

4:40 Итак, сегодняшний вердикт – NEEDS REVIEW. Я бы измерил свою реальную рабочую нагрузку, прежде чем покупать кластер. Подпишитесь, нажмите на колокольчик и скажите мне в комментариях, если бы вы оценили это по-другому. И это The Daily Diff на сегодня. Я Нико из Axrisi. Слияние с ответственностью.

## Источники

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X