# Розподілене виведення Apple MLX: потужність моделі, швидкість та межі довіри

Published: 2026-10-18

Дослідження Apple від 15 жовтня показує роботу Muse Spark Open на чотирьох Mac Studio та пояснює, чому паралелізм конвеєра та тензорний паралелізм по-різному впливають на швидкість генерації. Це видання від 17 жовтня, опубліковане 18 жовтня, також розглядає карту покриття бенчмарків Mercor та явно позначене оновлення безпеки OpenCode Console від 18 жовтня GMT+7. Вимірювання постачальників, покриття вибраного індексу та неперевірені звіти користувачів про втрати зберігають свої окремі застереження.

Canonical: https://thedailydiff.dev/uk/video/2026-10-17-apple-mac-cluster/

## Що охоплює це відео

- Ваги моделі та робочий простір для виведення споживають пам'ять; лише обсяг ваг моделі може недооцінювати необхідну потужність.
- Паралелізм конвеєра розподіляє послідовні шари, тоді як тензорний паралелізм ділить роботу всередині кожного шару та потребує частої комунікації з низькою затримкою.
- Apple повідомляє про понад 36 токенів за секунду на чотирьох Mac Studio M5 Ultra з контекстом 8192 токени; порівняння кабелів стосується очікування першого токена при контексті 65536 токенів.
- Дані Mercor про 90% робочого часу описують незначне або відсутнє покриття у вибраному індексі бенчмарків. Вони не встановлюють 90% відсотка відмов моделі.
- Відредаговане повідомлення OpenCode описує підмножину користувачів Console, які мають пов'язаних зовнішніх постачальників. Публічне повідомлення не встановлює компрометації кожної локальної установки.
- Протестуйте своє фактичне робоче навантаження та перегляньте служби, що містять облікові дані, перш ніж розглядати локальну модель як повне рішення щодо конфіденційності чи вартості.

## Розділи

- 0:00 Чому два Mac можуть залишатися з тією ж швидкістю?
- 0:41 Чому моделі потрібен більше ніж один Mac?
- 1:30 Як Thunderbolt допомагає Mac працювати разом?
- 2:19 Яку роботу насправді охоплюють бенчмарки ШІ?
- 3:11 Кого OpenCode називає постраждалими за ніч?
- 4:02 Що локальне виведення ставить під ваш контроль?
- 4:40 Чи купив би я кластер з чотирьох Mac?

## Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

### Чому два Mac можуть залишатися з тією ж швидкістю?

0:00 Ви очікували б, що два Mac прискорять ваш ШІ вдвічі. Власні тести Apple показують, що швидкість генерації може залишатися майже незмінною. У цьому відео, що дають чотири Mac? Що бенчмарки пропускають? Один інструмент для кодування підключає апаратне забезпечення до нічного злому. Ми повернемося до цього. За суботу, сімнадцяте жовтня, це The Daily Diff. MLX — це відкрита платформа Apple для машинної обробки даних на Apple

0:22 кремнії. Її новий тест запускає Meta's Muse Spark Open на чотирьох Mac Studio. Вона використовує уніфіковану пам'ять, яку спільно використовують CPU та GPU. Apple опублікувала це п'ятнадцятого жовтня. Mercor відобразив роботу, яку бенчмарки ШІ ледь вимірюють. Ми охоплюємо сімнадцяте жовтня видання, з нічним оновленням вісімнадцятого жовтня про OpenCode Console.

### Чому моделі потрібен більше ніж один Mac?

0:41 Почніть з незручного моменту. Тест Apple Muse Spark Open використовує близько п'ятисот гігабайт лише для чотири- бітної моделі. Один Mac Studio має максимум п'ятсот дванадцять гігабайт, а для виведення також потрібна робоча пам'ять. Ваги майже заповнюють валізу, перш ніж ви запакували хоч одну шкарпетку. Більше машин дозволяють моделі вміститися. Паралелізм конвеєра розділяє модель через її шари. Mac A виконує попередні шари, потім передає проміжний результат Mac B для

1:05 пізніших шарів. Для одного згенерованого токена ці кроки все ще відбуваються послідовно. Вимірювання Apple показують, що швидкість декодування залишається дуже схожою на швидкість однієї машини. Ви найняли другого кухаря і дали йому той самий бутерброд. На Hacker News один розробник поставив під сумнів, чому в таблиці Apple використовується чотирибітна модель Meta поруч із моделлю Qwen з її власною точністю. У таблиці Apple зазначені формати, тому перед покупками читайте виноски. Бенчмарки презентацій залишаються непереможними.

1:29 Натомість тензорний паралелізм проходить через кожен шар.

### Як Thunderbolt допомагає Mac працювати разом?

1:32 Кілька Mac працюють над частинами одного шару разом, потім об'єднують свої результати. Це може прискорити генерацію, але машини постійно обмінюються даними. Apple використовує віддалений доступ до пам'яті з низькою затримкою через Thunderbolt. Сміливий кар'єрний хід для кабелю. Головний результат - понад тридцять шість токенів на секунду від чотирьох M5 Ultra Mac Studios, з контекстом близько восьми тисяч токенів. Apple виміряла це самостійно.

1:55 Довші запити змінюють історію. В одному великому контекстному тесті два кабелі на з'єднання скоротили очікування першого токена приблизно на десять секунд. Локальна модель дає вам корисну межу навколо підказок, за умови, що ваше фактичне налаштування зберігає їх локальними. Apple не надала універсальної точки беззбитковості порівняно з розміщеними API. Це залежить від використання та моделі, яка вам потрібна. Машина, що відповідає на випадкові запитання, проводить багато часу, будучи дуже

2:17 дорогим настільним прикрасою. Вибір цієї моделі вимагає тестування для вашої роботи.

### Яку роботу насправді охоплюють бенчмарки ШІ?

2:21 Mercor зіставив двадцять дев'ять бенчмарків з американською таксономією робочих місць. Його індекс охоплює приблизно дев'ятсот завдань з майже дев'ятнадцяти тисяч. Карта оцінює, що дев'яносто відсотків робочого часу мають незначне або відсутнє покриття бенчмарками. Це величезний пробіл на екзаменаційному аркуші. Карта Mercor вимірює покриття. Порожня професія має ледь перевірені завдання; можливості моделі залишаються відкритим питанням. Картографування використовувало модель ШІ з людським переглядом підмножини власних підказок бенчмарків Mercor.

2:49 Рецензенти прийняли приблизно три чверті їхніх перших виборів. Системі оцінювання потрібна власна система оцінювання, звісно. Тож якщо ви турбуєтеся про свою роботу, таблиця лідерів не може вирішити суперечку. Якщо ви купуєте помічника з кодування, відтворіть реальне завдання зі своїми власними перевірками прийняття. Корисна робота включає незручні моменти після демонстрації. Ніхто не отримує підвищення, тому що чат-бот впевнено завершив неправильну таблицю. Що підводить нас до нічного оновлення.

### Кого OpenCode називає постраждалими за ніч?

3:13 OpenCode заявляє, що порушення безпеки торкнулося 1,4 відсотка користувачів Console. Його відредаговане повідомлення звужує це до підмножини з підключеними зовнішніми провайдерами і каже, що постраждалим користувачам було надіслано електронні листи. Це називається великомасштабною атакою дистиляції, і заявляється, що інцидент триває. Публічна першопричина ще не встановлена. Відповіді включають людей, які повідомляють про зникнення кредиту провайдера, що є їхнім описом подій. Повідомлення не встановлює втрати чи компенсацію кожної особи.

3:38 Apple щойно показала, як підключити OpenCode до локального виведення, і тепер його ім'я стоїть поруч із попередженням про безпеку. Назва продукту охоплює кілька різних меж довіри. Користувачі Console повинні прочитати офіційне повідомлення та перевірити використання провайдера. Якщо ви постраждали, дотримуйтесь інструкцій з усунення та перегляньте підключені облікові дані. Це повідомлення дає нам конкретний обсяг розміщеної Console. Воно не надає тут доказів компрометації кожної локальної інсталяції.

### Що локальне виведення ставить під ваш контроль?

4:02 Ось зв'язок. Стаття Apple називає OpenCode клієнтом для свого локального сервера моделей. Один і той же інтерфейс кодування може стояти перед дуже різною інфраструктурою. Це відповідає на питання, що купують чотири Mac. Потужність і межа виведення, яку ви можете адмініструвати. Послуги навколо цієї межі все ще заслуговують на окремий розгляд. Моє правило купівлі просте. Доведіть, що модель підходить, виміряйте все завдання та перевірте кожну службу, що зберігає

4:23 облікові дані. Результат Apple робить велике локальне виведення більш практичним, тоді як тест конвеєра пояснює, чому додавання апаратного забезпечення може розчарувати. Ваш приймальний тест має бути поруч із замовленням на купівлю. Якщо ви віддаєте перевагу читати це, ніж чути, як я це кажу, то The Daily Diff надходить до вашої поштової скриньки щоранку, безкоштовно на daily diff dot dev, посилання нижче.

### Чи купив би я кластер з чотирьох Mac?

4:40 Отже, сьогоднішній вердикт – ПОТРІБЕН ПЕРЕГЛЯД. Я б виміряв своє реальне робоче навантаження, перш ніж купувати кластер. Підпишіться, натисніть дзвіночок і скажіть мені в коментарях, чи ви б оцінили це інакше. І це все на сьогодні. Я Ніко з Axrisi. Об'єднуйте відповідально.

## Джерела

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X