# Apple MLX таратылған қорытынды: модель сыйымдылығы, жылдамдығы және сенім шекаралары

Published: 2026-10-18

Apple-дің 15 қазандағы зерттеуі төрт Mac Studio-да Muse Spark Open жұмыс істеп тұрғанын көрсетеді және құбырлар мен тензорлық параллелизмнің генерация жылдамдығына әртүрлі әсер ететінін түсіндіреді. 17 қазанда шығарылған, 18 қазанда жарияланған бұл басылым Mercor-тың бенчмарк-қамту картасын және 18 қазан GMT+7 OpenCode Console қауіпсіздік жаңартуын зерттейді. Сатушы өлшемдері, таңдалған индексті қамту және тексерілмеген пайдаланушы шығындары туралы есептер өздерінің ескертулерін сақтайды.

Canonical: https://thedailydiff.dev/kk/video/2026-10-17-apple-mac-cluster/

## Бұл бейне не туралы

- Модель салмақтары мен қорытынды жұмыс кеңістігі жадты тұтынады; модельдің салмақ ізі ғана қажетті сыйымдылықты төмендетуі мүмкін.
- Құбырлық параллелизм бірізді қабаттарды таратады, ал тензорлық параллелизм әр қабаттың ішіндегі жұмысты бөледі және жиі төмен кідірісті байланысты қажет етеді.
- Apple төрт M5 Ultra Mac Studio-да 8,192-токендік контекстпен секундына 36 токеннен астам жылдамдықты хабарлайды; кабельді салыстыру 65,536-токендік контекстегі бірінші токенді күтуге қатысты.
- Mercor-тың 90% жұмыс уақыты туралы қорытындысы таңдалған бенчмарк индексінде қамтудың аз немесе жоқ екенін сипаттайды. Ол 90% модель істен шығу жылдамдығын орнатпайды.
- OpenCode-тің өңделген хабарламасы сыртқы провайдерлермен байланыстырылған Console пайдаланушыларының ішкі жиынын сипаттайды. Қоғамдық хабарлама әрбір жергілікті орнатудың бұзылуын анықтамайды.
- Жергілікті модельді орнатуды толық құпиялылық немесе шығын шешімі ретінде қарастырмас бұрын, нақты жұмыс жүктемеңізді тексеріп, тіркелгі деректері бар қызметтерді қарап шығыңыз.

## Тараулар

- 0:00 Неліктен екі Mac бірдей жылдамдықта жұмыс істей алады?
- 0:41 Неліктен модельге бір Mac-тан артық қажет?
- 1:30 Thunderbolt Mac компьютерлерінің бірге жұмыс істеуіне қалай көмектеседі?
- 2:19 AI бенчмарктары қандай жұмыстарды қамтиды?
- 3:11 OpenCode кімге түнде әсер еткенін айтады?
- 4:02 Жергілікті қорытынды сіздің бақылауыңызға не береді?
- 4:40 Төрт Mac кластерін сатып алар ма едім?

## Аударылған транскрипция

Бастапқы ағылшын тіліндегі баяндамадан аударылған. Қолжетімді аудио және субтитрлерді YouTube басқарады.

### Неліктен екі Mac бірдей жылдамдықта жұмыс істей алады?

0:00 Сіз екі Mac сіздің AI-ыңызды екі есе жылдамдатады деп күтесіз. Apple-дің өз сынақтары генерация жылдамдығының іс жүзінде өзгеріссіз қалуы мүмкін екенін көрсетеді. Бұл видеода төрт Mac не береді? Бенчмарктар нені жіберіп алады? Бір кодтау құралы аппараттық құралды түндегі бұзушылықпен байланыстырады. Біз оған қайтып келеміз. Сенбі, он жетінші қазан үшін, бұл The Daily Diff. MLX - бұл Apple кремнийінде машиналық оқытуға арналған Apple-дің ашық бастапқы кодты массивтік фреймворкі.

0:22 Оның жаңа сынағы Meta-ның Muse Spark Open-ді төрт Mac Studio-да іске қосады. Ол CPU мен GPU бөлісетін біртұтас жадты пайдаланады. Apple мұны он бесінші қазанда жариялады. Mercor AI бенчмарктары әрең өлшейтін жұмысты картаға түсірді. Біз он жетінші қазанды қамтып жатырмыз басылым, түндегі он сегізінші қазанмен OpenCode Console туралы жаңарту.

### Неліктен модельге бір Mac-тан артық қажет?

0:41 Ыңғайсыз жерінен бастайық. Apple-дің Muse Spark Open сынағы төрт биттік модель үшін шамамен бес жүз гигабайтты қажет етеді. Бір Mac Studio бес жүз он екі гигабайтпен шектеледі, және қорытынды үшін де жұмыс жады қажет. Салмақтар бір шұлықты орамас бұрын чемоданды толтырады. Көбірек машиналар модельдің сиюына мүмкіндік береді. Құбырлық параллелизм модельді қабаттары арқылы кеседі. Mac A бастапқы қабаттарды орындайды, содан кейін аралық нәтижені Mac B-ге кейінгі қабаттар үшін береді.

1:05 кейінгі қабаттар үшін. Бір жасалған токен үшін бұл қадамдар әлі де ретпен орындалады. Apple-дің өлшемдері декодтау жылдамдығы бір машинамен өте ұқсас болып қалатынын көрсетеді. Сіз екінші аспазды жалдадыңыз және оған дәл сол сэндвичті бердіңіз. Hacker News-те бір әзірлеуші Apple-дің кестесі неліктен төрт биттік Meta моделін оның бастапқы дәлдігіндегі Qwen моделімен қатар қолданғанына күмән келтірді. моделін оның бастапқы дәлдігіндегі Qwen моделімен қатар қолданғанына күмән келтірді. Apple-дің кестесі форматтарды көрсетеді, сондықтан сауда жасамас бұрын ескертулерді оқыңыз. Слайд палубасының бенчмарктары жеңімпаз болып қала береді.

1:29 Тензорлық параллелизм әр қабатты кесіп өтеді.

### Thunderbolt Mac компьютерлерінің бірге жұмыс істеуіне қалай көмектеседі?

1:32 Бірнеше Mac бір қабаттың бөліктерінде бірге жұмыс істейді, содан кейін нәтижелерін біріктіреді. Бұл генерацияны жылдамдатуы мүмкін, бірақ машиналар қайта-қайта байланысады. Apple Thunderbolt арқылы төмен кідірісті қашықтан жадқа қол жеткізуді пайдаланады. Кабель үшін батыл мансап қадамы. Негізгі нәтиже - төрт M5 Ultra Mac Studio-дан секундына отыз алты токеннен астам, шамамен сегіз мың токен контекстпен. Mac Studio-дан секундына отыз алты токеннен астам, шамамен сегіз мың токен контекстпен. Apple оны өзі өлшеді.

1:55 Ұзағырақ сұраулар оқиғаны өзгертеді. Бір үлкен контекстік сынақта, әр байланысқа екі кабель бірінші токенді күту уақытын шамамен он секундқа қысқартты. он секундқа қысқартты. Жергілікті модель сізге сұраулар айналасында пайдалы шекара береді, егер сіздің нақты орнатуыңыз оларды жергілікті жерде сақтаса. Apple хостталған API-ларға қарсы әмбебап теңестіру бағасын ұсынған жоқ. Бұл пайдалануға және сізге қажет модельге байланысты. Кездейсоқ сұрақтарға жауап беретін машина өте қымбат жұмыс үстелінің әшекейі болып көп уақыт өткізеді.

2:17 қымбат жұмыс үстелінің әшекейі болып көп уақыт өткізеді. Бұл модельді таңдау сіздің жұмысыңыз үшін сынақты қажет етеді.

### AI бенчмарктары қандай жұмыстарды қамтиды?

2:21 Mercor жиырма тоғыз бенчмаркты Америкалық жұмыс таксономиясына орналастырды. Оның индексі он тоғыз мыңға жуық міндеттің тоғыз жүзге жуығын қамтиды. Карта жұмыс уақытының тоқсан пайызында бенчмарк қамтуы аз немесе жоқ деп бағалайды. Бұл емтихан қағазындағы үлкен бос орын. Mercor картасы қамтуды өлшейді. Бос кәсіпте әрең тексерілген міндеттер бар; модельдің мүмкіндігі ашық сұрақ болып қала береді. Картада адам шолуымен AI моделі пайдаланылды. Mercor-тың жеке бенчмарк сұрауларының ішкі жиынында.

2:49 Шолушылар оның бірінші таңдауларының шамамен төрттен үшінен келісті. Бағалау жүйесіне өз бағалау жүйесі қажет, әрине. Сондықтан егер сіз жұмысыңызға алаңдасаңыз, көшбасшылық кесте дауды шеше алмайды. Егер сіз кодтау көмекшісін сатып алсаңыз, нақты тапсырманы өзіңіздің қабылдау тексерулеріңізбен қайталаңыз. Пайдалы жұмыс демонстрациядан кейінгі ыңғайсыз сәттерді қамтиды. Чатбот қате электрондық кестені сенімді түрде аяқтады деп ешкім де жоғарылатылмайды. Бұл бізді түндегі жаңартуға әкеледі.

### OpenCode кімге түнде әсер еткенін айтады?

3:13 OpenCode қауіпсіздік бұзушылығы Console пайдаланушыларының бір бүтін төрт пайызына әсер етті дейді. Оның өңделген хабарламасы мұны сыртқы провайдерлермен байланыстырылған ішкі жиынға дейін тарылтады, және зардап шеккен пайдаланушыларға электрондық пошта жіберілгенін айтады. Ол мұны ауқымды дистилляциялық шабуыл деп атайды және оқиғаның жалғасып жатқанын айтады. Қоғамдық түпкі себеп әлі анықталған жоқ. Жауаптар арасында жоғалған провайдер несиесі туралы хабарлаған адамдар бар, бұл олардың оқиғалар туралы есебі. Хабарлама әр адамның шығынын немесе өтемақысын белгілемейді.

3:38 Apple OpenCode-ті жергілікті қорытындыға қалай қосу керектігін көрсеткен болатын, енді оның атауы қауіпсіздік ескертуінің қасында. Өнім атауы бірнеше түрлі сенім шекараларын қамтиды. Console пайдаланушылары ресми хабарламаны оқып, провайдерді пайдалануды тексеруі керек. Егер сізге әсер етсе, қалпына келтіру нұсқауларын орындаңыз және қосылған тіркелгі деректерін қарап шығыңыз. Бұл хабарлама бізге нақты хостталған Console ауқымын береді. Ол әрбір жергілікті орнатудағы бұзушылық туралы ешқандай дәлел келтірмейді.

### Жергілікті қорытынды сіздің бақылауыңызға не береді?

4:02 Міне, байланыс. Apple мақаласы OpenCode-ті өзінің жергілікті модель сервері үшін клиент ретінде атайды. Дәл сол кодтау интерфейсі әртүрлі инфрақұрылымның алдында тұруы мүмкін. Бұл төрт Mac нені сатып алады деген сұраққа жауап береді. Сыйымдылық және сіз басқара алатын қорытынды шекарасы. Бұл шекара айналасындағы қызметтер әлі де өз шолуына лайық. Менің сатып алу ережем қарапайым. Модельдің сай келетінін дәлелдеңіз, бүкіл тапсырманы өлшеңіз және тіркелгі деректерін ұстайтын әрбір қызметті тексеріңіз.

4:23 Apple-дің нәтижесі үлкен жергілікті қорытындыны практикалық етеді, ал құбырлық сынақ аппараттық құралды қосу неліктен көңіл қалдыратынын түсіндіреді. Сіздің қабылдау сынағыңыз сатып алу тапсырысының қасында болуы керек. Егер сіз мұны менің айтқанымнан гөрі оқығыңыз келсе, диф сіздің пошта жәшігіңізге әр таңда келеді, daily diff dot dev сайтында тегін, төмендегі сілтеме.

### Төрт Mac кластерін сатып алар ма едім?

4:40 Сонымен, бүгінгі үкім NEEDS REVIEW. Мен кластерді сатып алмас бұрын нақты жұмыс жүктемемді өлшер едім. Жазылыңыз, қоңырауды басыңыз және егер сіз оны басқаша белгілесеңіз, маған пікірлерде айтыңыз. басқаша белгілесеңіз. Бүгінгі диф осымен бітті. Мен Axrisi-ден Никомын. Жауапкершілікпен біріктіріңіз.

## Дереккөздер

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X