# Apple MLX բաշխված ինֆերենցիա. մոդելի հզորություն, արագություն և վստահության սահմաններ

Published: 2026-10-18

Apple-ի հոկտեմբերի 15-ի հետազոտությունը ցույց է տալիս Muse Spark Open-ը, որն աշխատում է չորս Mac Studios-ի վրա և բացատրում է, թե ինչու պլանավորման և տենզորային զուգահեռությունն այլ կերպ են ազդում սերունդների արագության վրա։ Հոկտեմբերի 17-ի այս հրատարակությունը, որը հրատարակվել է հոկտեմբերի 18-ին, նաև ուսումնասիրում է Mercor-ի բենչմարկ-ծածկույթի քարտեզը և հոկտեմբերի 18-ի GMT+7 OpenCode Console անվտանգության թարմացումը՝ հստակ մակնշված։ Վաճառողի չափումները, ընտրված ինդեքսի ծածկույթը և օգտատերերի չստուգված կորուստների հաշվետվությունները պահպանում են իրենց առանձին նախազգուշացումները։

Canonical: https://thedailydiff.dev/hy/video/2026-10-17-apple-mac-cluster/

## Ինչ է ընդգրկում այս տեսանյութը

- Մոդելի կշիռները և ինֆերենցիայի աշխատանքային տարածքը երկուսն էլ հիշողություն են սպառում. մոդելի միայն կշռի հետքը կարող է թերագնահատել պահանջվող հզորությունը։
- Խողովակաշարային զուգահեռությունը բաշխում է հաջորդական շերտերը, մինչդեռ տենզորային զուգահեռությունը բաժանում է աշխատանքը յուրաքանչյուր շերտի ներսում և պահանջում է հաճախակի ցածր ուշացումով հաղորդակցություն։
- Apple-ը հաղորդում է ավելի քան 36 թոքեն վայրկյանում չորս M5 Ultra Mac Studios-ի վրա՝ 8,192 թոքենի կոնտեքստով. մալուխի համեմատությունը վերաբերում է առաջին թոքենի սպասելուն 65,536 թոքենի կոնտեքստում։
- Mercor-ի 90% աշխատանքային ժամերի հայտնաբերումը նկարագրում է փոքր կամ բացակայող ծածկույթ իր ընտրված բենչմարկի ինդեքսում։ Այն չի հաստատում մոդելի ձախողման 90% մակարդակ։
- OpenCode-ի խմբագրված ծանուցումը նկարագրում է Console-ի օգտատերերի ենթախումբը՝ կապակցված արտաքին մատակարարներով։ Հանրային ծանուցումը չի հաստատում յուրաքանչյուր տեղական տեղադրման փոխզիջումը։
- Փորձարկեք ձեր իրական աշխատանքային բեռը և վերանայեք հավաստագրեր կրող ծառայությունները՝ նախքան տեղական մոդելի կարգավորումը որպես ամբողջական գաղտնիության կամ արժեքի լուծում դիտարկելը։

## Գլուխներ

- 0:00 Ինչու՞ երկու Mac կարող են նույն արագությունը պահպանել:
- 0:41 Ինչու՞ է մոդելին մեկից ավելի Mac պետք:
- 1:30 Ինչպե՞ս է Thunderbolt-ը օգնում Macs-ին համագործակցել:
- 2:19 Ի՞նչ աշխատանք են իրականում ընդգրկում AI բենչմարկերը:
- 3:11 Ո՞ւմ է OpenCode-ը ասում, որ տուժել է մեկ գիշերվա ընթացքում:
- 4:02 Ի՞նչ է տեղական ինֆերենցիան դնում ձեր վերահսկողության տակ:
- 4:40 Կգնեի՞ արդյոք ես չորս Mac-ից բաղկացած կլաստերը:

## Թարգմանված արձանագրություն

Թարգմանվել է բնօրինակ անգլերեն պատմությունից։ Հասանելի աուդիո և ենթագրերը վերահսկվում են YouTube-ի կողմից։

### Ինչու՞ երկու Mac կարող են նույն արագությունը պահպանել:

0:00 Դուք ակնկալում եք, որ երկու Mac-ը ձեր AI-ն կդարձնեն երկու անգամ ավելի արագ: Apple-ի սեփական թեստերը ցույց են տալիս, որ սերունդների արագությունը կարող է գրեթե անփոփոխ մնալ։ Այս տեսանյութում ի՞նչ են տալիս չորս Mac-ը: Ի՞նչ են բաց թողնում բենչմարկերը: Մի կոդավորման գործիք է միացնում սարքավորումները մեկ գիշերվա ընթացքում տեղի ունեցած խախտմանը: Մենք կվերադառնանք դրան: Շաբաթ, հոկտեմբերի տասնյոթ, սա The Daily Diff-ն է: MLX-ը Apple-ի բաց կոդով զանգվածային շրջանակն է Apple-ի մեքենայական ուսուցման համար

0:22 սիլիկոն։ Նրա նոր թեստը Meta-ի Muse Spark Open-ը գործարկում է չորս Mac Studios-ի վրա։ Այն օգտագործում է միասնական հիշողություն, որը կիսում են պրոցեսորը և գրաֆիկական պրոցեսորը։ Apple-ը սա հրապարակել է հոկտեմբերի տասնհինգին: Mercor-ը քարտեզագրել է այն աշխատանքը, որը AI բենչմարկերը հազիվ են չափում: Մենք լուսաբանում ենք հոկտեմբերի տասնյոթի թողարկումը, որի հետ մեկ գիշերվա ընթացքում հոկտեմբերի տասնութի թարմացումը OpenCode Console-ի մասին:

### Ինչու՞ է մոդելին մեկից ավելի Mac պետք:

0:41 Սկսենք անհարմար հատվածից: Apple-ի Muse Spark Open թեստը օգտագործում է մոտ հինգ հարյուր գիգաբայթ միայն չորս բիթ մոդելի համար։ Մեկ Mac Studio-ի առավելագույնը հինգ հարյուր տասներկու գիգաբայթ է, իսկ ինֆերենցիային նաև աշխատանքային հիշողություն է պետք։ Կշիռները գրեթե լրացնում են ճամպրուկը, նախքան դուք մեկ զույգ գուլպա եք փաթեթավորել: Ավելի շատ մեքենաներ մոդելը համապատասխանեցնում են: Խողովակաշարային զուգահեռությունը մոդելը կտրում է իր շերտերով: Mac A-ն կատարում է ավելի վաղ շերտերը, այնուհետև միջանկյալ արդյունքը փոխանցում է Mac B-ին

1:05 ավելի ուշ շերտերի համար: Մեկ ստեղծված թոքենի համար այդ քայլերը դեռ հաջորդաբար են կատարվում։ Apple-ի չափումները ցույց են տալիս, որ դեկոդավորման արագությունը շատ նման է մնում մեկ մեքենային: Դուք երկրորդ խոհարար եք վարձել և նրանց նույն սենդվիչն եք տվել: Hacker News-ում մի մշակող հարցրեց, թե ինչու է Apple-ի աղյուսակը օգտագործում չորս բիթանոց Meta մոդելը Qwen մոդելի կողքին իր հարազատ ճշգրտությամբ: Apple-ի աղյուսակը նշում է ձևաչափերը, այնպես որ կարդացեք ծանոթագրությունները նախքան գնումներ կատարելը: Սլայդ շոուի բենչմարկերը մնում են անպարտ:

1:29 Տենզորային զուգահեռությունը փոխարենը հատում է յուրաքանչյուր շերտը:

### Ինչպե՞ս է Thunderbolt-ը օգնում Macs-ին համագործակցել:

1:32 Մի քանի Mac-եր միասին աշխատում են նույն շերտի կտորների վրա, այնուհետև միավորում են իրենց արդյունքները: Դա կարող է արագացնել սերունդը, բայց մեքենաները բազմիցս շփվում են: Apple-ը օգտագործում է ցածր ուշացումով հեռակա հիշողության հասանելիություն Thunderbolt-ի միջոցով: Համարձակ կարիերային քայլ մալուխի համար: Առաջատար արդյունքը երեսունվեց թոքեն է վայրկյանում չորս M հինգ Ultra Mac Studios-ից, մոտ ութ հազար թոքենի կոնտեքստով: Apple-ը ինքն է չափել այն:

1:55 Ավելի երկար հուշումները փոխում են պատմությունը: Մեկ մեծ կոնտեքստային թեստում, յուրաքանչյուր հղման համար երկու մալուխը կրճատել են առաջին թոքենի սպասումը մոտ տասը վայրկյանով։ Տեղական մոդելը ձեզ օգտակար սահման է տալիս հուշումների շուրջ, պայմանով, որ ձեր իրական կարգավորումը դրանք տեղական է պահում: Apple-ը չի տրամադրել համընդհանուր շահութաբեր գին հյուրընկալվող API-ների դիմաց: Դա կախված է օգտագործումից և ձեզ անհրաժեշտ մոդելից: Երբեմն հարցերին պատասխանող մեքենան շատ ժամանակ է անցկացնում որպես շատ

2:17 թանկարժեք սեղանի զարդ: Այդ մոդելի ընտրությունը պահանջում է թեստ ձեր աշխատանքի համար:

### Ի՞նչ աշխատանք են իրականում ընդգրկում AI բենչմարկերը:

2:21 Mercor-ը քարտեզագրել է քսանինը բենչմարկ ամերիկյան աշխատատեղերի տաքսոնոմիայի վրա: Նրա ինդեքսը ընդգրկում է մոտ ինը հարյուր առաջադրանք՝ գրեթե տասնինը հազարից։ Քարտեզը գնահատում է, որ աշխատանքային ժամերի ինըսուն տոկոսը քիչ կամ բացակայող բենչմարկային ծածկույթ ունի։ Դա հսկայական դատարկ տարածություն է քննական թերթիկի վրա։ Mercor-ի քարտեզը չափում է ծածկույթը: Դատարկ մասնագիտությունը հազիվ է փորձարկված առաջադրանքներ ունենում. մոդելի հնարավորությունը մնում է բաց հարց։ Քարտեզագրումն օգտագործել է AI մոդել՝ մարդկային վերանայմամբ Mercor-ի սեփական բենչմարկի հուշումների ենթախմբի վրա: Mercor-ի սեփական բենչմարկի հուշումների ենթախմբի վրա։

2:49 Վերանայողները ընդունեցին նրա առաջին ընտրությունների մոտ երեք քառորդը։ Գնահատման համակարգին պետք է իր սեփական գնահատման համակարգը, բնականաբար։ Այսպիսով, եթե դուք անհանգստանում եք ձեր աշխատանքի համար, առաջատարների ցուցակը չի կարող լուծել վեճը։ Եթե դուք կոդավորման օգնական եք գնում, վերարտադրեք իրական առաջադրանք ձեր սեփական ընդունման ստուգումներով։ Օգտակար աշխատանքը ներառում է անհարմար հատվածները ցուցադրումից հետո։ Ոչ ոք չի ստանում պաշտոնի բարձրացում, քանի որ չաթբոտը վստահորեն ավարտել է սխալ աղյուսակը։ Ինչը մեզ բերում է գիշերվա թարմացմանը։

### Ո՞ւմ է OpenCode-ը ասում, որ տուժել է մեկ գիշերվա ընթացքում:

3:13 OpenCode-ը հայտնում է, որ անվտանգության խախտումը затронуло Console-ի օգտատերերի մեկ ամբողջ չորս տասներորդական տոկոսին։ Նրա խմբագրված ծանուցումը դա սահմանափակում է արտաքին մատակարարներ ունեցող ենթախմբով կապակցված, և ասում է, որ տուժած օգտատերերին էլեկտրոնային նամակներ են ուղարկվել։ Այն սա անվանում է լայնածավալ թորման հարձակում և ասում է, որ միջադեպը շարունակվում է։ Հանրային հիմնական պատճառը դեռ չի հայտնվել։ Պատասխանները ներառում են մարդկանց, ովքեր հայտնում են անհետացած մատակարարի կրեդիտի մասին, ինչը իրենց իրադարձությունների հաշվետվությունն է։ Ծանուցումը չի հաստատում յուրաքանչյուր անձի կորուստները կամ փոխհատուցումը:

3:38 Apple-ը հենց նոր ցույց էր տվել, թե ինչպես միացնել OpenCode-ը տեղական ինֆերենցիային, իսկ հիմա նրա անունը անվտանգության նախազգուշացման կողքին է: Ապրանքի անվանումն ընդգրկում է մի քանի տարբեր վստահության սահմաններ: Console-ի օգտատերերը պետք է կարդան պաշտոնական ծանուցումը և ստուգեն մատակարարի օգտագործումը: Եթե դուք տուժել եք, հետևեք վերականգնման հրահանգներին և վերանայեք կապված հավաստագրերը։ Այս ծանուցումը մեզ տալիս է հյուրընկալված Console-ի կոնկրետ շրջանակ։ Այն այստեղ ապացույց չի տրամադրում յուրաքանչյուր տեղական տեղադրման փոխզիջման մասին:

### Ի՞նչ է տեղական ինֆերենցիան դնում ձեր վերահսկողության տակ:

4:02 Ահա կապը: Apple-ի հոդվածում OpenCode-ը նշվում է որպես հաճախորդ իր տեղական մոդելի սերվերի համար: Նույն կոդավորման ինտերֆեյսը կարող է նստել շատ տարբեր ենթակառուցվածքների առջև: Դա պատասխանում է, թե ինչ են գնում չորս Mac-երը։ Հզորություն և ինֆերենցիայի սահման, որը կարող եք կառավարել։ Այդ սահմանի շուրջ ծառայությունները դեռ արժանի են իրենց սեփական վերանայմանը։ Իմ գնման կանոնը պարզ է: Ապացուցեք, որ մոդելը համապատասխանում է, չափեք ամբողջ առաջադրանքը և ստուգեք յուրաքանչյուր ծառայություն, որը պահում է

4:23 հավաստագիր։ Apple-ի արդյունքը մեծ տեղական ինֆերենցիան ավելի գործնական է դարձնում, մինչդեռ խողովակաշարի թեստը բացատրում է, թե ինչու սարքավորումների ավելացումը կարող է հիասթափեցնել: Ձեր ընդունման թեստը պատկանում է գնման պատվերի կողքին։ Եթե նախընտրում եք սա կարդալ, քան լսել իմ ասածը, diff-ը ամեն առավոտ հայտնվում է ձեր մուտքի արկղում, անվճար the daily diff dot dev կայքում, հղումը՝ ստորև։

### Կգնեի՞ արդյոք ես չորս Mac-ից բաղկացած կլաստերը:

4:40 Այսպիսով, այսօրվա վճիռը NEEDS REVIEW է: Ես կչափեի իմ իրական ծանրաբեռնվածությունը՝ նախքան կլաստերը գնելը։ Բաժանորդագրվեք, սեղմեք զանգակը և մեկնաբանություններում ինձ ասեք, եթե դուք այլ կերպ կկնքեիք այն։ տարբեր կերպ։ Եվ դա է այսօրվա diff-ը։ Ես Նիկո եմ Axrisi-ից։ Միավորել պատասխանատվությամբ։

## Աղբյուրներ

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X