# Porazdeljeno sklepanje Apple MLX: zmogljivost modela, hitrost in meje zaupanja

Published: 2026-10-18

Apple je zagnal Muse Spark Open na štirih Mac Studiih. Raziskava podjetja Apple z dne 15. oktobra prikazuje Muse Spark Open, ki deluje na štirih računalnikih Mac Studio, in pojasnjuje, zakaj imata vzporednost cevovoda in tenzorja različne učinke na hitrost generiranja. Ta izdaja z dne 17. oktobra, objavljena 18. oktobra, preučuje tudi Mercorjevo mapo pokritosti meril in izrecno označeno varnostno posodobitev OpenCode Console z dne 18. oktobra GMT+7. Meritve prodajalcev, pokritost izbranega indeksa in nepotrjena poročila o izgubah uporabnikov ohranjajo ločene opozorila.

Canonical: https://thedailydiff.dev/sl/video/2026-10-17-apple-mac-cluster/

## Kaj zajema ta videoposnetek

- Teže modela in delovni prostor za sklepanje porabljajo pomnilnik; samo odtis teže modela lahko podceni zahtevano zmogljivost.
- Vzporednost cevovoda porazdeli zaporedne plasti, medtem ko tenzorska vzporednost razdeli delo znotraj vsake plasti in potrebuje pogosto komunikacijo z nizko zakasnitvijo.
- Apple poroča o več kot 36 žetonih na sekundo na štirih računalnikih M5 Ultra Mac Studio z kontekstom 8.192 žetonov; primerjava kablov se nanaša na čakanje prvega žetona v kontekstu 65.536 žetonov.
- Mercorjeva ugotovitev o 90 % delovnih urah opisuje majhno ali nič pokritosti v izbranem indeksu meril. Ne ugotavlja 90 % stopnje napak modela.
- Spremenjeno obvestilo OpenCode opisuje podskupino uporabnikov konzole s povezanimi zunanjimi ponudniki. Javno obvestilo ne potrjuje kompromisa vsake lokalne namestitve.
- Preizkusite svojo dejansko delovno obremenitev in preglejte storitve, ki vsebujejo poverilnice, preden obravnavate lokalno nastavitev modela kot popolno rešitev za zasebnost ali stroške.

## Poglavja

- 0:00 Zakaj lahko dva Maca ostaneta enako hitra?
- 0:41 Zakaj model potrebuje več kot en Mac?
- 1:30 Kako Thunderbolt pomaga Macom delati skupaj?
- 2:19 Katero delo dejansko pokrivajo AI merila?
- 3:11 Kdo je bil po besedah OpenCode prizadet čez noč?
- 4:02 Kaj lokalno sklepanje omogoča vaš nadzor?
- 4:40 Bi kupil gručo štirih Macov?

## Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

### Zakaj lahko dva Maca ostaneta enako hitra?

0:00 Pričakujete, da bosta dva Maca vaš AI podvojila hitrost. Applovi lastni testi kažejo, da hitrost generiranja lahko ostane skoraj nespremenjena. V tem videu, kaj kupijo štirje Maci? Kaj merila izpustijo? Eno kodirno orodje povezuje strojno opremo z nočno kršitvijo. K temu se bomo vrnili. Za soboto, sedemnajsti oktober, je to The Daily Diff. MLX je Applovo odprtokodno ogrodje za strojno učenje na Applovih

0:22 silicijevih čipih. Njegov nov test poganja Meta's Muse Spark Open na štirih Mac Studijih. Uporablja enoten pomnilnik, ki si ga delita CPU in GPU. Apple je to objavil petnajstega oktobra. Mercor je preslikal delo, ki ga AI merila komaj merijo. Pokrivamo izdajo z dne sedemnajstega oktobra, z nočno posodobitvijo o OpenCode Console z dne osemnajstega oktobra. Začnimo z neprijetnim delom.

### Zakaj model potrebuje več kot en Mac?

0:41 Test Apple's Muse Spark Open uporablja približno petsto gigabajtov samo za štiribitni model. Enoten Mac Studio doseže največ petsto dvanajst gigabajtov, in sklepanje potrebuje tudi delovni pomnilnik. Teže skoraj napolnijo kovček, preden ste spakirali eno nogavico. Več strojev omogoča, da se model prilega. Vzporednost cevovoda reže model skozi njegove plasti. Mac A izvaja zgodnejše plasti, nato posreduje vmesni rezultat Macu B za kasnejše plasti.

1:05 Za en generiran žeton se ti koraki še vedno zgodijo zaporedno. Applove meritve kažejo, da hitrost dekodiranja ostaja zelo podobna hitrosti enega stroja. Najeli ste drugega kuharja in mu dali isti sendvič. Na Hacker News je en razvijalec vprašal, zakaj je Applova tabela uporabila štiribitni model Meta poleg modela Qwen v njegovi izvorni natančnosti. Applova tabela navaja formate, zato pred nakupovanjem preberite opombe. Merila diapozitivov ostajajo nepremagana. Tenzorska vzporednost namesto tega reže vsako plast.

1:29 Več Macov dela na delih iste plasti skupaj,

### Kako Thunderbolt pomaga Macom delati skupaj?

1:32 nato pa združijo svoje rezultate. To lahko pospeši generiranje, vendar stroji komunicirajo večkrat. Apple uporablja daljinski dostop do pomnilnika z nizko zakasnitvijo prek Thunderbolta. Drzna karierna poteza za kabel. Glavni rezultat je več kot šestintrideset žetonov na sekundo iz štirih M5 Ultra Mac Studiev, s približno osem tisoč žetoni konteksta. Apple ga je sam izmeril. Daljši pozivi spremenijo zgodbo.

1:55 V enem testu velikega konteksta sta dva kabla na povezavo skrajšala čakanje na prvi žeton za približno deset sekund. Lokalni model vam daje uporabno mejo okoli pozivov, pod pogojem, da jih vaša dejanska nastavitev ohranja lokalne. Apple ni določil univerzalne prelomne cene glede na gostjene API-je. To je odvisno od izkoriščenosti in modela, ki ga potrebujete. Stroj, ki občasno odgovarja na vprašanja, preživi veliko časa kot zelo drag okras za mizo.

2:17 Izbira tega modela zahteva test za vaše delo. Mercor je preslikal devetindvajset meril na ameriško taksonomijo delovnih mest.

### Katero delo dejansko pokrivajo AI merila?

2:21 Njen indeks pokriva približno devetsto nalog od skoraj devetnajst tisoč. Zemljevid ocenjuje, da devetdeset odstotkov delovnih ur ima majhno ali nič pokritosti z merili. To je ogromen prazen prostor na izpitnem listu. Mercorjev zemljevid meri pokritost. Prazna poklicna dejavnost ima komaj preizkušene naloge; zmožnost modela ostaja odprto vprašanje. Kartiranje je uporabilo model AI s človeškim pregledom podskupine Mercorjevih lastnih merilnih pozivov. Recenzenti so sprejeli približno tri četrtine njenih prvih izbir.

2:49 Sistem ocenjevanja potrebuje svoj sistem ocenjevanja, seveda. Torej, če vas skrbi vaša služba, lestvica ne more rešiti argumenta. Če kupujete pomočnika za kodiranje, ponovite resnično nalogo z lastnimi preverjanji sprejemljivosti. Uporabno delo vključuje nerodne dele po predstavitvi. Nihče ni bil povišan, ker je chatbot samozavestno dokončal napačno razpredelnico. Kar nas pripelje do nočne posodobitve. OpenCode pravi, da je varnostna kršitev prizadela en in štiri desetine odstotka uporabnikov konzole.

### Kdo je bil po besedah OpenCode prizadet čez noč?

3:13 Njihovo spremenjeno obvestilo to zoži na podskupino s povezanimi zunanjimi ponudniki in pravi, da so bili prizadeti uporabniki obveščeni po e-pošti. To imenujejo obsežen napad destilacije in pravijo, da incident še vedno poteka. Javni vzrok še ni bil objavljen. Odgovori vključujejo ljudi, ki poročajo o izginulem ponudnikovem kreditu, kar je njihova pripoved o dogodkih. Obvestilo ne določa izgub ali odškodnin vsake osebe. Apple je pravkar pokazal, kako povezati OpenCode z lokalnim sklepanjem,

3:38 in zdaj je njegovo ime poleg varnostnega opozorila. Ime izdelka zajema več različnih mej zaupanja. Uporabniki konzole naj preberejo uradno obvestilo in preverijo uporabo ponudnika. Če ste prizadeti, sledite navodilom za odpravo in preglejte povezane poverilnice. To obvestilo nam daje specifično področje gostjene konzole. Tukaj ne predloži dokazov o kompromisu v vsaki lokalni namestitvi. Tukaj je povezava.

### Kaj lokalno sklepanje omogoča vaš nadzor?

4:02 Applov članek imenuje OpenCode kot odjemalca za njegov lokalni strežnik modelov. Isti kodirni vmesnik lahko stoji pred zelo različno infrastrukturo. To odgovarja, kaj kupijo štirje Maci. Zmogljivost in meja sklepanja, ki jo lahko upravljate. Storitve okoli te meje si še vedno zaslužijo lasten pregled. Moje pravilo nakupovanja je preprosto. Dokazite, da se model prilega, izmerite celotno nalogo in preverite vsako storitev, ki ima poverilnico. Applov rezultat omogoča bolj praktično obsežno lokalno sklepanje,

4:23 medtem ko cevovodni test pojasnjuje, zakaj lahko dodajanje strojne opreme razočara. Vaš sprejemni test spada poleg naročilnice. Če bi raje prebrali to kot slišali, kako to rečem, diff pristane v vašem nabiralniku vsako jutro, brezplačno na thedaily diff.dev, povezava spodaj. Tako je današnja sodba NEEDS REVIEW.

### Bi kupil gručo štirih Macov?

4:40 Izmeril bi svojo resnično delovno obremenitev, preden bi kupil gručo. Naročite se, pritisnite zvonec in mi v komentarjih povejte, če bi to označili drugače. In to je diff za danes. Sem Niko iz Axrisija. Združite odgovorno. Odgovorno združevanje.

## Viri

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X