# Applen MLX-hajautettu päättely: mallikapasiteetti, nopeus ja luottamusrajat

Published: 2026-10-18

Apple suoritti Muse Spark Open -mallin neljällä Mac Studio -tietokoneella. Applen 15. lokakuuta julkaistu tutkimus näyttää Muse Spark Openin pyörivän neljällä Mac Studiolla ja selittää, miksi putkilinja- ja tensoriparallelismilla on erilaisia vaikutuksia generointinopeuteen. Tämä 17. lokakuuta julkaistu ja 18. lokakuuta julkaistu painos tarkastelee myös Mercorin vertailuarvojen kattavuuskarttaa ja nimenomaisesti merkittyä 18. lokakuuta GMT+7 OpenCode Console -tietoturvapäivitystä. Myyjien mittaukset, valitun indeksin kattavuus ja vahvistamattomat käyttäjäraportit säilyttävät erilliset varoituksensa.

Canonical: https://thedailydiff.dev/fi/video/2026-10-17-apple-mac-cluster/

## Mitä tämä video käsittelee

- Mallin painot ja päättelytyötila kuluttavat molemmat muistia; mallin painojen jalanjälki yksinään voi aliarvioida tarvittavan kapasiteetin.
- Putkilinjaparallelismi jakaa peräkkäisiä kerroksia, kun taas tensoriparallelismi jakaa työn kunkin kerroksen sisällä ja vaatii usein matalan viiveen kommunikointia.
- Apple raportoi yli 36 merkkiä sekunnissa neljällä M5 Ultra Mac Studiolla, joissa on 8 192 merkin konteksti; kaapelivertailu koskee ensimmäisen merkin odotusaikaa 65 536 merkin kontekstissa.
- Mercorin 90 % työaikaa koskeva havainto kuvaa vähäistä tai olematonta kattavuutta sen valitussa vertailuindeksissä. Se ei osoita 90 %:n mallin epäonnistumisastetta.
- OpenCoden muokattu ilmoitus kuvaa osajoukkoa Console-käyttäjistä, joilla on linkitettyjä ulkoisia palveluntarjoajia. Julkinen ilmoitus ei vahvista jokaisen paikallisen asennuksen vaarantumista.
- Testaa todellinen työkuormasi ja tarkista tunnuksia sisältävät palvelut ennen kuin käsittelet paikallista malliasennusta täydellisenä yksityisyyden tai kustannusten ratkaisuna.

## Luvut

- 0:00 Miksi kaksi Macia voivat pysyä samalla nopeudella?
- 0:41 Miksi malli tarvitsee enemmän kuin yhden Macin?
- 1:30 Miten Thunderbolt auttaa Maceja toimimaan yhdessä?
- 2:19 Mitä työtä tekoälyn vertailuarvot todella kattavat?
- 3:11 Keitä OpenCode sanoo olevan vaikuttunut yön yli?
- 4:02 Mitä paikallinen päättely antaa hallintaasi?
- 4:40 Ostaisinko neljän Macin klusterin?

## Käännetty transkriptio

Käännetty alkuperäisestä englanninkielisestä selostuksesta. Käytettävissä olevan äänen ja tekstitysten hallinta tapahtuu YouTuben kautta.

### Miksi kaksi Macia voivat pysyä samalla nopeudella?

0:00 Olettaisit kahden Macin tekevän tekoälystäsi kaksi kertaa nopeamman. Applen omat testit osoittavat, että generointinopeus voi pysyä lähes ennallaan. Mitä neljä Macia ostaa tässä videossa? Mitä vertailuarvot jättävät huomiotta? Yksi koodaustyökalu yhdistää laitteiston yön yli tapahtuneeseen tietomurtoon. Palaamme siihen. Lauantaina lokakuun seitsemästoista, tämä on The Daily Diff. MLX on Applen avoimen lähdekoodin taulukonkehys koneoppimiseen Applen

0:22 piisirulla. Sen uusi testi ajaa Metan Muse Spark Openia neljällä Mac Studiolla. Se käyttää yhtenäistä muistia, jonka suoritin ja näytönohjain jakavat. Apple julkaisi tämän 15. lokakuuta. Mercor kartoitti työt, joita tekoälyn vertailuarvot tuskin mittaavat. Käymme läpi 17. lokakuuta painoksen, jossa on yön yli 18. lokakuuta päivitys OpenCode Consolesta.

### Miksi malli tarvitsee enemmän kuin yhden Macin?

0:41 Aloita epämukavalla osalla. Applen Muse Spark Open -testi käyttää noin viisisataa gigatavua pelkästään neljän bitin malliin. Yksi Mac Studio saavuttaa korkeintaan viisisataakaksitoista gigatavua, ja päättely tarvitsee myös työmuistia. Painot täyttävät melkein matkalaukun ennen kuin olet pakannut yhdenkään sukan. Useammat koneet saavat mallin mahtumaan. Putkilinjaparallelismi leikkaa mallin kerrostensa läpi. Mac A tekee aikaisemmat kerrokset ja siirtää sitten välituloksen Mac B:lle

1:05 myöhempiä kerroksia varten. Yhden luodun merkin osalta nämä vaiheet tapahtuvat edelleen peräkkäin. Applen mittaukset osoittavat, että dekoodausnopeus pysyy hyvin samanlaisena kuin yhdellä koneella. Olet palkannut toisen kokin ja antanut heille saman voileivän. Hacker Newsissa yksi kehittäjä kyseenalaisti, miksi Applen taulukko käytti neljän bitin Meta-mallia Qwen-mallin rinnalla sen alkuperäisellä tarkkuudella. Applen taulukko ilmoittaa formaatit, joten lue alaviitteet ennen ostoksia. Diaesitysten vertailuarvot pysyvät voittamattomina.

1:29 Tensoriparallelismi leikkaa sen sijaan jokaisen kerroksen poikki.

### Miten Thunderbolt auttaa Maceja toimimaan yhdessä?

1:32 Useat Macit työskentelevät yhdessä saman kerroksen osien parissa, ja yhdistävät sitten tuloksensa. Se voi nopeuttaa generointia, mutta koneet kommunikoivat toistuvasti. Apple käyttää matalan viiveen etämuistin käyttöä Thunderbolt-liitännän kautta. Rohkea uravalinta kaapelille. Otsikkotulos on yli kolmekymmentäkuusi merkkiä sekunnissa neljältä M5 Ultra Mac Studiolta, noin kahdeksan tuhannen merkin kontekstilla. Apple mittasi sen itse.

1:55 Pidempään kehotteet muuttavat tarinaa. Yhdessä suuressa kontekstitestissä kaksi kaapelia linkkiä kohti lyhensi ensimmäisen merkin odotusaikaa noin kymmenellä sekunnilla. Paikallinen malli antaa sinulle hyödyllisen rajan kehotteiden ympärille, edellyttäen, että todellinen asetuksesi pitää ne paikallisina. Apple ei ole ilmoittanut yleistä tasapainohintaa isännöityjä sovellusrajapintoja vastaan. Se riippuu käytöstä ja tarvitsemastasi mallista. Kone, joka vastaa satunnaisiin kysymyksiin, viettää paljon aikaa ollessaan hyvin

2:17 kallis pöytäkoriste. Kyseisen mallin valitseminen vaatii testin työllesi.

### Mitä työtä tekoälyn vertailuarvot todella kattavat?

2:21 Mercor kartoitti 29 vertailuarvoa amerikkalaiseen työtaksnomiaan. Sen indeksi kattaa noin yhdeksänsataa tehtävää lähes yhdeksästätoista tuhannesta. Kartta arvioi, että yhdeksänkymmenellä prosentilla työajasta on vähän tai ei lainkaan vertailuarvokattavuutta. Se on valtava tyhjä tila koepaperissa. Mercorin kartta mittaa kattavuutta. Tyhjällä ammatilla on tuskin testattuja tehtäviä; mallin kyky pysyy avoimena kysymyksenä. Kartoituksessa käytettiin tekoälymallia, ja ihmisen tarkistus tehtiin osajoukolle Mercorin omia vertailukehotteita.

2:49 Arvioijat hyväksyivät noin kolme neljäsosaa sen ensimmäisistä valinnoista. Arviointijärjestelmä tarvitsee oman arviointijärjestelmänsä, luonnollisesti. Joten jos olet huolissasi työstäsi, tulostaulu ei voi ratkaista väittelyä. Jos ostat koodausavustajan, toista todellinen tehtävä omilla hyväksymistarkistuksillasi. Hyödyllinen työ sisältää hankalat osat demon jälkeen. Ketään ei ylennetä, koska chatbotti sai luottavaisin mielin väärän taulukon valmiiksi. Mikä johtaa meidät yön yli -päivitykseen.

### Keitä OpenCode sanoo olevan vaikuttunut yön yli?

3:13 OpenCode sanoo, että tietoturvaloukkaus vaikutti 1,4 prosenttiin Console-käyttäjistä. Sen muokattu ilmoitus rajaa tämän alajoukkoon, jolla on linkitettyjä ulkoisia palveluntarjoajia, ja sanoo, että kärsineille käyttäjille lähetettiin sähköpostia. Se kutsuu tätä laajamittaiseksi tislaushyökkäykseksi ja sanoo, että tapaus on käynnissä. Julkista perussyytä ei ole vielä saatu. Vastaukset sisältävät ihmisiä, jotka ilmoittavat kadonneista palveluntarjoajien hyvityksistä, mikä on heidän kertomuksensa tapahtumista. Ilmoitus ei vahvista kunkin henkilön menetyksiä tai korvauksia.

3:38 Apple oli juuri näyttänyt, miten OpenCode yhdistetään paikalliseen päättelyyn, ja nyt sen nimi on tietoturvavaroituksen vieressä. Tuotteen nimi kattaa useita eri luottamusrajoja. Console-käyttäjien tulisi lukea virallinen ilmoitus ja tarkistaa palveluntarjoajan käyttö. Jos olet kärsinyt, noudata korjausohjeita ja tarkista yhdistetyt tunnukset. Tämä ilmoitus antaa meille erityisen isännöidyn konsolin laajuuden. Se ei tarjoa tässä todisteita kompromissista jokaisessa paikallisessa asennuksessa.

### Mitä paikallinen päättely antaa hallintaasi?

4:02 Tässä on yhteys. Applen artikkeli nimeää OpenCoden asiakkaaksi sen paikalliselle mallipalvelimelle. Sama koodausliittymä voi olla hyvin erilaisen infrastruktuurin edessä. Tämä vastaa kysymykseen, mitä neljä Macia ostaa. Kapasiteetti ja päättelyraja, jota voit hallita. Tämän rajan ympärillä olevat palvelut ansaitsevat silti oman tarkistuksensa. Ostosääntöni on yksinkertainen. Todista, että malli sopii, mittaa koko tehtävä ja tarkista jokainen palvelu, jolla on

4:23 valtakirja. Applen tulos tekee suuresta paikallisesta päättelystä käytännöllisempää, kun taas putkilinjatesti selittää, miksi laitteiston lisääminen voi tuottaa pettymyksen. Hyväksymistestisi kuuluu ostotilauksen viereen. Jos haluat mieluummin lukea tämän kuin kuulla minun sanovan sen, ero laskeutuu postilaatikkoosi joka aamu, ilmaiseksi osoitteessa the daily diff dot dev, linkki alla.

### Ostaisinko neljän Macin klusterin?

4:40 Joten tämän päivän tuomio on NEEDS REVIEW. Mittaisin todellisen työkuormani ennen klusterin ostamista. Tilaa, paina kelloa ja kerro kommenteissa, jos olisit leimannut sen eri tavalla. Ja siinä on ero tältä päivältä. Olen Niko Axrisista. Yhdistä vastuullisesti.

## Lähteet

- [Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio](https://machinelearning.apple.com/research/mlx-distributed-inference) — Apple Machine Learning Research
- [A benchmark map of the US economy](https://www.mercor.com/research/labor-index/benchmark-map/) — Mercor
- [Benchmark Map methodology and expert review](https://www.mercor.com/research/labor-index/benchmark-map/methodology/) — Mercor
- [Edited security-breach notice with Console scope](https://x.com/opencode/status/2111519637049319818) — OpenCode
- [Reader questions mixed benchmark precision formats](https://news.ycombinator.com/item?id=50119761) — Hacker News · peri-cl (reader opinion)
- [User reports vanished provider credit (unverified loss claim)](https://x.com/KingOKings/status/2111517723109015607) — Amruth Pillai on X