ការទស្សន៍ទាយបែបចែកចាយរបស់ Apple MLX៖ សមត្ថភាពម៉ូដែល ល្បឿន និងដែនកំណត់នៃការជឿទុកចិត្ត

អ្វីដែលវីដេអូនេះគ្របដណ្ដប់

• ទម្ងន់ម៉ូដែល និងកន្លែងធ្វើការទស្សន៍ទាយ សុទ្ធតែប្រើប្រាស់អង្គចងចាំ; ទំហំទម្ងន់របស់ម៉ូដែលតែឯងអាចប៉ាន់ស្មានមិនដល់សមត្ថភាពដែលត្រូវការ។
• ភាពស្របគ្នានៃបំពង់បង្ហូរចែកចាយស្រទាប់បន្តបន្ទាប់គ្នា ខណៈពេលដែលភាពស្របគ្នានៃតង់ស័រចែកការងារនៅក្នុងស្រទាប់នីមួយៗ ហើយត្រូវការការទំនាក់ទំនងញឹកញាប់ដែលមានភាពយឺតយ៉ាវទាប។
• Apple រាយការណ៍ថាមាននិមិត្តសញ្ញាជាង ៣៦ ក្នុងមួយវិនាទីលើ Mac Studios M5 Ultra ចំនួនបួន ជាមួយនឹងបរិបទនិមិត្តសញ្ញា ៨,១៩២; ការប្រៀបធៀបខ្សែទាក់ទងនឹងការរង់ចាំនិមិត្តសញ្ញាដំបូងក្នុងបរិបទនិមិត្តសញ្ញា ៦៥,៥៣៦។
• ការរកឃើញ ៩០% នៃម៉ោងធ្វើការរបស់ Mercor បញ្ជាក់ពីការគ្របដណ្តប់តិចតួច ឬគ្មាននៅក្នុងលិបិក្រមស្តង់ដារដែលបានជ្រើសរើសរបស់វា។ វាមិនបង្កើតអត្រាបរាជ័យម៉ូដែល ៩០% នោះទេ។
• សេចក្តីជូនដំណឹងដែលបានកែសម្រួលរបស់ OpenCode រៀបរាប់អំពីសំណុំរងនៃអ្នកប្រើប្រាស់ Console ដែលមានអ្នកផ្តល់សេវាខាងក្រៅភ្ជាប់។ សេចក្តីជូនដំណឹងជាសាធារណៈមិនបង្កើតការសម្របសម្រួលនៃការដំឡើងក្នុងស្រុកនីមួយៗនោះទេ។
• សាកល្បងបន្ទុកការងារជាក់ស្តែងរបស់អ្នក និងពិនិត្យមើលសេវាកម្មដែលមានលិខិតសម្គាល់ មុនពេលចាត់ទុកការដំឡើងម៉ូដែលក្នុងស្រុកជាដំណោះស្រាយឯកជនភាព ឬការចំណាយពេញលេញ។

កំណត់ត្រាដែលបានបកប្រែ

បកប្រែចេញពីការនិទានដើមជាភាសាអង់គ្លេស។ សំឡេង និងចំណងជើងរងដែលមានគឺស្ថិតនៅក្រោមការគ្រប់គ្រងរបស់ YouTube។

ហេតុអ្វីបានជា Mac ពីរអាចរក្សាល្បឿនដដែល?

0:00 អ្នករំពឹងថា Mac ពីរនឹងធ្វើឱ្យ AI របស់អ្នកលឿនទ្វេដង។ ការធ្វើតេស្តផ្ទាល់របស់ Apple បង្ហាញថាល្បឿនបង្កើតអាចរក្សាស្ទើរតែមិនផ្លាស់ប្តូរ។ នៅក្នុងវីដេអូនេះ តើ Mac បួនគ្រឿងផ្តល់អ្វីខ្លះ? តើការវាស់ស្ទង់អ្វីខ្លះដែលខកខាន? ឧបករណ៍សរសេរកូដមួយភ្ជាប់ផ្នែករឹងទៅនឹងការបំពានពេញមួយយប់។ យើងនឹងត្រលប់មកវិញនៅពេលក្រោយ។ សម្រាប់ថ្ងៃសៅរ៍ ទីដប់ប្រាំពីរ ខែតុលា នេះជា The Daily Diff។ MLX គឺជាក្របខ័ណ្ឌអារេប្រភពបើកចំហរបស់ Apple សម្រាប់រៀនម៉ាស៊ីននៅលើ Apple

0:22 Silicon។ ការធ្វើតេស្តថ្មីរបស់វាដំណើរការ Meta's Muse Spark Open ឆ្លងកាត់ Mac Studios ចំនួនបួន។ វាប្រើប្រាស់អង្គចងចាំបង្រួបបង្រួម ដែល CPU និង GPU ចែករំលែក។ Apple បានបោះពុម្ពផ្សាយនេះនៅថ្ងៃទីដប់ប្រាំ ខែតុលា។ Mercor បានគូសផែនទីការងារដែលការវាស់ស្ទង់ AI ស្ទើរតែមិនវាស់វែង។ យើងកំពុងគ្របដណ្តប់ការបោះពុម្ពផ្សាយថ្ងៃទី ១៧ ខែតុលា ជាមួយនឹងការអាប់ដេតពេញមួយយប់ថ្ងៃទី ១៨ ខែតុលា អំពី OpenCode Console។

ហេតុអ្វីបានជាម៉ូដែលត្រូវការ Mac ច្រើនជាងមួយ?

0:41 ចាប់ផ្តើមជាមួយនឹងចំណុចមិនស្រួល។ ការធ្វើតេស្ត Muse Spark Open របស់ Apple ប្រើប្រាស់ប្រហែល ៥០០ ជីហ្គាបៃ សម្រាប់តែម៉ូដែល ៤ ប៊ីតប៉ុណ្ណោះ។ Mac Studio តែមួយមានទំហំអតិបរមា ៥១២ ជីហ្គាបៃ ហើយការទស្សន៍ទាយក៏ត្រូវការអង្គចងចាំការងារផងដែរ។ ទម្ងន់ស្ទើរតែពេញវ៉ាលី មុនពេលអ្នកខ្ចប់ស្រោមជើងតែមួយគូ។ ម៉ាស៊ីនកាន់តែច្រើនធ្វើឱ្យម៉ូដែលសម។ ភាពស្របគ្នានៃបំពង់បង្ហូរច្រានម៉ូដែលតាមស្រទាប់របស់វា។ Mac A ធ្វើស្រទាប់ដំបូង បន្ទាប់មកបញ្ជូនលទ្ធផលមធ្យមទៅ Mac B សម្រាប់

1:05 ស្រទាប់ក្រោយៗ។ សម្រាប់និមិត្តសញ្ញាដែលបានបង្កើតមួយ ជំហានទាំងនោះនៅតែបន្តកើតឡើងតាមលំដាប់លំដោយ។ ការវាស់វែងរបស់ Apple បង្ហាញថាល្បឿនឌិកូដនៅតែស្រដៀងគ្នាទៅនឹងម៉ាស៊ីនតែមួយ។ អ្នកបានជួលចុងភៅទីពីរ ហើយបានឱ្យពួកគេនូវនំសាំងវិចដូចគ្នា។ នៅលើ Hacker News អ្នកអភិវឌ្ឍន៍ម្នាក់បានសួរថាហេតុអ្វីបានជាតារាងរបស់ Apple ប្រើម៉ូដែល Meta ៤ ប៊ីត នៅក្បែរម៉ូដែល Qwen នៅភាពជាក់លាក់ដើមរបស់វា។ តារាងរបស់ Apple បញ្ជាក់ពីទម្រង់ ដូច្នេះសូមអានកំណត់ចំណាំមុនពេលទិញ។ ការវាស់ស្ទង់ស្លាយនៅតែមិនអាចយកឈ្នះបាន។

1:29 ភាពស្របគ្នានៃតង់ស័រច្រានឆ្លងកាត់ស្រទាប់នីមួយៗជំនួសវិញ។

តើ Thunderbolt ជួយ Mac ដំណើរការជាមួយគ្នាយ៉ាងដូចម្តេច?

1:32 Macs ច្រើនដំណើរការលើផ្នែកនៃស្រទាប់ដូចគ្នាជាមួយគ្នា បន្ទាប់មកបង្រួបបង្រួមលទ្ធផលរបស់ពួកគេ។ នោះអាចពន្លឿនការបង្កើត ប៉ុន្តែម៉ាស៊ីនទំនាក់ទំនងម្តងហើយម្តងទៀត។ Apple ប្រើប្រាស់ការចូលប្រើអង្គចងចាំពីចម្ងាយដែលមានភាពយឺតយ៉ាវទាបតាមរយៈ Thunderbolt។ ការផ្លាស់ប្តូរអាជីពដ៏ក្លាហានសម្រាប់ខ្សែ។ លទ្ធផលសំខាន់គឺនិមិត្តសញ្ញាជាងសាមសិបប្រាំមួយក្នុងមួយវិនាទីពី Mac Studios M5 Ultra ចំនួនបួន ជាមួយនឹងបរិបទប្រហែលប្រាំបីពាន់និមិត្តសញ្ញា។ Apple បានវាស់វែងវាដោយខ្លួនឯង។

1:55 សំណួរវែងៗផ្លាស់ប្តូររឿង។ ក្នុងការធ្វើតេស្តបរិបទធំមួយ ខ្សែពីរក្នុងមួយតំណភ្ជាប់កាត់បន្ថយការរង់ចាំសម្រាប់និមិត្តសញ្ញាដំបូង ប្រហែលដប់វិនាទី។ ម៉ូដែលក្នុងស្រុកផ្តល់ឱ្យអ្នកនូវដែនកំណត់មានប្រយោជន៍ជុំវិញសំណួរ ផ្តល់ឱ្យថាការដំឡើងជាក់ស្តែងរបស់អ្នករក្សាពួកគេក្នុងស្រុក។ Apple មិនបានផ្តល់តម្លៃបំបែកសកលប្រឆាំងនឹង APIs ដែលបានបង្ហោះទេ។ នោះអាស្រ័យលើការប្រើប្រាស់ និងម៉ូដែលដែលអ្នកត្រូវការ។ ម៉ាស៊ីនដែលឆ្លើយសំណួរម្តងម្កាលចំណាយពេលច្រើនដើម្បីក្លាយជា

2:17 គ្រឿងតុបតែងតុថ្លៃណាស់។ ការជ្រើសរើសម៉ូដែលនោះតម្រូវឱ្យមានការធ្វើតេស្តសម្រាប់កិច្ចការរបស់អ្នក។

តើការវាស់ស្ទង់ AI គ្របដណ្តប់លើការងារអ្វីខ្លះ?

2:21 Mercor បានគូសផែនទីការវាស់ស្ទង់ចំនួន ២៩ ទៅលើចំណាត់ថ្នាក់ការងារអាមេរិក។ លិបិក្រមរបស់វាគ្របដណ្តប់ប្រហែលប្រាំបួនរយភារកិច្ចក្នុងចំណោមស្ទើរតែមួយម៉ឺនប្រាំបួនពាន់។ ផែនទីប៉ាន់ស្មានថា ៩០ ភាគរយនៃម៉ោងធ្វើការមានការគ្របដណ្តប់ស្តង់ដារតិចតួច ឬគ្មាន។ នោះជាចន្លោះទទេដ៏ធំនៅលើក្រដាសប្រឡង។ ផែនទីរបស់ Mercor វាស់វែងការគ្របដណ្តប់។ មុខរបរទទេមានភារកិច្ចដែលមិនសូវបានធ្វើតេស្ត; សមត្ថភាពម៉ូដែលនៅតែជាសំណួរចំហ។ ការគូសផែនទីប្រើប្រាស់ម៉ូដែល AI ជាមួយនឹងការពិនិត្យឡើងវិញដោយមនុស្សលើសំណុំរងនៃ សំណួរស្តង់ដារផ្ទាល់របស់ Mercor ។

2:49 អ្នកត្រួតពិនិត្យបានទទួលយកប្រហែលបីភាគបួននៃការជ្រើសរើសដំបូងរបស់វា។ ប្រព័ន្ធវាយតម្លៃត្រូវការប្រព័ន្ធវាយតម្លៃផ្ទាល់របស់វា ជាធម្មតា។ ដូច្នេះប្រសិនបើអ្នកបារម្ភអំពីការងាររបស់អ្នក តារាងចំណាត់ថ្នាក់មិនអាចដោះស្រាយ ជម្លោះបានទេ។ ប្រសិនបើអ្នកកំពុងទិញជំនួយការសរសេរកូដ ចាក់សារឡើងវិញនូវភារកិច្ចពិតប្រាកដជាមួយនឹងការត្រួតពិនិត្យការទទួលយកផ្ទាល់ខ្លួនរបស់អ្នក។ ការងារដែលមានប្រយោជន៍រួមមានផ្នែកដែលពិបាកបន្ទាប់ពីការបង្ហាញ។ គ្មាននរណាម្នាក់ត្រូវបានដំឡើងឋានៈទេ ដោយសារ chatbot បានបញ្ចប់តារាងទិន្នន័យខុសដោយជឿជាក់។ ដែលនាំយើងទៅដល់ការអាប់ដេតពេញមួយយប់។

តើ OpenCode និយាយថាអ្នកណាត្រូវបានប៉ះពាល់ពេញមួយយប់?

3:13 OpenCode និយាយថាការបំពានសុវត្ថិភាពបានប៉ះពាល់ដល់ ១,៤ ភាគរយនៃអ្នកប្រើប្រាស់ Console។ សេចក្តីជូនដំណឹងដែលបានកែសម្រួលរបស់វាបានបង្រួមវាទៅសំណុំរងដែលមានអ្នកផ្តល់សេវាខាងក្រៅ ភ្ជាប់ ហើយនិយាយថាអ្នកប្រើប្រាស់ដែលរងផលប៉ះពាល់ត្រូវបានផ្ញើអ៊ីម៉ែល។ វាហៅការវាយប្រហារនេះថាជាការវាយប្រហារចំរាញ់ទ្រង់ទ្រាយធំ ហើយនិយាយថាឧប្បត្តិហេតុនេះ កំពុងបន្ត។ មូលហេតុឫសគល់សាធារណៈនៅមិនទាន់មកដល់ទេ។ ការឆ្លើយតបរួមមានមនុស្សដែលរាយការណ៍ពីឥណទានអ្នកផ្តល់សេវាដែលបាត់បង់ ដែលជាគណនីព្រឹត្តិការណ៍របស់ពួកគេ។ សេចក្តីជូនដំណឹងមិនបង្កើតការបាត់បង់ ឬសំណងរបស់បុគ្គលម្នាក់ៗទេ។

3:38 Apple ទើបតែបានបង្ហាញពីរបៀបភ្ជាប់ OpenCode ទៅនឹងការទស្សន៍ទាយក្នុងស្រុក ហើយឥឡូវនេះឈ្មោះរបស់វាគឺនៅក្បែរការព្រមានសុវត្ថិភាព។ ឈ្មោះផលិតផលគ្របដណ្តប់ដែនកំណត់នៃការជឿទុកចិត្តជាច្រើនផ្សេងគ្នា។ អ្នកប្រើប្រាស់ Console គួរតែអានសេចក្តីជូនដំណឹងផ្លូវការ និងពិនិត្យមើលការប្រើប្រាស់អ្នកផ្តល់សេវា។ ប្រសិនបើអ្នករងផលប៉ះពាល់ សូមអនុវត្តតាមការណែនាំអំពីការកែតម្រូវ និងពិនិត្យមើលលិខិតសម្គាល់ដែលបានភ្ជាប់។ សេចក្តីជូនដំណឹងនេះផ្តល់ឱ្យយើងនូវវិសាលភាព Console ដែលបានបង្ហោះជាក់លាក់មួយ។ វាមិនផ្តល់ភស្តុតាងនៅទីនេះនៃការសម្របសម្រួលក្នុងការដំឡើងក្នុងស្រុកនីមួយៗនោះទេ។

តើការទស្សន៍ទាយក្នុងស្រុកដាក់អ្វីនៅក្រោមការគ្រប់គ្រងរបស់អ្នក?

4:02 នេះជាការតភ្ជាប់។ អត្ថបទរបស់ Apple ដាក់ឈ្មោះ OpenCode ជាអតិថិជនសម្រាប់ម៉ាស៊ីនមេម៉ូដែលក្នុងស្រុករបស់វា។ ចំណុចប្រទាក់សរសេរកូដដូចគ្នាអាចអង្គុយនៅមុខហេដ្ឋារចនាសម្ព័ន្ធខុសគ្នាខ្លាំង។ នោះឆ្លើយតបថាតើ Mac បួនគ្រឿងផ្តល់អ្វីខ្លះ។ សមត្ថភាព និងដែនកំណត់នៃការទស្សន៍ទាយដែលអ្នកអាចគ្រប់គ្រងបាន។ សេវាកម្មជុំវិញដែនកំណត់នោះនៅតែសមនឹងទទួលបានការពិនិត្យឡើងវិញផ្ទាល់ខ្លួនរបស់ពួកគេ។ ច្បាប់ទិញរបស់ខ្ញុំគឺសាមញ្ញ។ បង្ហាញថាគំរូសម វាស់ស្ទង់កិច្ចការទាំងមូល និងពិនិត្យមើលរាល់សេវាកម្មដែលកាន់

4:23 លិខិតសម្គាល់។ លទ្ធផលរបស់ Apple ធ្វើឱ្យការទស្សន៍ទាយក្នុងស្រុកដ៏ធំកាន់តែមានលទ្ធភាព ខណៈពេលដែលការធ្វើតេស្តបំពង់បង្ហូរពន្យល់ពីមូលហេតុដែលការបន្ថែមផ្នែករឹងអាចខកចិត្ត។ ការធ្វើតេស្តការទទួលយករបស់អ្នកគួរតែនៅក្បែរបញ្ជាទិញ។ ប្រសិនបើអ្នកចង់អាននេះជាជាងស្តាប់ខ្ញុំនិយាយ វាបានមកដល់ប្រអប់សំបុត្ររបស់អ្នក រៀងរាល់ព្រឹក ឥតគិតថ្លៃនៅ the daily diff dot dev តំណភ្ជាប់ខាងក្រោម។

តើខ្ញុំនឹងទិញ Mac cluster បួនគ្រឿងទេ?

4:40 ដូច្នេះសាលក្រមថ្ងៃនេះគឺ NEEDS REVIEW។ ខ្ញុំនឹងវាស់ស្ទង់បន្ទុកការងារពិតប្រាកដរបស់ខ្ញុំមុនពេលទិញ cluster។ ជាវ ចុចកណ្ដឹង ហើយប្រាប់ខ្ញុំនៅក្នុងមតិយោបល់ប្រសិនបើអ្នកនឹងបោះត្រាវា ខុសគ្នា។ ហើយនោះជា diff សម្រាប់ថ្ងៃនេះ។ ខ្ញុំ Niko មកពី Axrisi។ បញ្ចូលគ្នាយ៉ាងមានទំនួលខុសត្រូវ។

ប្រភព

1. Local and Distributed Large LLM Inference with MLX and RDMA on Mac StudioApple Machine Learning Research
2. A benchmark map of the US economyMercor
3. Benchmark Map methodology and expert reviewMercor
4. Edited security-breach notice with Console scopeOpenCode
5. Reader questions mixed benchmark precision formatsHacker News · peri-cl (reader opinion)
6. User reports vanished provider credit (unverified loss claim)Amruth Pillai on X