Apple MLX බෙදාහැරීමේ අනුමානය: ආකෘති ධාරිතාව, වේගය සහ විශ්වාස සීමා

මෙම වීඩියෝවෙන් ආවරණය වන දේ

• ආකෘති බර සහ අනුමාන වැඩබිම යන දෙකම මතකය පරිභෝජනය කරයි; ආකෘතියක බරෙහි අඩිපාර පමණක් අවශ්‍ය ධාරිතාව අවතක්සේරු කළ හැකිය.
• නල මාර්ග සමාන්තරකරණය අනුක්‍රමික ස්ථර බෙදාහරින අතර, ටෙන්සර් සමාන්තරකරණය එක් එක් ස්ථරය තුළ වැඩ බෙදා හරින අතර නිතර අඩු ප්‍රමාද සන්නිවේදනයක් අවශ්‍ය වේ.
• Apple විසින් M5 Ultra Mac Studio හතරක් මත තත්පරයකට ටෝකන 36කට වඩා වාර්තා කරයි, 8,192-ටෝකන සන්දර්භයක් සමඟ; කේබල් සංසන්දනය 65,536-ටෝකන සන්දර්භයක් යටතේ පළමු ටෝකන රැඳී සිටීම ගැන වේ.
• Mercor හි 90%ක වැඩ කරන වේලාවන් සොයා ගැනීමෙන් එහි තෝරාගත් මිණුම් සලකුණු දර්ශකයේ ආවරණය ඉතා අඩු හෝ නොමැති බව විස්තර කරයි. එය 90%ක ආකෘති අසාර්ථක වීමේ අනුපාතයක් ස්ථාපිත නොකරයි.
• OpenCode හි සංස්කරණය කරන ලද දැන්වීම බාහිර සැපයුම්කරුවන් සම්බන්ධ කර ඇති Console පරිශීලකයින්ගේ උප කුලකයක් විස්තර කරයි. පොදු දැන්වීම මගින් සෑම දේශීය ස්ථාපනයකම සම්මුතියක් ස්ථාපිත නොකරයි.
• දේශීය ආකෘති සැකසුම සම්පූර්ණ පෞද්ගලිකත්ව හෝ පිරිවැය විසඳුමක් ලෙස සැලකීමට පෙර ඔබේ සැබෑ වැඩ බර පරීක්ෂා කර අක්තපත්‍ර දරණ සේවාවන් සමාලෝචනය කරන්න.

පරිවර්තනය කරන ලද පිටපත

මුල් ඉංග්‍රීසි නිරූපණයෙන් පරිවර්තනය කරන ලදී. පවතින ශ්‍රව්‍ය සහ ශීර්ෂ පාඨ YouTube මගින් පාලනය වේ.

Mac පරිගණක දෙකකට එකම වේගයෙන් සිටිය හැක්කේ ඇයි?

0:00 Mac පරිගණක දෙකක් ඔබේ AI දෙගුණයක් වේගවත් කරයි කියා ඔබ බලාපොරොත්තු වේවි. Apple සමාගමේම පරීක්ෂණ පෙන්වන්නේ උත්පාදන වේගය පාහේ නොවෙනස්ව පවතින බවයි. මෙම වීඩියෝවෙන්, Mac පරිගණක හතරක් මිලදී ගැනීමෙන් ලැබෙන්නේ කුමක්ද? මිණුම් සලකුණු වලට මඟ හැරෙන්නේ කුමක්ද? එක් කේතකරණ මෙවලමක් දෘඪාංග රාත්‍රී බිඳීමකට සම්බන්ධ කරයි. අපි එයට නැවත එන්නම්. ඔක්තෝබර් දහහත වන සෙනසුරාදා සඳහා, මෙය The Daily Diff. MLX යනු Apple සිලිකන් මත යන්ත්‍ර ඉගෙනීම සඳහා Apple හි විවෘත මූලාශ්‍ර අරාව රාමුවයි.

0:22 එහි නව පරීක්ෂණය මගින් Meta's Muse Spark Open Mac Studio හතරක් හරහා ක්‍රියාත්මක කරයි. එය CPU සහ GPU විසින් බෙදා ගන්නා ඒකාබද්ධ මතකය භාවිතා කරයි. Apple මෙය ඔක්තෝබර් පහළොවේදී ප්‍රකාශයට පත් කළේය. Mercor AI මිණුම් සලකුණු කලාතුරකින් මනින කාර්යයන් සිතියම්ගත කළේය. අපි ඔක්තෝබර් දහහත සංස්කරණය ආවරණය කරනවා, OpenCode Console ගැන රාත්‍රී ඔක්තෝබර් දහඅට වනදා යාවත්කාලීන කිරීමක් සමඟ. අසීරු කොටසින් පටන් ගනිමු.

ආකෘතියට එක් Mac පරිගණකයකට වඩා අවශ්‍ය වන්නේ ඇයි?

0:41 Apple's Muse Spark Open පරීක්ෂණය හතර-බිට් ආකෘතිය සඳහා පමණක් ගිගාබයිට් පන්සියයක් පමණ භාවිතා කරයි. තනි Mac Studio එකක් ගිගාබයිට් පන්සිය දොළහකට ළඟා වේ, සහ අනුමානයට ක්‍රියාකාරී මතකයද අවශ්‍ය වේ. ඔබ තනි මේස් එකක්වත් අසුරා නොමැතිව බර ගමන් මල්ල පාහේ පුරවයි. වැඩි යන්ත්‍ර මගින් ආකෘතියට ගැලපේ. නල මාර්ග සමාන්තරකරණය ආකෘතිය එහි ස්ථර හරහා කපා දමයි. Mac A මුල් ස්ථර කරයි, පසුව අතරමැදි ප්‍රතිඵලය Mac B වෙත පසු ස්ථර සඳහා ලබා දෙයි. එක් උත්පාදිත ටෝකනයක් සඳහා, එම පියවර තවමත් අනුක්‍රමිකව සිදු වේ.

1:05 Apple's මිනුම් පෙන්වන්නේ විකේතන වේගය තනි යන්ත්‍රයකට ඉතා සමානව පවතින බවයි. ඔබ දෙවන කුක් කුලියට ගෙන, ඔවුන්ට එකම සැන්ඩ්විච් ලබා දී ඇත. Hacker News හි, එක් සංවර්ධකයෙක් ප්‍රශ්න කළේ Apple හි වගුවේ හතර-බිට් Meta ආකෘතියක් එහි ස්වදේශීය නිරවද්‍යතාවයෙන් Qwen ආකෘතියක් අසල භාවිතා කළේ මන්දැයි යන්නයි. Apple හි වගුව ආකෘති ප්‍රකාශ කරයි, එබැවින් සාප්පු සවාරි යාමට පෙර පාද සටහන් කියවන්න. ස්ලයිඩ් තට්ටුවේ මිණුම් සලකුණු පරාජය නොවී පවතී. ටෙන්සර් සමාන්තරකරණය එක් එක් ස්ථරය හරහා කපා දමයි. බහු Mac පරිගණක එකම ස්ථරයේ කොටස් එකට වැඩ කරයි, පසුව ඔවුන්ගේ ප්‍රතිඵල ඒකාබද්ධ කරයි.

1:29 එය උත්පාදනය වේගවත් කළ හැකි නමුත්, යන්ත්‍ර නැවත නැවත සන්නිවේදනය කරයි.

Thunderbolt මගින් Mac පරිගණක එකට වැඩ කිරීමට උපකාර කරන්නේ කෙසේද?

1:32 Apple Thunderbolt හරහා අඩු ප්‍රමාද දුරස්ථ මතක ප්‍රවේශය භාවිතා කරයි. කේබලයක් සඳහා නිර්භීත වෘත්තීය පියවරක්. ප්‍රධාන ප්‍රතිඵලය වන්නේ M5 Ultra Mac Studio හතරකින් තත්පරයකට ටෝකන තිස් හයකට වඩා වැඩි වීමයි, දළ වශයෙන් ටෝකන අට දහසක සන්දර්භයක් සමඟ. Apple එයම මැන බැලුවේය. දිගු විමසීම් කතාව වෙනස් කරයි. එක් විශාල සන්දර්භ පරීක්ෂණයකදී, එක් සබැඳියකට කේබල් දෙකක් පළමු ටෝකනය සඳහා රැඳී සිටීම තත්පර දහයකින් පමණ අඩු කළේය. දේශීය ආකෘතියක් ඔබට විමසීම් වටා ප්‍රයෝජනවත් සීමාවක් ලබා දෙයි, ඔබේ සැබෑ සැකසුම ඒවා දේශීයව තබා ගන්නේ නම්.

1:55 Apple සත්කාරක API වලට එරෙහිව විශ්වීය සමතුලිත මිලක් සපයා නැත. එය උපයෝගීතාවය සහ ඔබට අවශ්‍ය ආකෘතිය මත රඳා පවතී. කලාතුරකින් ප්‍රශ්නවලට පිළිතුරු සපයන යන්ත්‍රයක් ඉතා මිල අධික මේස ආභරණයක් ලෙස බොහෝ කාලයක් ගත කරයි. එම ආකෘතිය තෝරා ගැනීම ඔබේ වැඩ සඳහා පරීක්ෂණයක් අවශ්‍ය වේ. Mercor මිණුම් සලකුණු විසි නවයක් ඇමරිකානු රැකියා වර්ගීකරණයට සිතියම්ගත කළේය. එහි දර්ශකය දළ වශයෙන් කාර්යයන් දහනව දහසකින් නවසියයක් ආවරණය කරයි. සිතියම ඇස්තමේන්තු කරන්නේ වැඩ කරන වේලාවන්ගෙන් සියයට අනූවකට මිණුම් සලකුණු ආවරණය ඉතා අඩු හෝ නොමැති බවයි. එය විභාග ප්‍රශ්න පත්‍රයේ දැවැන්ත හිස් ඉඩකි. Mercor හි සිතියම ආවරණය මනිනු ලබයි.

2:17 හිස් රැකියාවකට යන්තම් පරීක්ෂා කරන ලද කාර්යයන් ඇත; ආකෘති හැකියාව විවෘත ප්‍රශ්නයක් ලෙස පවතී. සිතියම්කරණය AI ආකෘතියක් භාවිතා කළේය, Mercor හිම මිණුම් සලකුණු විමසීම්වල උප කුලකයක් මත මානව සමාලෝචනයක් සමඟින්. සමාලෝචකයින් එහි පළමු තේරීම්වලින් හතරෙන් තුනක් පමණ පිළිගත්තේය.

AI මිණුම් සලකුණු ඇත්තටම ආවරණය කරන්නේ කුමන කාර්යයන්ද?

2:21 ශ්‍රේණිගත කිරීමේ පද්ධතියට එහිම ශ්‍රේණිගත කිරීමේ පද්ධතියක් අවශ්‍ය වේ, ස්වාභාවිකවම. එබැවින් ඔබේ රැකියාව ගැන ඔබ කනස්සල්ලෙන් සිටින්නේ නම්, නායකත්ව මණ්ඩලයකට තර්කය විසඳිය නොහැක. ඔබ කේතකරණ සහායකයෙකු මිලදී ගන්නේ නම්, ඔබේම පිළිගැනීමේ පරීක්ෂාවන් සමඟ සැබෑ කාර්යයක් නැවත ධාවනය කරන්න. ප්‍රයෝජනවත් කාර්යයට නිරූපණයෙන් පසු අපහසු කොටස් ඇතුළත් වේ. චැට්බෝට් වැරදි පැතුරුම්පත විශ්වාසයෙන් අවසන් කළ නිසා කිසිවෙකුට උසස්වීම් නොලැබේ. එය අපව රාත්‍රී යාවත්කාලීන කිරීමට ගෙන එයි. OpenCode පවසන්නේ ආරක්ෂක උල්ලංඝනයක් Console පරිශීලකයන්ගෙන් සියයට 1.4කට බලපෑ බවයි. එහි සංස්කරණය කරන ලද දැන්වීම බාහිර සැපයුම්කරුවන් සම්බන්ධ කර ඇති උප කුලකයකට එය පටු කරන අතර, බලපෑමට ලක් වූ පරිශීලකයන්ට ඊමේල් යවා ඇති බව පවසයි. එය මෙය විශාල පරිමාණ ආසවන ප්‍රහාරයක් ලෙස හඳුන්වන අතර, සිදුවීම දිගටම පවතින බව පවසයි. පොදු මූල හේතුවක් තවමත් ලැබී නැත.

2:49 පිළිතුරු වලට අතුරුදහන් වූ සැපයුම්කරු ණය වාර්තා කරන පුද්ගලයන් ඇතුළත් වේ, එය ඔවුන්ගේ සිදුවීම් පිළිබඳ විස්තරයයි. දැන්වීම මගින් එක් එක් පුද්ගලයාගේ පාඩු හෝ වන්දි ස්ථාපිත නොකරයි. Apple විසින් OpenCode දේශීය අනුමානයට සම්බන්ධ කරන්නේ කෙසේදැයි පෙන්වා දී තිබූ අතර, දැන් එහි නම ආරක්ෂක අනතුරු ඇඟවීමක් අසල ඇත. නිෂ්පාදන නාමය විවිධ විශ්වාස සීමා කිහිපයක් ආවරණය කරයි. Console පරිශීලකයින් නිල දැන්වීම කියවා සැපයුම්කරු භාවිතය පරීක්ෂා කළ යුතුය. ඔබ බලපෑමට ලක්වී ඇත්නම්, ප්‍රතිකාර උපදෙස් අනුගමනය කර සම්බන්ධිත අක්තපත්‍ර සමාලෝචනය කරන්න. මෙම දැන්වීම අපට සත්කාරක Console විෂය පථයක් ලබා දෙයි.

OpenCode පවසන්නේ රාත්‍රියේදී බලපෑමට ලක්වූයේ කවුරුන්ද?

3:13 එය සෑම දේශීය ස්ථාපනයකම සම්මුතියක් පිළිබඳ කිසිදු සාක්ෂියක් මෙහි සපයන්නේ නැත. මෙන්න සම්බන්ධතාවය. Apple හි ලිපියේ OpenCode එහි දේශීය ආකෘති සේවාදායකය සඳහා සේවාලාභියෙකු ලෙස නම් කරයි. එකම කේතකරණ අතුරු මුහුණත ඉතා වෙනස් යටිතල පහසුකම් ඉදිරිපිට සිටිය හැකිය. එය Mac පරිගණක හතරක් මිලදී ගැනීමෙන් ලැබෙන දේට පිළිතුරු සපයයි. ධාරිතාව, සහ ඔබට පරිපාලනය කළ හැකි අනුමාන සීමාවක්. එම සීමාව වටා ඇති සේවාවන් තවමත් ඔවුන්ගේම සමාලෝචනයක් ලැබිය යුතුය. මගේ මිලදී ගැනීමේ රීතිය සරලයි.

3:38 ආකෘතියට ගැලපෙන බව ඔප්පු කරන්න, සම්පූර්ණ කාර්යය මැන බලන්න, සහ අක්තපත්‍ර දරණ සෑම සේවාවක්ම පරීක්ෂා කරන්න. Apple හි ප්‍රතිඵලය මගින් විශාල දේශීය අනුමානය වඩාත් ප්‍රායෝගික කරයි, නල මාර්ග පරීක්ෂණය මගින් දෘඪාංග එකතු කිරීම බලාපොරොත්තු සුන් කරන්නේ මන්දැයි පැහැදිලි කරයි. ඔබගේ පිළිගැනීමේ පරීක්ෂණය මිලදී ගැනීමේ ඇණවුම අසල තිබිය යුතුය. ඔබ මට එය කියනු ඇසීමට වඩා මෙය කියවීමට කැමති නම්, diff සෑම උදෑසනකම ඔබේ එන ලිපි පෙට්ටියට පැමිණේ, daily diff dot dev හි නොමිලේ, පහත සබැඳිය. එබැවින් අද දින තීන්දුව NEEDS REVIEW. මම පොකුර මිලදී ගැනීමට පෙර මගේ සැබෑ වැඩ බර මැන බලනවා.

දේශීය අනුමානය ඔබගේ පාලනය යටතට පත් කරන්නේ කුමක්ද?

4:02 දායක වන්න, සීනුව ඔබන්න, සහ ඔබ එය වෙනස් ලෙස මුද්දර කරන්නේ නම් අදහස් දැක්වීමේදී මට කියන්න. සහ අද දින සඳහා diff එයයි. මම Axrisi වෙතින් Niko. වගකීමෙන් ඒකාබ්‍රහ්ම කරන්න. You'd expect two Macs to make your AI twice as fast. Apple's own tests show generation speed can stay almost unchanged. In this video, what do four Macs buy? What do benchmarks miss?

4:23 One coding tool connects the hardware to an overnight breach. We'll come back to it. For Saturday, October seventeen, this is The Daily Diff. MLX is Apple's open source array framework for machine learning on Apple silicon. Its new test runs Meta's Muse Spark Open across four Mac Studios.

මම Mac පරිගණක හතරේ පොකුරක් මිලදී ගන්නවාද?

4:40 It uses unified memory, which the CPU and GPU share. Apple published this on October fifteen. Mercor mapped the work AI benchmarks barely measure. We're covering the October seventeen edition, with an overnight October eighteen update about OpenCode Console. Start with the inconvenient bit.

මූලාශ්‍ර

1. Local and Distributed Large LLM Inference with MLX and RDMA on Mac StudioApple Machine Learning Research
2. A benchmark map of the US economyMercor
3. Benchmark Map methodology and expert reviewMercor
4. Edited security-breach notice with Console scopeOpenCode
5. Reader questions mixed benchmark precision formatsHacker News · peri-cl (reader opinion)
6. User reports vanished provider credit (unverified loss claim)Amruth Pillai on X