የአፕል MLX የተከፋፈለ ግምት፡ የሞዴል አቅም፣ ፍጥነት እና የታማኝነት ወሰኖች

ይህ ቪዲዮ ምን ይሸፍናል

• የሞዴል ክብደቶች እና የግምት የስራ ቦታ ሁለቱም ማህደረ ትውስታን ይበላሉ፤ የአንድ ሞዴል የክብደት አሻራ ብቻ የሚያስፈልገውን አቅም ሊያሳንስ ይችላል።
• የፓይፕላይን ትይዩነት ተከታታይ ንብርብሮችን ያከፋፍላል፣ የቴንሰር ትይዩነት ግን በእያንዳንዱ ንብርብር ውስጥ ስራን ይከፋፍላል እና ተደጋጋሚ ዝቅተኛ መዘግየት ግንኙነት ያስፈልገዋል።
• አፕል አራት M5 Ultra Mac Studios ላይ ከ8,192-ቶከን ኮንቴክስት ጋር በሰከንድ ከ36 በላይ ቶከኖች ማመንጨቱን ሪፖርት ያደርጋል፤ የኬብል ንጽጽር በ65,536-ቶከን ኮንቴክስት ላይ የመጀመሪያ-ቶከን መጠበቅን ይመለከታል።
• የ Mercor's 90% የስራ ሰዓት ግኝት በተመረጠው የቤንችማርክ ኢንዴክስ ውስጥ ትንሽ ወይም ምንም ሽፋን አለመኖሩን ይገልጻል። 90% የሞዴል ውድቀት መጠን አያረጋግጥም።
• የ OpenCode የተስተካከለ ማስታወቂያ ከተገናኙ ውጫዊ አቅራቢዎች ጋር የ Console ተጠቃሚዎች ንዑስ ክፍልን ይገልጻል። የህዝብ ማስታወቂያ እያንዳንዱ የአካባቢ ጭነት መበላሸቱን አያረጋግጥም።
• ትክክለኛውን የስራ ጫናዎን ይፈትሹ እና የአካባቢ ሞዴል ማዋቀርን እንደ ሙሉ ግላዊነት ወይም የወጪ መፍትሄ ከማሰብዎ በፊት የእውቅና ማረጋገጫ ያላቸውን አገልግሎቶች ይገምግሙ።

የተተረጎመ ግልባጭ

ከዋናው የእንግሊዝኛ ትረካ የተተረጎመ። የሚገኙ ኦዲዮ እና መግለጫ ጽሑፎች በYouTube ቁጥጥር ስር ናቸው።

ሁለት ማክ ኮምፒውተሮች ለምን ተመሳሳይ ፍጥነት ሊቆዩ ይችላሉ?

0:00 ሁለት ማክ ኮምፒውተሮች የእርስዎን AI በእጥፍ ያፋጥናሉ ብለው ይጠብቃሉ። የአፕል የራሱ ሙከራዎች የጄኔሬሽን ፍጥነት ከሞላ ጎደል ሳይለወጥ ሊቆይ እንደሚችል ያሳያሉ። በዚህ ቪዲዮ ውስጥ አራት ማክ ኮምፒውተሮች ምን ይሰጣሉ? ቤንችማርኮች ምን ያጣሉ? አንድ የኮዲንግ መሳሪያ ሃርድዌሩን ከሌሊት ጥሰት ጋር ያገናኛል። ወደዚያ እንመለሳለን። ለቅዳሜ ጥቅምት አስራ ሰባት፣ ይህ The Daily Diff ነው። MLX በአፕል ሲሊኮን ላይ ለማሽን ትምህርት የአፕል ክፍት ምንጭ አሬይ ማዕቀፍ ነው።

0:22 የአፕል ሲሊኮን። አዲሱ ሙከራው የ Meta's Muse Spark Openን በአራት ማክ ስቱዲዮዎች ላይ ያካሂዳል። ሲፒዩ እና ጂፒዩ የሚጋሩትን የተዋሃደ ማህደረ ትውስታን ይጠቀማል። አፕል ይህን ጥቅምት አስራ አምስት ላይ አሳትሞታል። Mercor የ AI ቤንችማርኮች እምብዛም የማይለኩትን ስራ ለካ። እኛ ጥቅምት አስራ ሰባት እትምን እንሸፍናለን፣ ከሌሊት ጥቅምት አስራ ስምንት ስለ OpenCode Console ማሻሻያ ጋር።

ሞዴሉ ከአንድ በላይ ማክ ለምን ያስፈልገዋል?

0:41 ከማያስመችው ክፍል እንጀምር። የአፕል ሙዝ ስፓርክ ኦፕን ሙከራ ለአራቱ ባለ አራት ቢት ሞዴል ብቻ አምስት መቶ ጊጋባይት ያህል ይጠቀማል። አንድ ነጠላ ማክ ስቱዲዮ ቢበዛ አምስት መቶ አስራ ሁለት ጊጋባይት ይይዛል፣ እና ግምትም የስራ ማህደረ ትውስታ ያስፈልገዋል። ቦርሳውን አንድ ካልሲ እንኳን ከማሸግዎ በፊት ክብደቱ ሊሞላው ተቃርቧል። ተጨማሪ ማሽኖች ሞዴሉ እንዲገባ ያደርጉታል። የፓይፕላይን ትይዩነት ሞዴሉን በንብርብሮቹ በኩል ይቆርጣል። ማክ ኤ የቀድሞዎቹን ንብርብሮች ይሠራል፣ ከዚያም መካከለኛውን ውጤት ለ Mac B ያስተላልፋል

1:05 ለኋለኞቹ ንብርብሮች። ለአንድ የተፈጠረ ቶከን፣ እነዚህ እርምጃዎች አሁንም በተከታታይ ይከሰታሉ። የአፕል መለኪያዎች የመፍታታት ፍጥነት ከአንድ ማሽን ጋር በጣም ተመሳሳይ ሆኖ እንደሚቆይ ያሳያሉ። ሁለተኛ ምግብ አዘጋጅ ቀጥረዋል፣ እና ተመሳሳይ ሳንድዊች ሰጥተዋቸዋል። በ Hacker News ላይ፣ አንድ ገንቢ የአፕል ሰንጠረዥ ባለ አራት ቢት ሜታ ሞዴልን ከ Qwen ሞዴል ከራሱ ትክክለኛነት ጋር ለምን እንደተጠቀመ ጠየቀ። የአፕል ሰንጠረዥ ቅርጸቶቹን ይገልጻል፣ ስለዚህ ከመግዛትዎ በፊት ማስታወሻዎቹን ያንብቡ። የስላይድ ዴክ ቤንችማርኮች ሳይሸነፉ ይቀራሉ።

1:29 የቴንሰር ትይዩነት በእያንዳንዱ ንብርብር ላይ ይቆርጣል።

ተንደርቦልት ማኮቹ አብረው እንዲሰሩ እንዴት ይረዳል?

1:32 በርካታ ማኮች የአንድ ንብርብር ክፍሎችን አብረው ይሠራሉ፣ ከዚያም ውጤቶቻቸውን ያጣምራሉ። ይህ የጄኔሬሽን ፍጥነትን ሊያፋጥን ይችላል፣ ግን ማሽኖቹ በተደጋጋሚ ይገናኛሉ። አፕል በተንደርቦልት ላይ ዝቅተኛ መዘግየት የርቀት ማህደረ ትውስታ መዳረሻን ይጠቀማል። ለኬብል ደፋር የሙያ እንቅስቃሴ። ዋናው ውጤት አራት M5 Ultra Mac Studios በሰከንድ ከሰላሳ ስድስት ቶከኖች በላይ ማመንጨታቸው ነው፣ ከስምንት ሺህ ቶከኖች ያህል አውድ ጋር። አፕል ራሱ ለክቶታል።

1:55 ረዣዥም ጥያቄዎች ታሪኩን ይለውጣሉ። በአንድ ትልቅ የአውድ ሙከራ፣ በእያንዳንዱ አገናኝ ሁለት ኬብሎች የመጀመሪያውን ቶከን መጠበቅን በአስር ሰከንዶች ያህል ቀንሰዋል። አካባቢያዊ ሞዴል በጥያቄዎች ዙሪያ ጠቃሚ ወሰን ይሰጥዎታል፣ ትክክለኛው አቀማመጥዎ በአካባቢው እስካስቀመጣቸው ድረስ። አፕል ለአስተናጋጅ ኤፒአይዎች ዓለም አቀፍ የእኩልነት ዋጋ አልሰጠም። ይህ በአጠቃቀም እና በሚያስፈልግዎ ሞዴል ላይ የተመሰረተ ነው። አልፎ አልፎ ለሚነሱ ጥያቄዎች የሚመልስ ማሽን በጣም ውድ የሆነ

2:17 የዴስክ ጌጣጌጥ ሆኖ ብዙ ጊዜ ያሳልፋል። ያንን ሞዴል መምረጥ ለስራዎ ሙከራ ይጠይቃል።

የ AI ቤንችማርኮች በእርግጥ ምን አይነት ስራ ይሸፍናሉ?

2:21 Mercor ሃያ ዘጠኝ ቤንችማርኮችን በአሜሪካ የስራዎች ምደባ ላይ ለካ። የእሱ ኢንዴክስ ከሞላ ጎደል አስራ ዘጠኝ ሺህ ስራዎች ውስጥ ዘጠኝ መቶ ያህሉን ይሸፍናል። ካርታው የዘጠና በመቶው የስራ ሰዓት ትንሽ ወይም ምንም የቤንችማርክ ሽፋን እንደሌለው ይገምታል። ይህ በፈተና ወረቀቱ ላይ ትልቅ ባዶ ቦታ ነው። የ Mercor ካርታ ሽፋን ይለካል። ባዶ የስራ መስክ እምብዛም ያልተፈተኑ ተግባራት አሉት፤ የሞዴል ችሎታ ክፍት ጥያቄ ሆኖ ይቀራል። ካርታው የ AI ሞዴልን ተጠቅሟል፣ በ Mercor የራሱ የቤንችማርክ ጥያቄዎች ንዑስ ክፍል ላይ የሰው ግምገማ ተካሂዷል። የ Mercor የራሱ ቤንችማርክ ጥያቄዎች ንዑስ ክፍል ላይ የሰው ግምገማ ተካሂዷል።

2:49 ገምጋሚዎች ከመጀመሪያዎቹ ምርጫዎቹ ውስጥ ወደ ሦስት አራተኛ የሚጠጉትን ተቀብለዋል። የምዘና ስርዓቱ የራሱን የምዘና ስርዓት ያስፈልገዋል፣ በተፈጥሮ። ስለዚህ ስለ ስራዎ የሚያሳስብዎት ከሆነ፣ የመሪዎች ሰሌዳ ክርክሩን ሊፈታው አይችልም። የኮዲንግ ረዳት እየገዙ ከሆነ፣ ትክክለኛ ስራን ከራስዎ ተቀባይነት ማረጋገጫዎች ጋር እንደገና ይጫወቱ። ጠቃሚ ስራ ማሳያውን ተከትሎ የሚመጡትን አስቸጋሪ ክፍሎች ያካትታል። ቻትቦቱ የተሳሳተውን ስፕሬድሺት በልበ ሙሉነት ስላጠናቀቀ ማንም አይሸለምም። ይህ ወደ ሌሊቱ ማሻሻያ ያመጣናል።

OpenCode በሌሊት ማን እንደተነካ ይላል?

3:13 OpenCode የደህንነት ጥሰት 1.4 በመቶ የሚሆኑ የ Console ተጠቃሚዎችን ነክቷል ይላል። የተስተካከለው ማስታወቂያ ይህንን ከተገናኙ ውጫዊ አቅራቢዎች ጋር ወደ ንዑስ ክፍል ጠባብ ያደርገዋል፣ እና የተነኩ ተጠቃሚዎች ኢሜይል እንደተደረጉ ይናገራል። ይህን ትልቅ የዲጂታል ጥቃት ብሎ ይጠራዋል፣ እና ክስተቱ እንደቀጠለ ይናገራል። የህዝብ ዋና መንስኤ ገና አልደረሰም። ምላሾች የጠፉ የአቅራቢ ክሬዲት ሪፖርት የሚያደርጉ ሰዎችን ያካትታሉ፣ ይህም የእነሱ የክስተቶች መግለጫ ነው። ማስታወቂያው የእያንዳንዱን ሰው ኪሳራ ወይም ካሳ አያረጋግጥም።

3:38 አፕል OpenCodeን ከአካባቢው ግምት ጋር እንዴት ማገናኘት እንደሚቻል ገና አሳይቶ ነበር፣ እና አሁን ስሙ ከደህንነት ማስጠንቀቂያ ጋር ተያይዟል። የምርት ስሙ ብዙ የተለያዩ የታማኝነት ወሰኖችን ይሸፍናል። የ Console ተጠቃሚዎች ይፋዊ ማስታወቂያውን ማንበብ እና የአቅራቢዎችን አጠቃቀም መፈተሽ አለባቸው። ከተነካችሁ፣ የማስተካከያ መመሪያዎችን ተከተሉ እና የተገናኙትን ምስክርነቶች ይገምግሙ። ይህ ማስታወቂያ የተወሰነ የተስተናገደ የ Console ወሰን ይሰጠናል። እዚህ በእያንዳንዱ የአካባቢ ጭነት ላይ ስለደረሰ ጉዳት ምንም ማስረጃ አይሰጥም።

አካባቢያዊ ግምት ምን በቁጥጥርዎ ስር ያደርጋል?

4:02 ግንኙነቱ ይኸውና። የአፕል ጽሑፍ OpenCodeን ለአካባቢያዊ ሞዴል አገልጋዩ እንደ ደንበኛ ሰይሞታል። ተመሳሳይ የኮዲንግ በይነገጽ ከበጣም የተለያዩ የመሠረተ ልማት ግንባታዎች ፊት ለፊት ሊቀመጥ ይችላል። ይህ አራት ማክ ኮምፒውተሮች ምን እንደሚያቀርቡ ይመልሳል። አቅም፣ እና እርስዎ ሊያስተዳድሩት የሚችሉት የግምት ወሰን። በዚያ ወሰን ዙሪያ ያሉ አገልግሎቶች አሁንም የራሳቸውን ግምገማ ይገባቸዋል። የእኔ የግዢ ህግ ቀላል ነው። ሞዴሉ ተስማሚ መሆኑን ያረጋግጡ፣ አጠቃላይ ስራውን ይለኩ፣ እና ሁሉንም ምስክርነት የያዘ አገልግሎት ያረጋግጡ።

4:23 የአፕል ውጤት ትልቅ አካባቢያዊ ግምትን የበለጠ ተግባራዊ ያደርጋል፣ የፓይፕላይን ሙከራ ግን ሃርድዌር መጨመር ለምን ተስፋ አስቆራጭ ሊሆን እንደሚችል ያብራራል። የእርስዎ ተቀባይነት ሙከራ ከግዢ ትዕዛዝዎ ጋር አብሮ መሆን አለበት። ይህን መስማት ከምትመርጡት ማንበብ ከፈለጉ፣ ዲፉ በየማለዳው ወደ ገቢ መልዕክት ሳጥንዎ ይደርሳል፣ በ daily diff dot dev ላይ በነጻ፣ አገናኙ ከታች አለ።

የአራት ማክ ስብስብ እገዛ ነበር?

4:40 ስለዚህ የዛሬው ፍርድ NEEDS REVIEW ነው። ስብስቡን ከመግዛቴ በፊት ትክክለኛ የስራ ጫናዬን እለካለሁ። ሰብስክራይብ ያድርጉ፣ ደወሉን ይጫኑ፣ እና የተለየ ማህተም ባደረጉበት ሁኔታ በአስተያየቶቹ ውስጥ ይንገሩኝ። በተለየ። እና የዛሬው ዲፍ ይሄው ነው። እኔ ከ Axrisi ኒኮ ነኝ። ኃላፊነት በተሞላበት መንገድ ያዋህዱ።

ምንጮች

1. Local and Distributed Large LLM Inference with MLX and RDMA on Mac StudioApple Machine Learning Research
2. A benchmark map of the US economyMercor
3. Benchmark Map methodology and expert reviewMercor
4. Edited security-breach notice with Console scopeOpenCode
5. Reader questions mixed benchmark precision formatsHacker News · peri-cl (reader opinion)
6. User reports vanished provider credit (unverified loss claim)Amruth Pillai on X