GPT-6 Astra የሌላ AI ማለቂያ የሌለውን አስተሳሰብ አሻሽሏል

ይህ ቪዲዮ ምን ይሸፍናል

• የተዘገበው የQwen ውጤት መጨመር የመጣው ተደጋጋሚ የማመዛዘን ስህተት የታለመ ጥገና ነው። በዋናው ፕሮቶኮል ውስጥ ከተስተካከሉት መልሶች ውስጥ አንድ ሶስተኛው ያህሉ አሁንም የርዝመት ገደቡን አልፈዋል።
• ግራዲየንት ስልጠና የተከለከለ ሲሆን፣ ፓይዘን፣ የተግባር መልሶች እና በብዙ ዙሮች ውስጥ የሞዴል-አሂድ ግብረመልስ ተፈቅዶላቸዋል። የመጨረሻው የግምገማ ጥያቄዎች እንዳይገለጡ ታውጆ ነበር።
• ትናንሽ ያልተሰራ ክብደት እና ያለምንም ሙከራ የተደረጉ የጨዋታ ሙከራዎች የተለያዩ ሁኔታዎችን ተጠቅመዋል። የይገባኛል ጥያቄዎቻቸው የግለሰብ መሳሪያቸውን፣ ግብዓታቸውን እና የመነሻ ወሰናቸውን ማቆየት አለባቸው።
• ማቲው ሆኒባል መሳሪያ የታገዘውን ምህንድስና ያመሰግናል እና ሙከራዎቹን በማሰባሰብ የሚፈጠረውን ሰፊ ​​ግምት ይቃወማል።
• ትንሹ Gemma ክትትል የራሱን ዝግጅት ተጠቅሞ መሻሻልን ማረጋገጥ አልቻለም። የክብደት ማስተካከያውን ለሌላ ሞዴል ከመተግበርዎ በፊት የትኛውን ስህተት እንደሚያስተካክል ይሞክሩ።

የተተረጎመ ግልባጭ

ከዋናው የእንግሊዝኛ ትረካ የተተረጎመ። የሚገኙ ኦዲዮ እና መግለጫ ጽሑፎች በYouTube ቁጥጥር ስር ናቸው።

የሂሳብ ውጤቱ ለምን ጨመረ?

0:00 አንድ AI ሌላ AI ስድስት እጥፍ ብልህ እንዲሆን ማድረግ ፈጣን ብልህነት ይመስላል። የአስትራ ትልቅ የውጤት ዝላይ Qwen ተደጋጋሚ መልሶችን ማጠናቀቅ እንዲችል በመርዳት የመጣ ነው። በዚህ ቪዲዮ ውስጥ ምን ተቀየረ? Astra ምን እገዛ አገኘ? እና ጥገናው ምን ያህል ይረዝማል? Qwen ከስምንት በመቶ ገደማ ወደ አርባ ስምንት በመቶ ከፍ ብሏል። ተመራማሪዎቹ ምንም አይነት ተደጋጋሚነት የሌለውን ሁለተኛ ሞዴል ሞክረዋል። ውሳኔው ከመሰጠቱ በፊት እንዴት እንደሄደ እናያለን።

0:22 ማክሰኞ፣ ህዳር ሶስት ነው፣ እና ይሄ The Daily Diff ነው። የክብደት-ቦታ ፕሮግራሚንግ ተመራማሪዎቹ ለአንድ AI ጥያቄ የነርቭ ኔትወርክ ውስጥ ያሉትን ቁጥሮች እንዲመረምር ወይም እንዲጽፍ መጠየቅ የሚሰጡት ስም ነው። እነዚያ ቁጥሮች ክብደቶቹ ናቸው። ይህ ከMIT ጋር የተገናኘ ቡድን OpenAI's GPT ስድስት Astraን ተጠቅሞ ትንሽ Qwen ቋንቋ ሞዴልን አርትዖት አድርጓል፣ የተለመደው ስልጠና የተከለከለ ነበር። ሪኪያ ታኬሂ እና አብሮ ደራሲዎቹ ሰኞ ዕለት ጥናቱን አሳትመዋል፣

0:44 አሁን ያለ AI ስለሌላ ኔትወርክ ውስጣዊ ነገሮች ማመዛዘን ይችል እንደሆነ ጠይቀዋል። የእነሱ ዋና ውጤት በጣም የሚታወቅ ነው። በሂሳብ አምስት መቶ፣ Qwen ከስምንት በመቶ ገደማ ወደ አርባ ስምንት በመቶ ከፍ ብሏል። ከሞላ ጎደል ስድስት እጥፍ ትክክለኛ መልሶች። Qwen መልስ ለመስጠት ቦታ እስኪያጣ ድረስ ማሰብ ቀጠለ።

Qwen ምን ስህተት እየሰራ ነበር?

1:00 በማሰብ ሁነታ ላይ፣ ብዙ ጊዜ የማመዛዘን ሂደቱን ይደግማል። አንድ ተማሪ የፈተና ደብተሩን ደወሉ እስኪጮህ ድረስ ስራውን ሲሞላው አስቡት። ምልክት ሰጪው አሁንም መልስ ያስፈልገዋል። አብዛኛዎቹ የመጀመሪያ መልሶች የርዝመት ገደቡን አልፈዋል። Astra በሁለት ውስጣዊ ንብርብሮች ውስጥ የተደጋጋሚነት አቅጣጫን አገኘች፣ ከዚያም አስተዋፅኦውን ከተመረጡት የክብደት ዓምዶች ላይ አስወገደች። ከዚያ ማስተካከያ በኋላ፣ ብዙ መልሶች ወደ መደምደሚያ ደርሰዋል። በተዘገበው ፈተና ውስጥ አንድ ሶስተኛው ያህሉ አሁንም ገደቡን አልፈዋል።

1:22 የፈተና ደብተሩ በመጨረሻ የመጨረሻ መስመር አገኘ። ዛሬ፣ ማቲው ሆኒባል፣ የspaCy ፈጣሪ እና የExplosion ተባባሪ መስራች፣

የዛሬው ተቺ ምንን ይቃወማል?

1:28 አቀራረቡን ተከራከረ። አንባቢዎች የሙከራዎቹን የተለያዩ ሁኔታዎች በአንድ ላይ በማዋሃድ አንድ አስደናቂ ዘዴ እንደሆነ ሊያስቡ ይችላሉ ይላል። የእሱ ተቃውሞ የእነሱን የተጣመረ ታሪክ ይመለከታል። ሁኔታዎቹን እራሳችን ማረጋገጥ እንችላለን። የQwen ሙከራ Astraን በክብደቶች ላይ የፓይዘን ማስታወሻ ደብተር እና የተግባር

Astra በእርግጥ ምን እገዛ አገኘ?

1:44 ችግሮችን ከመልሶች ጋር ሰጠው። በብዙ ዙሮች ውስጥ፣ ውስጣዊ እንቅስቃሴዎችን ፈትሾ የመጀመሪያውን እና የተስተካከሉ ስሪቶችን አወዳድሯል። የመጨረሻው በጀት ሃምሳ የሞዴል አሂድ ባቾችን ፈቀደ። እያንዳንዱ ትውልድ ባች በመቶዎች የሚቆጠሩ መልሶች ሊይዝ ይችላል። የተግባር መረጃ የመጣው ከስልጠና ክፍፍሎች ነው። ተመራማሪዎቹ Astra የመጨረሻዎቹን የግምገማ ስብስቦች አይቶ አያውቅም ይላሉ። ግብረመልስ ማስተካከያውን ለመምረጥ ረድቷል፤ ከዛ በኋላ የተለዩ ችግሮች ለካው። የናሙና ቅንጅቶች ከመጀመሪያው እና ከተስተካከለው Qwen መካከል ሳይቀየሩ ቆዩ፣

2:09 ይህም የዚህ ፕሮቶኮል የውጤት ንጽጽር እንዲረዳ ያደርገዋል። የመጀመሪያው ጥያቄ ጠቃሚ የላብራቶሪ ተቆጣጣሪ ሰጠው። ስህተቶችን መርምር፣ ተጠያቂ የሆኑትን አካላት አግኝ፣ በተመሳሳይ ችግሮች ላይ አወዳድር፣ እና ብዙ ጥንካሬዎችን ሞክር። የተደጋጋሚ አስተሳሰብን እንደ ማስተካከያ በግልፅ ጠቅሷል። የድህረ ምረቃ ተማሪዎች የዚህን የምልመላ ፓኬጅ ሊደራደሩ ይገባል። ይህ አስደናቂ ጥገና ነው።

ትክክለኛው ጥገና ምን ያህል ትንሽ ነበር?

2:28 የአስትራ የታለመው ማስተካከያ ወደ መቶ ሰላሳ አንድ ሺህ ክብደቶችን ነክቷል። ይህ ከሞዴሉ የአስራ ስድስት ሺህኛ በመቶ ያህሉ ነው። የክብደት ፋይሉ በቀጥታ ተቀይሯል። ግራዲየንት ስልጠና የተከለከለ ነበር፤ ነባሩ ሞዴል ምላሽ ሰጠው የአስትራ አርትዖት ክፍለ ጊዜ ካለቀ በኋላ። ጥቅሙም መመሪያን ወደ መከተል ደርሷል። ተግባራዊ ውጤቱን ወድጄዋለሁ። አንድ ሞዴል የመበላሸት ሁነቱ ቀብሮ የሚይዘውን ጠቃሚ ስራ ሊይዝ ይችላል።

2:48 ያንን ብልሽት ማስተካከል ጠቃሚ መልሶችን መልሶ ማግኘት ይችላል። ማጠናቀቅ ይቆጠራል። ሆኒባል በመሳሪያ የታገዘውን ስራ ክብር ይሰጣል አንድ የሰው ማሽን-ትምህርት መሐንዲስ ሊያደርጋቸው የሚችሉ ስራዎችን በመስራቱ። ይህ ለአንድ ወኪል ትልቅ ጉዳይ ነው። ቅሬታው ትናንሽ ጥሬ-ቁጥር ማሳያዎች እና ትላልቅ በፓይዘን የታገዙ ጥገናዎች አንድ ላይ ሲሰባሰቡ ሰፋ ያለ መደምደሚያ እንዲፈጠር ማድረጋቸው ነው። ትናንሽ የጨዋታ ኔትወርኮችን እንውሰድ።

የትኞቹ ሙከራዎች በእውነት መሳሪያ አልነበራቸውም?

3:09 በአንድ ሙከራ ውስጥ፣ Astra ጥሬ ቁጥሮቻቸውን አንብቦ የትኛው ጨዋታ እያንዳንዱ ኔትወርክ እንደተማረ በትክክል ለየ። መሳሪያዎች የተከለከሉ ነበሩ። በሌላ ሙከራ ውስጥ፣ ህጎቹን እና ምንጭ ኮዱን ተጠቅሞ ከባዶ አዲስ የጨዋታ-መጫወቻ ክብደቶችን ጻፈ፣ ምንም አይነት የተግባር ሙከራዎች ሳይኖሩ። እነዚያ የተለየ ማስረጃ ያላቸው የተለዩ ማሳያዎች ናቸው። የአስትራ ኔትወርኮች በሁሉም ሶስት ጨዋታዎች ውስጥ ለመቶ ሚሊዮን እርምጃዎች የሰለጠነውን የመነሻ መስመር አሸንፈዋል። ከረጅም ጊዜ የሰለጠነው የመነሻ መስመር ጋር ሲወዳደር፣ በ Seaquest እና Asterix ተሸንፎ፣

3:32 Breakoutን አሸንፏል። የንጽጽር ዓምዱን ይቀይሩ፣ እና የድል ንግግሩ ማስተካከያ ያስፈልገዋል። በአጋጣሚ፣ አርትዖት የዛሬው ርዕስ ነው። ለሰፋ ያለ የይገባኛል ጥያቄ፣ በተለያዩ ስህተቶች ላይ በሞዴሎች መካከል መሻሻል እንፈልጋለን።

የበለጠ አጠቃላይ የይገባኛል ጥያቄ ምን ያስፈልገው ነበር?

3:44 አርታዒው ምን እንዳየ እና ምን እንደ ስኬት እንደተቆጠረ ይከታተሉ። የQwen ሞዴል ካርድ ቀድሞውኑ ስለ አስተሳሰብ ቀለበቶች ያስጠነቅቃል። ይህን የታወቀ መሰናክል ማስወገድ የተለየ መነሻ አለው። በጎነትን ለመስጠት፣ ደራሲዎቹ የማይመችውን ክትትል እራሳቸው አሳትመዋል። የማሰብ ቀለበቶችን ማቆም Qwen ቀደም ሲል ሊሰራባቸው የሚችላቸውን መልሶች እንዲያጠናቅቅ ያስችለዋል ብለው ያብራራሉ። የእነርሱ ምዝግብ ማስታወሻዎች ጥያቄዎችን፣ ግብረመልሶችን እና አርትዖቶችን ያካትታሉ። ስኬቱን መርምረን የበለጠ ከባድ ጥያቄ መጠየቅ እንችላለን።

ብዙም የማይደጋገመው ሞዴል ምን ገጠመው?

4:06 አሁን ሁለተኛው ሞዴል፣ የራሱ የሆነ ክትትል ያለው ትንሽ Gemma። እምብዛም አይደጋገምም ነበር፣ ስለዚህ ስህተቶቹ የተለመደ የተሳሳተ የሂሳብ ስሌት እና የተሳሳተ አልጀብራ ነበሩ። Astra የታለሙ የክብደት ማስተካከያዎችን ከተግባር ግብረመልስ ጋር ደግሞ ሞከረ። አንዳቸውም የሂሳብ ውጤቱን ከአንድ ነጥብ በላይ አላንቀሳቅሱም፣ እና ጥቅምም አልተረጋገጠም። የተሳካው የQwen ጥገና የሚያስወግደው መሰናክል ነበረው። የGemma የሂሳብ ስህተቶች ቀሩ። ይህ ለገንቢዎች ጠቃሚው ጥያቄ ነው።

4:28 ማስተካከያው የትኛውን ስህተት አሻሽሏል፣ እና የእርስዎ ሞዴል በእርግጥ ያንን ስህተት አለው? ብዜቱን ከማክበርዎ በፊት የተቀመጡትን ክብደቶች በራስዎ ተግባራት ላይ ይሞክሩ። የተስተካከለ ጠርሙስ እጅግ በጣም ጠቃሚ ሊሆን ይችላል፣ ቀጣዩ ጠርሙስ ግን በትክክል በነበረበት ቦታ ይቆያል። ይህን ከመስማት ይልቅ ማንበብ ከፈለጉ፣ ልዩነቱ በየማለዳው በኢሜልዎ ይደርሳል፣ በdaily diff dot dev በነጻ፣ አገናኙ ከታች።

የክብደት-አርትዖት የይገባኛል ጥያቄውን እቀበል ነበር?

4:47 ስለዚህ፣ የዛሬው ብይን NEEDS REVIEW ነው። የማሰብ ቀለበት ጥገናውን በቁም ነገር ወስጄ እሞክረዋለሁ። ሰፋ ያሉ የይገባኛል ጥያቄዎችን ከዚያ የስህተት ሁኔታ ባሻገር ባለው ስኬት እገድባለሁ። የደራሲዎቹ የራሳቸው ተቃራኒ ምሳሌ በመረጃው ውስጥ በጣም ጠቃሚው መስመር ነው። እና የዛሬው ልዩነት ይሄው ነው። እኔ ከAxrisi ኒኮ ነኝ። በኃላፊነት ይዋሃዱ።

ምንጮች

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above