GPT-6 Astra වෙනත් AI එකක නිමක් නැති චින්තනයට පැච් එකක් දැමීය

මෙම වීඩියෝවෙන් ආවරණය වන දේ

• වාර්තා වූ Qwen ලකුණු වැඩිවීම පුනරාවර්තන තර්කනයට ඉලක්කගත අලුත්වැඩියාවකින් සිදු විය; සංස්කරණය කරන ලද පිළිතුරු වලින් තුනෙන් එකක් පමණ ප්‍රාථමික ප්‍රොටෝකෝලය තුළ දිග සීමාවට ළඟා විය.
• ග්‍රේඩියන්ට් පුහුණුව තහනම් කරන ලදී, නමුත් Python, පුහුණු පිළිතුරු සහ කණ්ඩායම් ආකෘති ධාවන ප්‍රතිපෝෂණ බොහෝ වාර ගණනක් පුරා ඉඩ දෙන ලදී. අවසාන ඇගයීම් ප්‍රශ්න මූලාශ්‍රයෙන් රඳවා තබා ගන්නා ලදී.
• කුඩා අමු-බර සහ නො-රෝල්අවුට් ක්‍රීඩා අත්හදා බැලීම් විවිධ කොන්දේසි භාවිතා කළේය. ඒවායේ හිමිකම් තනි මෙවලම්, ආදාන සහ මූලික විෂය පථය රඳවා ගත යුතුය.
• Matthew Honnibal මෙවලම් ආධාරක ඉංජිනේරු විද්‍යාවට ගෞරව කරන අතර අත්හදා බැලීම් එකට එකතු කිරීමෙන් ඇතිවන පුළුල් හැඟීම ප්‍රතික්ෂේප කරයි.
• කුඩා Gemma පසු විපරම තමන්ගේම සැකසුමක් භාවිතා කළ අතර දියුණුවක් ස්ථාපිත කිරීමට අසමත් විය. බර සංස්කරණයක් අලුත්වැඩියා කරන අසාර්ථකත්වය කුමක්දැයි පරීක්ෂා කර එය වෙනත් ආකෘතියකට යෙදීමට පෙර එය පරීක්ෂා කරන්න.

පරිවර්තනය කරන ලද පිටපත

මුල් ඉංග්‍රීසි නිරූපණයෙන් පරිවර්තනය කරන ලදී. පවතින ශ්‍රව්‍ය සහ ශීර්ෂ පාඨ YouTube මගින් පාලනය වේ.

ගණිත ලකුණු වැඩි වූයේ ඇයි?

0:00 තවත් AI එකක් හය ගුණයකින් දක්ෂ කරන AI එකක් ක්ෂණික බුද්ධියක් ලෙස පෙනේ. Astra ගේ විශාල ලකුණු වැඩිවීම Qwen නැවත නැවතත් කරමින් සිටි පිළිතුරු අවසන් කිරීමට උපකාර කිරීමෙන් සිදු විය. මෙම වීඩියෝවේ, වෙනස් වූයේ කුමක්ද? Astra ට ලැබුණු උදව් කුමක්ද? සහ නිවැරදි කිරීම කෙතරම් දුරට ගමන් කරන්නේද? Qwen සියයට අටේ සිට සියයට හතළිස් අට දක්වා වැඩි විය. පර්යේෂකයන් ලූප පාහේ නොමැති දෙවන ආකෘතියක් උත්සාහ කළහ. තීන්දුවට පෙර එය සිදු වූ ආකාරය අපි බලමු.

0:22 අද නොවැම්බර් තුන්වන අඟහරුවාදා, මෙය The Daily Diff. බර-අවකාශ ක්‍රමලේඛනය යනු පර්යේෂකයන්ගේ නමයි AI එකකින් පරීක්ෂා කිරීමට හෝ ස්නායු ජාලයක් තුළ ඇති සංඛ්‍යා ලිවීමට ඉල්ලා සිටීමයි. එම සංඛ්‍යා එහි බර වේ. මෙම MIT-අනුබද්ධ කණ්ඩායම OpenAI හි GPT Six Astra භාවිතයෙන් කුඩා Qwen භාෂා ආකෘතියක් සංස්කරණය කළ අතර සාමාන්‍ය පුහුණුව තහනම් විය. Rikiya Takehi සහ ඔහුගේ සම කර්තෘවරු සඳුදා අධ්‍යයනය ප්‍රකාශයට පත් කළහ,

0:44 පවතින AI එකකට තවත් ජාලයක අභ්‍යන්තරය ගැන තර්ක කළ හැකිදැයි විමසමින්. ඔවුන්ගේ ප්‍රධාන ප්‍රතිඵලය ඉතා ක්ලික් කළ හැකිය. ගණිත පන්සීයේදී, Qwen සියයට අටේ සිට සියයට හතළිස් අට දක්වා ඉහළ ගියේය. නිවැරදි පිළිතුරු වලින් හය ගුණයක් පමණ. පිළිතුරු දීමට ඉඩ නැති වන තුරු Qwen දිගටම සිතමින් සිටියේය.

Qwen වැරදි කරමින් සිටියේ කුමක්ද?

1:00 චින්තන ආකාරය තුළ, එය බොහෝ විට එහි තර්කනය නැවත නැවතත් කළේය. විභාග පොතේ වැඩ වලින් පුරවා ගෙන සිටින ශිෂ්‍යයෙකු සීනුව නාද වන තුරු සිතන්න. ප්‍රශ්න පත්‍රය පරීක්ෂා කරන්නාට තවමත් පිළිතුරක් අවශ්‍යයි. බොහෝ මුල් පිළිතුරු දිග සීමාවට ළඟා විය. Astra අභ්‍යන්තර ස්ථර දෙකක පුනරාවර්තන දිශාවක් සොයා ගත්තේය, ඉන්පසු තෝරාගත් බර තීරු වලින් එහි දායකත්වය ඉවත් කළේය. එම සංස්කරණයෙන් පසු, තවත් පිළිතුරු නිගමනයකට එළඹුණි. වාර්තා වූ පරීක්ෂණයේදී තුනෙන් එකක් පමණ තවමත් සීමාවට ළඟා විය.

1:22 විභාග පොතට අවසානයේ අවසාන පේළියක් ලැබුණි. අද, spaCy හි නිර්මාතෘ සහ Explosion හි සම-නිර්මාතෘ Matthew Honnibal,

අද විචාරකයා කුමක් ගැන මතභේදයට තුඩු දෙනවාද?

1:28 ඉදිරිපත් කිරීම අභියෝගයට ලක් කළේය. ඔහු පවසන්නේ පාඨකයන්ට අත්හදා බැලීම්වල විවිධ කොන්දේසි එක් අසාමාන්‍ය තාක්‍ෂණයක හැඟීමක් බවට පත් කළ හැකි බවයි. ඔහුගේ විරෝධය ඔවුන්ගේ ඒකාබද්ධ කතාවට සම්බන්ධයි. අපට කොන්දේසි අප විසින්ම පරීක්ෂා කළ හැකිය. Qwen අත්හදා බැලීම Astra ට Python නෝට්බුක් එකක් බර සහ පුහුණු

Astra ට ඇත්ත වශයෙන්ම ලැබුණු උදව් කුමක්ද?

1:44 පිළිතුරු සහිත ගැටලු ලබා දුන්නේය. බොහෝ වාර ගණනක් පුරා, එය අභ්‍යන්තර සක්‍රිය කිරීම් පරීක්ෂා කළ අතර මුල් සහ සංස්කරණය කරන ලද සංස්කරණ සංසන්දනය කළේය. අවසාන අයවැය ආකෘති ධාවන කණ්ඩායම් පනහකට ඉඩ දුන්නේය. සෑම පරම්පරා කණ්ඩායමකම සිය ගණනක් පිළිතුරු අඩංගු විය හැකිය. පුහුණු දත්ත පුහුණු බෙදීම් වලින් ලබා ගන්නා ලදී. පර්යේෂකයන් පවසන්නේ Astra කිසි විටෙකත් අවසාන ඇගයීම් කට්ටල දුටුවේ නැති බවයි. ප්‍රතිපෝෂණ සංස්කරණය තෝරා ගැනීමට උපකාරී විය; රඳවා තබා ගත් ගැටලු පසුව එය මැන බැලීය. නියැදි සැකසුම් මුල් සහ සංස්කරණය කරන ලද Qwen අතර ස්ථාවරව පැවතුණි,

2:09 මෙම ප්‍රොටෝකෝලයේ ලකුණු සංසන්දනය අර්ථ නිරූපණය කළ හැකිය. පළමු විමසුම එයට උපකාරක රසායනාගාර අධීක්ෂකයෙකු ලබා දුන්නේය. අසාර්ථකත්වයන් හඳුනා ගන්න, වගකිව යුතු සංරචක සොයා ගන්න, එකම ගැටලු මත සංසන්දනය කරන්න, සහ ශක්ති කිහිපයක් පරීක්ෂා කරන්න. එය පුනරාවර්තන චින්තනය අලුත්වැඩියාවක් ලෙස පැහැදිලිවම සඳහන් කළේය. උපාධිධාරී සිසුන් මෙම ප්‍රාරම්භක පැකේජය සඳහා සාකච්ඡා කළ යුතුය. එය ආකර්ෂණීය අලුත්වැඩියාවකි.

සත්‍ය අලුත්වැඩියාව කෙතරම් කුඩාද?

2:28 Astra ගේ ඉලක්කගත සංස්කරණය බර එක් ලක්ෂ තිස් එක් දහසක් පමණ ස්පර්ශ කළේය. එය ආකෘතියෙන් සියයට දහසයෙන් දහසක් පමණ වේ. බර ගොනුව සෘජුවම වෙනස් විය. ග්‍රේඩියන්ට් පුහුණුව තහනම්ව පැවතුණි; Astra ගේ සංස්කරණ සැසිය අවසන් වූ පසු පවතින ආකෘතිය පිළිතුරු දීම සිදු කළේය. Astra's editing session ended. මෙම වාසිය උපදෙස් අනුගමනය කිරීම දක්වාද පැතිර ගියේය. මම ප්‍රායෝගික ඇඟවුමට කැමතියි. ආකෘතියකට එහි අසාර්ථක මාදිලිය මගින් තැන්පත් කර ඇති ප්‍රයෝජනවත් කාර්යයන් තිබිය හැකිය.

2:48 එම අසාර්ථකත්වය නිවැරදි කිරීමෙන් භාවිතා කළ හැකි පිළිතුරු නැවත ලබා ගත හැකිය. අවසන් කිරීම වැදගත් වේ. Honnibal මෙවලම් ආධාරක කාර්යයට ගෞරව කරන්නේ මිනිස් යන්ත්‍ර ඉගෙනුම් ඉංජිනේරුවෙකුට කළ හැකි කාර්යයන් සිදු කිරීමෙනි. එය නියෝජිතයෙකුට වැදගත් වේ. ඔහුගේ පැමිණිල්ල නම් කුඩා අමු-සංඛ්‍යා නිරූපණයන් සහ විශාල Python-ආධාරක අලුත්වැඩියාවන් එකට එකතු කළ විට පුළුල් නිගමනයකට ආරාධනා කිරීමයි. කුඩා ක්‍රීඩා ජාල ගන්න.

ඇත්ත වශයෙන්ම මෙවලම් නොතිබුණේ කුමන අත්හදා බැලීම් වලද?

3:09 එක් අත්හදා බැලීමකදී, Astra ඒවායේ අමු සංඛ්‍යා කියවා කුමන ක්‍රීඩාවක් එක් එක් ජාලය ඉගෙන ගෙන ඇත්දැයි නිවැරදිව හඳුනා ගත්තේය. මෙවලම් තහනම් විය. තවත් එකක, එය නීති සහ මූලාශ්‍ර කේතය භාවිතයෙන් කිසිදු පුහුණු රෝල්අවුට් නොමැතිව මුල සිටම නව ක්‍රීඩා කරන බර ලිවීය. source code, with no practice rollouts. ඒවා වෙනම සාක්ෂි සහිත වෙනම නිරූපණයන්ය. Astra ගේ ජාල ක්‍රීඩා තුනේදීම මිලියන සියයක් පියවර සඳහා පුහුණු කරන ලද මූලික රේඛාව පරාජය කළේය. දිගු කාලයක් පුහුණු කරන ලද මූලික රේඛාවට එරෙහිව, එය Seaquest සහ

3:32 Asterix හි පරාජය වූ අතර, Breakout දිනා ගත්තේය. සංසන්දනාත්මක තීරුව වෙනස් කරන්න, එවිට ජයග්‍රාහී කථාව සංස්කරණය කිරීමට අවශ්‍ය වේ. පහසුවෙන්, සංස්කරණය කිරීම අද මාතෘකාවයි. පුළුල් හිමිකම් පෑමක් සඳහා, අපට විවිධ අසාර්ථකත්වයන් සහිත ආකෘති හරහා වැඩි දියුණු කිරීම් අවශ්‍ය වනු ඇත.

වඩාත් සාමාන්‍ය හිමිකම් පෑමකට අවශ්‍ය වන්නේ කුමක්ද?

3:44 සංස්කාරකයා දුටු දේ සහ සාර්ථකත්වය ලෙස සැලකූ දේ නිරීක්ෂණය කරන්න. Qwen ගේ ආකෘති කාඩ්පත දැනටමත් චින්තන ලූප ගැන අනතුරු අඟවයි. මෙම දන්නා බාධකය ඉවත් කිරීම විශේෂ ආරම්භක ලක්ෂ්‍යයක් ඇත. ඔවුන්ට ගෞරවයක් වශයෙන්, කතුවරුන් අපහසු පසු විපරම තමන් විසින්ම ප්‍රකාශයට පත් කරයි. ඔවුන් පැහැදිලි කරන්නේ ලූප නැවැත්වීම Qwen ට දැනටමත් වැඩ කළ හැකි පිළිතුරු අවසන් කිරීමට ඉඩ දෙන බවයි. ඔවුන්ගේ ලොග් වල විමසුම්, ප්‍රතිපෝෂණ සහ සංස්කරණ ඇතුළත් වේ. අපට ජයග්‍රහණය පරීක්ෂා කර වඩාත් දුෂ්කර ප්‍රශ්නයක් ඇසිය හැකිය.

කලාතුරකින් ලූප් කළ ආකෘතියට සිදු වූයේ කුමක්ද?

4:06 දැන් දෙවන ආකෘතිය, තමන්ගේම පසු විපරම් සැකසුමක කුඩා Gemma. එය කලාතුරකින් ලූප් වූ අතර, එහි අසාර්ථකත්වයන් සාමාන්‍ය වැරදි අංක ගණිතය සහ වලංගු නොවන බීජ ගණිතය විය. Astra නැවතත් පුහුණු ප්‍රතිපෝෂණ සමඟ ඉලක්කගත බර සංස්කරණ උත්සාහ කළේය. කිසිවක් එහි ගණිත ලකුණු ලක්ෂ්‍යයකට වඩා වැඩි ප්‍රමාණයකින් වෙනස් කළේ නැත, සහ වාසියක් ස්ථාපිත නොවීය. සාර්ථක Qwen අලුත්වැඩියාවට ඉවත් කිරීමට බාධාවක් තිබුණි. Gemma ගේ අංක ගණිත දෝෂ දිවි ගලවා ගත්තේය. එය සංවර්ධකයින් සඳහා ප්‍රයෝජනවත් ප්‍රශ්නයයි.

4:28 සංස්කරණය මගින් අලුත්වැඩියා කළ අසාර්ථකත්වය කුමක්ද, සහ ඔබේ ආකෘතියට එය ඇත්ත වශයෙන්ම තිබේද? ගුණකය සැමරීමට පෙර ඔබේම කාර්යයන් මත සුරැකි බර පරීක්ෂා කරන්න. අලුත්වැඩියා කරන ලද බාධාවක් අතිශයින් වැදගත් විය හැකි අතර ඊළඟ බාධාව එය තිබූ තැනම පවතී. මම මෙය කියනවාට වඩා කියවීමට ඔබ කැමති නම්, diff සෑම උදෑසනකම ඔබේ එන ලිපි පෙට්ටියට නොමිලේ, daily diff dot dev හි, පහත සබැඳිය.

මම බර සංස්කරණ හිමිකම් පෑම SHIP කරාවිද?

4:47 එබැවින්, අද තීන්දුව NEEDS REVIEW. මම ලූප් අලුත්වැඩියාව බැරෑරුම් ලෙස සලකා එය පරීක්ෂා කරමි. මම එම අසාර්ථක මාදිලියෙන් ඔබ්බට සාර්ථකත්වය මත පුළුල් හිමිකම් ගේට්ටු කර තබා ගනිමි. කතුවරුන්ගේම ප්‍රති-උදාහරණය diff හි වඩාත්ම ප්‍රයෝජනවත් පේළියයි. ඒ වගේම අදට diff එක එච්චරයි. මම Axrisi වෙතින් Niko. වගකීමෙන් යුතුව ඒකාබද්ධ කරන්න.

මූලාශ්‍ර

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above