GPT-6 એસ્ટ્રાએ બીજા AIના અનંત વિચારને સુધાર્યો

આ વીડિયોમાં શું આવરી લેવામાં આવ્યું છે

• નોંધાયેલ ક્વેન સ્કોર વૃદ્ધિ પુનરાવર્તિત તર્કને લક્ષિત સુધારણામાંથી આવી છે; પ્રાથમિક પ્રોટોકોલમાં આશરે ત્રીજા ભાગના સંપાદિત જવાબો હજુ પણ લંબાઈ મર્યાદા સુધી પહોંચ્યા છે.
• ગ્રેડિયન્ટ તાલીમ પર પ્રતિબંધ હતો, જ્યારે પાયથોન, પ્રેક્ટિસ જવાબો અને ઘણા વળાંકોમાં બેચ કરેલા મોડેલ-રન ફીડબેકની મંજૂરી હતી. અંતિમ મૂલ્યાંકનના પ્રશ્નોને સ્ત્રોત દ્વારા રોકી રાખવામાં આવ્યા હોવાનું જાહેર કરવામાં આવ્યું હતું.
• નાના કાચા-વજન અને નો-રોલઆઉટ ગેમ પ્રયોગોમાં અલગ-અલગ શરતોનો ઉપયોગ કરવામાં આવ્યો હતો. તેમના દાવાઓએ તેમના વ્યક્તિગત સાધન, ઇનપુટ અને બેઝલાઇન અવકાશ જાળવી રાખવો જોઈએ.
• મેથ્યુ હોનિબલ ટૂલ-આસિસ્ટેડ એન્જિનિયરિંગને શ્રેય આપે છે અને પ્રયોગોને બંડલ કરીને ઉત્પન્ન થયેલી વ્યાપક છાપનો વિવાદ કરે છે.
• નાના જેમ્મા ફોલો-અપમાં તેની પોતાની સેટઅપનો ઉપયોગ થયો અને તેમાં સુધારો સ્થાપિત કરવામાં નિષ્ફળતા મળી. વજનનું સંપાદન કઈ નિષ્ફળતાને સુધારે છે તે તપાસો તે પહેલાં તેને બીજા મોડેલ પર લાગુ કરો.

અનુવાદિત ટ્રાન્સક્રિપ્ટ

મૂળ અંગ્રેજી કથામાંથી અનુવાદિત. ઉપલબ્ધ ઑડિઓ અને કૅપ્શન્સ YouTube દ્વારા નિયંત્રિત થાય છે.

ગણિતનો સ્કોર કેમ વધ્યો?

0:00 એક AI બીજા AIને છ ગણું સ્માર્ટ બનાવવું એ તાત્કાલિક પ્રતિભા જેવું લાગે છે. એસ્ટ્રાનો મોટો સ્કોર જમ્પ ક્વેનને તે વારંવાર પુનરાવર્તિત કરતું હતું તે જવાબો પૂરા કરવામાં મદદ કરવાથી આવ્યો છે. આ વિડિયોમાં શું બદલાયું? એસ્ટ્રાને કઈ મદદ મળી? અને આ સુધારો કેટલો દૂર જાય છે? ક્વેન લગભગ આઠ ટકાથી અઠ્ઠાવીસ ટકા પર પહોંચી ગયું. સંશોધકોએ લગભગ કોઈ લૂપ વગરના બીજા મોડેલનો પ્રયાસ કર્યો. નિર્ણય પહેલાં તે કેવી રીતે ગયું તે આપણે જોઈશું.

0:22 આ મંગળવાર, નવેમ્બર ત્રીજી છે, અને આ છે The Daily Diff. વેઈટ-સ્પેસ પ્રોગ્રામિંગ એ સંશોધકોનું નામ છે એક AI ને તપાસવા અથવા ન્યુરલ નેટવર્કની અંદરના નંબરો લખવા માટે પૂછવા માટે. તે સંખ્યાઓ તેના વજન છે. આ MIT-સંલગ્ન ટીમે OpenAI ના GPT છ એસ્ટ્રાનો ઉપયોગ એક નાના Qwen ભાષા મોડેલને સંપાદિત કરવા માટે કર્યો, જેમાં સામાન્ય તાલીમ પ્રતિબંધિત હતી. રીકિયા તાકેહી અને તેના સહલેખકોએ સોમવારે આ અભ્યાસ પ્રકાશિત કર્યો,

0:44 કે શું હાલનો AI બીજા નેટવર્કના આંતરિક ભાગો વિશે તર્ક કરી શકે છે. તેમનું હેડલાઇન પરિણામ ખૂબ જ ક્લિક કરી શકાય તેવું છે. મેથ પાંચસો પર, ક્વેન આઠ ટકાથી અઠ્ઠાવીસ ટકા સુધી વધ્યો. લગભગ છ ગણા સાચા જવાબો. ક્વેન ત્યાં સુધી વિચારતું રહ્યું જ્યાં સુધી તેને જવાબ આપવા માટે જગ્યા ન રહી.

ક્વેન શું ખોટું કરી રહ્યું હતું?

1:00 વિચારવાની સ્થિતિમાં, તે ઘણીવાર તેના તર્કનું પુનરાવર્તન કરતું હતું. કલ્પના કરો કે એક વિદ્યાર્થી પરીક્ષાની નોટબુક કામથી ભરી રહ્યો છે જ્યાં સુધી ઘંટ વાગે. માર્કરને હજી પણ જવાબની જરૂર છે. મોટાભાગના મૂળ જવાબો લંબાઈ મર્યાદા સુધી પહોંચી ગયા. એસ્ટ્રાએ બે આંતરિક સ્તરોમાં પુનરાવર્તનની દિશા શોધી કાઢી, પછી પસંદ કરેલા વજનના સ્તંભોમાંથી તેનું યોગદાન દૂર કર્યું. તે સંપાદન પછી, વધુ જવાબો એક નિષ્કર્ષ પર પહોંચ્યા. નોંધાયેલા પરીક્ષણમાં લગભગ ત્રીજા ભાગ હજી પણ મર્યાદાને અથડાયા.

1:22 પરીક્ષાની નોટબુકને છેલ્લી લીટી મળી ગઈ. આજે, મેથ્યુ હોનિબલ, spaCy ના નિર્માતા અને Explosion ના સહ-સ્થાપક,

આજનો ટીકાકાર શેનો વિવાદ કરે છે?

1:28 પ્રસ્તુતિને પડકાર્યો. તે કહે છે કે વાચકો પ્રયોગોની વિવિધ શરતોને એક અસાધારણ તકનીકની છાપમાં જોડી શકે છે. તેનો વાંધો તેમની સંયુક્ત વાર્તા અંગે છે. આપણે જાતે શરતો ચકાસી શકીએ છીએ. ક્વેન પ્રયોગે એસ્ટ્રાને વજન અને પ્રેક્ટિસ પર પાયથોન નોટબુક આપી હતી

એસ્ટ્રાને ખરેખર કઈ મદદ મળી?

1:44 જવાબો સાથેની સમસ્યાઓ. ઘણા વળાંકોમાં, તેણે આંતરિક સક્રિયકરણોનું નિરીક્ષણ કર્યું અને મૂળ અને સંપાદિત સંસ્કરણોની તુલના કરી. અંતિમ બજેટે મોડેલ રનનાં પચાસ બેચની મંજૂરી આપી. દરેક જનરેશન બેચમાં સેંકડો જવાબો હોઈ શકે છે. પ્રેક્ટિસ ડેટા તાલીમ વિભાજનમાંથી આવ્યો હતો. સંશોધકો કહે છે કે એસ્ટ્રાએ ક્યારેય અંતિમ મૂલ્યાંકન સેટ જોયા નથી. ફીડબેકે સંપાદન પસંદ કરવામાં મદદ કરી; રોકેલી સમસ્યાઓએ પછીથી તેનું માપ લીધું. ઓરિજિનલ અને એડિટેડ ક્વેન વચ્ચે સેમ્પલિંગ સેટિંગ્સ નિશ્ચિત રહી,

2:09 આ પ્રોટોકોલની સ્કોર તુલનાને અર્થપૂર્ણ બનાવે છે. પહેલા સંકેતે તેને મદદરૂપ લેબ સુપરવાઈઝર આપ્યો. નિષ્ફળતાનું નિદાન કરો, જવાબદાર ઘટકો શોધો, તે જ સમસ્યાઓ પર તુલના કરો અને ઘણી શક્તિઓનું પરીક્ષણ કરો. તેણે પુનરાવર્તિત વિચારસરણીને એક સમારકામ તરીકે સ્પષ્ટપણે ઉલ્લેખ કર્યો છે જે ગણાય છે. ગ્રેજ્યુએટ વિદ્યાર્થીઓએ આ ઑનબોર્ડિંગ પેકેજ માટે વાટાઘાટ કરવી જોઈએ. તે એક પ્રભાવશાળી સમારકામ છે.

વાસ્તવિક સમારકામ કેટલું નાનું હતું?

2:28 એસ્ટ્રાના લક્ષિત સંપાદનથી આશરે એક લાખ એકત્રીસ હજાર વજનને સ્પર્શ થયો. તે મોડેલના સોળ હજારમા ટકા જેટલું છે. વજન ફાઇલ સીધી બદલાઈ ગઈ. ગ્રેડિયન્ટ તાલીમ પ્રતિબંધિત રહી; એસ્ટ્રાનું સંપાદન સત્ર સમાપ્ત થયા પછી હાલના મોડેલે જ જવાબ આપ્યા. એસ્ટ્રાનું સંપાદન સત્ર સમાપ્ત થયા પછી હાલના મોડેલે જ જવાબ આપ્યા. લાભ સૂચનાનું પાલન સુધી પણ પહોંચ્યો. મને વ્યવહારુ અર્થ ગમે છે. એક મોડેલ ઉપયોગી કાર્ય ધરાવી શકે છે જે તેની નિષ્ફળતા સ્થિતિ દબાવતી રહે છે.

2:48 તે નિષ્ફળતાને સુધારવાથી ઉપયોગી જવાબો પુનઃપ્રાપ્ત થઈ શકે છે. પૂર્ણ કરવું ગણાય છે. હોનિબલ ટૂલ-આસિસ્ટેડ કાર્યને માનવ મશીન-લર્નિંગ એન્જિનિયર કરી શકે તેવા કાર્યો કરવા માટે શ્રેય આપે છે. તે માનવ મશીન-લર્નિંગ એન્જિનિયર કરી શકે તેવા કાર્યો કરવા માટે શ્રેય આપે છે. તે એક એજન્ટ માટે પરિણામકારી છે. તેમની ફરિયાદ એ છે કે નાના કાચા-સંખ્યાના પ્રદર્શનો અને મોટા પાયથોન-આસિસ્ટેડ સમારકામ એકસાથે બંડલ કરવામાં આવે ત્યારે વ્યાપક નિષ્કર્ષ માટે આમંત્રિત કરે છે. નાના ગેમ નેટવર્ક્સ લો.

કયા પ્રયોગોમાં ખરેખર કોઈ સાધનો નહોતા?

3:09 એક પ્રયોગમાં, એસ્ટ્રાએ તેમના કાચા નંબરો વાંચ્યા અને કયા નેટવર્કે કઈ રમત શીખી હતી તે યોગ્ય રીતે ઓળખી કાઢ્યું. સાધનો પર પ્રતિબંધ હતો. બીજામાં, તેણે નિયમો અને સ્રોત કોડનો ઉપયોગ કરીને શરૂઆતથી નવા ગેમ-પ્લેઇંગ વજન લખ્યા, જેમાં કોઈ પ્રેક્ટિસ રોલઆઉટ નહોતા. સ્રોત કોડનો ઉપયોગ કરીને શરૂઆતથી નવા ગેમ-પ્લેઇંગ વજન લખ્યા, જેમાં કોઈ પ્રેક્ટિસ રોલઆઉટ નહોતા. તેઓ અલગ-અલગ પુરાવાઓ સાથેના અલગ-અલગ પ્રદર્શનો છે. એસ્ટ્રાના નેટવર્ક્સે તમામ ત્રણ રમતોમાં સો મિલિયન સ્ટેપ્સ માટે તાલીમ પામેલા બેઝલાઇનને હરાવી. વધુ લાંબા સમય સુધી તાલીમ પામેલા બેઝલાઇન સામે, તે સીક્વેસ્ટ અને

3:32 એસ્ટરિક્સમાં હાર્યું, જ્યારે બ્રેકઆઉટ જીત્યું. સરખામણી કોલમ બદલો, અને વિજય ભાષણને સંપાદિત કરવાની જરૂર છે. સગવડતાપૂર્વક, સંપાદન એ આજનો વિષય છે. વ્યાપક દાવા માટે, આપણે વિવિધ નિષ્ફળતાઓ ધરાવતા મોડેલોમાં સુધારાઓ ઇચ્છીશું.

વધુ સામાન્ય દાવાને શું જોઈશે?

3:44 સંપાદકે શું જોયું અને સફળતા તરીકે શું ગણવામાં આવ્યું તે ટ્રૅક કરો. ક્વેનના મોડેલ કાર્ડ પહેલેથી જ વિચારવાના લૂપ્સ વિશે ચેતવણી આપે છે. આ જાણીતા અવરોધને દૂર કરવાનો એક ચોક્કસ પ્રારંભિક બિંદુ છે. તેમની પ્રશંસા માટે, લેખકો પોતે અસ્વસ્થ ફોલો-અપ પ્રકાશિત કરે છે. તેઓ સમજાવે છે કે લૂપ્સને રોકવાથી ક્વેનને તે પહેલેથી જ કામ કરી શકે તેવા જવાબો પૂરા કરવામાં મદદ મળે છે. તેમના લોગમાં પ્રોમ્પ્ટ્સ, ફીડબેક અને સંપાદનો શામેલ છે. આપણે સિદ્ધિની તપાસ કરી શકીએ છીએ અને એક સખત પ્રશ્ન પૂછી શકીએ છીએ.

ભાગ્યે જ લૂપ કરનાર મોડેલનું શું થયું?

4:06 હવે બીજું મોડેલ, તેના પોતાના ફોલો-અપ સેટઅપમાં એક નાનું જેમ્મા. તે ભાગ્યે જ લૂપ કરતું હતું, તેથી તેની નિષ્ફળતાઓ સામાન્ય ખોટી અંકગણિત અને અમાન્ય બીજગણિત હતી. એસ્ટ્રાએ ફરીથી પ્રેક્ટિસ ફીડબેક સાથે લક્ષિત વજન સંપાદનોનો પ્રયાસ કર્યો. કોઈએ તેના ગણિતના સ્કોરને લગભગ એક બિંદુથી વધુ ખસેડ્યો નથી, અને કોઈ લાભ સ્થાપિત થયો નથી. સફળ ક્વેન સમારકામમાં દૂર કરવા માટે એક અવરોધ હતો. જેમ્માની અંકગણિતની ભૂલો રહી ગઈ. વિકાસકર્તાઓ માટે તે ઉપયોગી પ્રશ્ન છે.

4:28 સંપાદનથી કઈ નિષ્ફળતા સુધરી, અને શું તમારા મોડેલમાં ખરેખર તે છે? ગુણાકારની ઉજવણી કરતા પહેલા તમારા પોતાના કાર્યો પર સાચવેલા વજનનું પરીક્ષણ કરો. એક સમારકામ કરાયેલ બોટલનેક અત્યંત મહત્વપૂર્ણ હોઈ શકે છે જ્યારે આગામી બોટલનેક બરાબર જ્યાં હતું ત્યાં જ રહે. જો તમે મને આ કહેવાને બદલે વાંચવાનું પસંદ કરો છો, તો diff દરરોજ સવારે તમારા ઇનબોક્સમાં મફતમાં આવે છે the daily diff dot dev પર, લિંક નીચે આપેલી છે.

શું હું વજન-સંપાદનનો દાવો મોકલીશ?

4:47 તો, આજનો ચુકાદો છે NEEDS REVIEW. હું લૂપ રિપેરને ગંભીરતાથી લઈશ અને તેનું પરીક્ષણ કરીશ. હું તે નિષ્ફળતા મોડથી આગળની સફળતા પર વ્યાપક દાવાઓને ગેટ કરીશ. લેખકોનું પોતાનું વિપરીત ઉદાહરણ diff માં સૌથી ઉપયોગી લીટી છે. અને તે આજનો diff છે. હું એક્સરીસીથી નિકો છું. જવાબદારીપૂર્વક મર્જ કરો.

સ્ત્રોતો

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above