GPT-6 Astra iliziba mbinu ya AI nyingine ya kufikiri bila kikomo
Utafiti unaohusishwa na MIT ulitumia GPT-6 Astra kuhariri uzito wa mfumo mdogo wa Qwen na kusaidia majibu zaidi kumalizika.
Utafiti unaohusishwa na MIT ulitumia GPT-6 Astra kuhariri uzito wa mfumo mdogo wa Qwen na kusaidia majibu zaidi kumalizika. Kuruka kwa alama zake za hisabati kulitegemea urekebishaji maalum wa kitanzi, uchambuzi wa Python na maoni ya mazoezi. Ufuatiliaji tofauti wa Gemma ndogo haukupata faida yoyote iliyoanzishwa.
Soma toleo lililoandikwa (Kiingereza) ↗
Nini video hii inashughulikia
- Ongezeko la alama za Qwen lilitokana na urekebishaji uliolengwa wa hoja zinazojirudia; karibu theluthi moja ya majibu yaliyohaririwa bado yalifikia ukomo wa urefu katika itifaki kuu.
- Mafunzo ya gradient yalipigwa marufuku, wakati Python, majibu ya mazoezi na maoni ya uendeshaji wa mfumo yaliruhusiwa katika zamu nyingi. Maswali ya tathmini ya mwisho yalifungwa kama yaliyotolewa.
- Majaribio madogo ya uzito ghafi na michezo isiyo na matumizi yaliyotumia masharti tofauti. Madai yao yanapaswa kuhifadhi wigo wao binafsi wa zana, ingizo na msingi.
- Matthew Honnibal anasifu uhandisi uliosaidiwa na zana na anapinga hisia pana zinazotokana na kuunganisha majaribio.
- Ufuatiliaji mdogo wa Gemma ulitumia usanidi wake na ulishindwa kuanzisha uboreshaji. Jaribu ni kosa gani ambalo mhariri wa uzito hutengeneza kabla ya kuiweka kwenye mfumo mwingine.
Maswali na majibu
Ni nini Astra alibadilisha ili kuboresha alama za hisabati zilizoripotiwa za Qwen?
Astra alifanya marekebisho yaliyolengwa ya uzito yaliyosaidia Qwen kumaliza majibu zaidi, kulingana na utafiti wa Rikiya Takehi na waandishi wenzake. Aliondoa mchango unaohusishwa na kurudia kutoka kwa safu zilizochaguliwa katika tabaka za ndani. Ongezeko la alama za hisabati zilizoripotiwa lilitumia itifaki ya tathmini iliyowekwa. Majibu mengi yaliyorekebishwa bado yalifikia ukomo wa urefu, kwa hivyo matokeo yanabaki na kiwango kikubwa cha kushindwa kinachobaki.
Ni zana gani na maoni gani yaliruhusiwa wakati wa marekebisho ya uzito wa Qwen?
Uchambuzi wa Python, matatizo ya mazoezi na majibu na maoni ya uendeshaji wa mfumo yaliruhusiwa katika zamu nyingi. Mwongozo halisi wa awali wa watafiti ulipiga marufuku mafunzo ya gradient na ulieleza ushauri wa uchunguzi na upimaji wa sababu, ikiwa ni pamoja na urekebishaji wa mawazo yanayojirudia kama lengo linalostahiki. Usaidizi huu ulimsaidia Astra kuchagua marekebisho ya moja kwa moja kwa uzito uliopo. Kitengo cha bajeti kinaweza kuwa na mamia ya majibu yaliyotengenezwa.
Je, matatizo ya tathmini ya mwisho yalipatikana kwa mfumo wa kuhariri?
Watafiti wanasema seti za tathmini za mwisho hazikuonekana na Astra. Maoni ya mazoezi yalitoka kwa matatizo yaliyogawanyika ya mafunzo na yalisaidia kuchagua marekebisho; matatizo tofauti yaliyotengwa yalipima mfumo uliowasilishwa baada ya hapo. Mwongozo wa awali ulifichua majina ya viwango na itifaki ya tathmini. Tofauti hiyo inaelezea kile kilichozuiliwa bila kudai kwamba mhariri hakuwa na habari zote kuhusu kazi hiyo.
Nini kilitokea katika ufuatiliaji wa marekebisho ya uzito wa Gemma ndogo?
Ufuatiliaji wa Gemma ndogo ulishindwa kuanzisha faida, kulingana na Rikiya Takehi na waandishi wenzake. Mfumo mara chache haukuzunguka, na makosa yake yalijumuisha hesabu mbaya na aljebra batili. Marekebisho yaliyolengwa na maoni ya mazoezi yalisogeza alama za hisabati zilizoripotiwa kwa kiwango cha juu cha pointi moja. Ilitumia usanidi tofauti, kwa hivyo ulinganisho unatoa mfano wa kinyume uliopangwa badala ya ablation iliyodhibitiwa sawa.
Hukumu ya The Daily Diff juu ya madai ya kuhariri uzito ilikuwa nini?
Hukumu ya The Daily Diff ilikuwa INAHITAJI KUKAGULIWA. Niko angechukulia urekebishaji wa kitanzi uliolengwa kwa uzito na kuujaribu, huku akiweka madai mapana zaidi yaliyozuiliwa na mafanikio zaidi ya hali hiyo ya kosa. Mfano wa kinyume wa mfumo mdogo wa watafiti wenyewe unajulisha uamuzi huo. Watengenezaji wanapaswa kutambua kosa ambalo uhariri unarekebisha na kutathmini uzito uliohifadhiwa kwenye kazi zao wenyewe kabla ya kusherehekea kizidishi kilichoripotiwa.
Nakala iliyotafsiriwa
Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.
Kwa nini alama za hisabati ziliongezeka?
0:00 AI inayofanya AI nyingine kuwa na akili mara sita inaonekana kama akili ya papo hapo. Kuruka kwa alama kubwa za Astra kulitokana na kusaidia Qwen kumaliza majibu ambayo yalikuwa yakijirudia. Katika video hii, nini kilibadilika? Astra alipata msaada gani? Na urekebishaji unafika mbali kiasi gani? Qwen ilipanda kutoka asilimia nane hadi asilimia arobaini na nane. Watafiti walijaribu mfumo wa pili na vitanzi vichache sana. Tutaona jinsi ilivyokwenda kabla ya hukumu.
0:22 Ni Jumanne, Novemba tatu, na huu ni The Daily Diff. Upangaji wa nafasi ya uzito ndilo jina la watafiti kwa kuuliza AI kukagua au kuandika namba ndani ya mtandao wa neva. Namba hizo ni uzito wake. Timu hii iliyohusishwa na MIT ilitumia GPT sita Astra ya OpenAI kuhariri mfumo mdogo wa lugha wa Qwen, huku mafunzo ya kawaida yakipigwa marufuku. Rikiya Takehi na waandishi wenzake walichapisha utafiti huo Jumatatu,
0:44 wakiuliza kama AI iliyopo inaweza kufikiria kuhusu mambo ya ndani ya mtandao mwingine. Matokeo yao makuu yanaweza kubofya sana. Katika hisabati mia tano, Qwen ilipanda kutoka asilimia nane hadi asilimia arobaini na nane. Karibu mara sita ya majibu sahihi. Qwen iliendelea kufikiri hadi ilipoishiwa na nafasi ya kujibu.
Qwen alikuwa akifanya makosa gani?
1:00 Katika hali ya kufikiria, mara nyingi ilijirudia katika hoja zake. Fikiria mwanafunzi akijaza kitabu cha mitihani na kazi hadi kengele inagonga. Marekebishaji bado anahitaji jibu. Majibu mengi ya asili yalifikia kikomo cha urefu. Astra ilipata mwelekeo wa kurudia katika tabaka mbili za ndani, kisha ikaondoa mchango wake kutoka kwa safu maalum za uzito. Baada ya uhariri huo, majibu zaidi yalifikia hitimisho. Karibu theluthi bado ilifikia kikomo katika mtihani ulioripotiwa.
1:22 Kitabu cha mitihani hatimaye kilipata mstari wa mwisho. Leo, Matthew Honnibal, muundaji wa spaCy na mwanzilishi mwenza wa Explosion,
Mkosoaji wa leo anapinga nini?
1:28 alipinga uwasilishaji. Anasema wasomaji wanaweza kuchanganya hali tofauti za majaribio kuwa hisia ya mbinu moja ya ajabu. Pingamizi lake linahusu hadithi yao iliyounganishwa. Tunaweza kuangalia hali sisi wenyewe. Jaribio la Qwen lilimpa Astra daftari la Python juu ya uzito na matatizo ya mazoezi
Astra alipata msaada gani?
1:44 na majibu. Katika zamu nyingi, ilikagua uanzishaji wa ndani na kulinganisha matoleo asili na yaliyohaririwa. Bajeti ya mwisho iliruhusu mafungu hamsini ya uendeshaji wa mfumo. Kila fungu la kizazi linaweza kuwa na mamia ya majibu. Takwimu za mazoezi zilitoka kwenye mgawanyiko wa mafunzo. Watafiti wanasema Astra hakuwahi kuona seti za tathmini za mwisho. Maoni yalisaidia kuchagua uhariri; matatizo yaliyofungwa yalipima baada ya hapo. Mipangilio ya sampuli ilibaki imara kati ya Qwen asili na iliyohaririwa,
2:09 na kufanya ulinganisho wa alama wa itifaki hii uweze kutafsiriwa. Mwongozo wa kwanza ulimpa msimamizi wa maabara anayesaidia. Kugundua mapungufu, kupata vipengele vinavyohusika, kulinganisha matatizo sawa, na kupima nguvu kadhaa. Ilibainisha wazi mawazo yanayojirudia kama urekebishaji unaohesabika. Wanafunzi wa shahada ya uzamili wanapaswa kujadiliana kwa ajili ya kifurushi hiki cha kuanza kazi. Huo ni urekebishaji wa kuvutia.
Urekebishaji halisi ulikuwa mdogo kiasi gani?
2:28 Uhariri uliolengwa wa Astra uligusa takriban uzito elfu moja na mia thelathini na moja. Hiyo ni karibu elfu kumi na sita za asilimia moja ya mfumo. Faili ya uzito ilibadilika moja kwa moja. Mafunzo ya gradient yalibaki yamepigwa marufuku; mfumo uliopo ulifanya kujibu baada ya kikao cha uhariri cha Astra kumalizika. Faida pia ilifika kwenye kufuata maagizo. Ninapenda matokeo ya vitendo. Mfumo unaweza kumiliki kazi muhimu ambayo hali yake ya kushindwa inaendelea kuificha.
2:48 Kurekebisha kosa hilo kunaweza kurejesha majibu yanayoweza kutumika. Kumaliza kunahesabika. Honnibal anatoa sifa kwa kazi iliyosaidiwa na zana kama kutekeleza kazi ambazo mhandisi wa mashine anayefanya kazi ya kujifunza anaweza kufanya. Hiyo ina matokeo kwa ajenti. Malalamiko yake ni kwamba maandamano madogo ya namba ghafi na urejeshaji mkubwa uliosaidiwa na Python hualika hitimisho pana yanapounganishwa. Chukua mitandao midogo ya michezo.
Ni majaribio gani hayakuwa na zana kabisa?
3:09 Katika jaribio moja, Astra ilisoma namba zao ghafi na kutambua kwa usahihi ni mchezo gani kila mtandao ulikuwa umejifunza. Zana zilipigwa marufuku. Katika lingine, iliandika uzito mpya wa kucheza mchezo kutoka mwanzo kwa kutumia sheria na kanuni za chanzo, bila mazoezi ya awali. Hayo ni maandamano tofauti yenye ushahidi tofauti. Mitandao ya Astra ilishinda msingi uliopatiwa mafunzo kwa hatua milioni mia moja katika michezo yote mitatu. Dhidi ya msingi uliopatiwa mafunzo kwa muda mrefu, ilipoteza katika Seaquest na
3:32 Asterix, huku ikishinda Breakout. Badilisha safu ya kulinganisha, na hotuba ya ushindi inahitaji kuhaririwa. Kwa urahisi, kuhariri ndio mada ya leo. Kwa madai pana zaidi, tungehitaji maboresho katika mifumo yenye makosa tofauti.
Madai ya jumla zaidi yangehitaji nini?
3:44 Fuatilia kile mhariri aliona na nini kilichukuliwa kuwa mafanikio. Kadi ya mfumo wa Qwen tayari inaonya kuhusu vitanzi vya kufikiri. Kuondoa kizuizi hiki kinachojulikana kuna mahali pa kuanzia maalum. Kwa heshima yao, waandishi wanachapisha ufuatiliaji usio na wasiwasi wao wenyewe. Wanaeleza kuwa kusimamisha vitanzi huruhusu Qwen kumaliza majibu ambayo tayari inaweza kutatua. Kumbukumbu zao zinajumuisha maombi, maoni na mabadiliko. Tunaweza kuchunguza mafanikio na kuuliza swali gumu zaidi.
Nini kilitokea kwa mfumo uliopitia vitanzi mara chache?
4:06 Sasa mfumo wa pili, Gemma ndogo katika usanidi wake wa ufuatiliaji. Mara chache haikuzunguka, kwa hivyo makosa yake yalikuwa hesabu mbaya ya kawaida na aljebra batili. Astra alijaribu marekebisho ya uzito yaliyolengwa na maoni ya mazoezi tena. Hakuna hata moja iliyosogeza alama zake za hisabati kwa zaidi ya pointi moja, na faida haikuwekwa. Marekebisho ya Qwen yaliyofanikiwa yalikuwa na kikwazo cha kuondoa. Makosa ya hesabu ya Gemma yalisalia. Hiyo ndio swali muhimu kwa watengenezaji.
4:28 Ni kosa gani ambalo uhariri ulirekebisha, na mfumo wako unalo kweli? Jaribu uzito uliohifadhiwa kwenye kazi zako mwenyewe kabla ya kusherehekea kizidishi. Kikwazo kilichorekebishwa kinaweza kuwa muhimu sana wakati kikwazo kinachofuata kinabaki mahali kilipokuwa. Ikiwa unapendelea kusoma hili kuliko kunisikia nikisema, diff inatua kwenye kikasha chako kila asubuhi, bure kwenye the daily diff dot dev, kiungo hapa chini.
Ningeidhinisha madai ya kuhariri uzito?
4:47 Kwa hivyo, hukumu ya leo ni INAHITAJI KUKAGULIWA. Ningeuchukulia urekebishaji wa kitanzi kwa uzito na kuujaribu. Ningeendelea na madai mapana zaidi yaliyozuiliwa na mafanikio zaidi ya hali hiyo ya kosa. Mfano wa kinyume wa waandishi wenyewe ndio mstari muhimu zaidi katika diff. Na hiyo ndiyo diff kwa leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.
Vyanzo
- Weight-space programming studyRikiya Takehi and coauthors
- November 3 critique of bundled experiment conditionsMatthew Honnibal
- Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
- Actual initial Qwen promptRikiya Takehi and coauthors
- Pinned smaller Gemma follow-upRikiya Takehi and coauthors
- Original model-card thinking-loop warningQwen
- Primary study discussionHacker News
- Critique discussionHacker News
- Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
- Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above
.jpg){kind=link}