GPT-6 Astra-k beste AI baten pentsamendu amaigabea adabakitu zuen

Bideo honek zer jorratzen duen

• Qwen-en adierazitako puntuazio-igoera arrazoiketa errepikakorraren konponketa zehatz batetik etorri zen; editatutako erantzunen heren bat inguru luzera-mugara iritsi zen protokolo nagusian.
• Gradiente-entrenamendua debekatuta zegoen, Python, praktika-erantzunak eta modelo-exekuzioaren lote-feedbacka, berriz, txanda askotan baimenduta zeuden. Azken ebaluazio-galderak iturritik deklaratu ziren baztertuta.
• Pisu gordin txikien eta roll-out gabeko joko-esperimentuek baldintza desberdinak erabili zituzten. Haien aldarrikapenek beren tresna, sarrera eta oinarrizko esparrua mantendu beharko lukete.
• Matthew Honnibalek tresnaz lagundutako ingeniaritzaren meritua aitortzen du eta esperimentuak batzeak sortutako inpresio zabalagoa eztabaidatzen du.
• Gemma-ren jarraipen txikiagoak bere konfigurazioa erabili zuen eta ez zuen hobekuntzarik lortu. Probatu zein hutsegite konpontzen duen pisu-edizio batek, beste modelo batera aplikatu aurretik.

Itzulitako transkripzioa

Jatorrizko ingelesezko narraziotik itzulia. Eskuragarri dauden audioa eta azpitituluak YouTube-k kontrolatzen ditu.

Zergatik igo zen matematika puntuazioa?

0:00 AI batek beste AI bat sei aldiz adimentsuago egitea berehalako jeinua dirudi. Astraren puntuazio igoera handia Qwen-i erantzunak amaitzen laguntzeagatik etorri zen, errepikatzen jarraitzen baitzuen. Bideo honetan, zer aldatu da? Zer laguntza jaso zuen Astra-k? Eta noraino iristen da konponketa? Qwen zortzi ehuneko ingurutik berrogeita zortzi ehunekora igo zen. Ikertzaileek bigarren modelo bat probatu zuten, ia begiztarik gabea. Epaiaren aurretik, nola joan zen ikusiko dugu.

0:22 Asteartea da, azaroaren hirua, eta hau The Daily Diff da. Pisu-espazioaren programazioa da ikertzaileek ematen dioten izena AI bati sare neuronal baten barruko zenbakiak ikuskatzeko edo idazteko eskatzean. Zenbaki horiek bere pisuak dira. MIT-ekin lotutako talde honek OpenAI-ren GPT sei Astra erabili zuen Qwen hizkuntza-modelo txiki bat editatzeko, entrenamendu arrunta debekatuta zegoelarik. Rikiya Takehi-k eta bere egilekideek astelehenean argitaratu zuten ikerketa,

0:44 existitzen den AI batek beste sare baten barne-mekanismoei buruz arrazoitu zezakeen galdetuz. Haien emaitza nagusia oso klikagarria da. Math five hundred proban, Qwen zortzi ehuneko ingurutik berrogeita zortzi ehunekora igo zen. Ia sei aldiz erantzun zuzen gehiago. Qwenek pentsatzen jarraitu zuen erantzuteko lekurik gabe geratu zen arte.

Zer egiten zuen Qwen-ek gaizki?

1:00 Pentsamendu-moduan, askotan bere arrazoibidea errepikatzen zuen. Imajinatu ikasle bat azterketa-koadernoa lanarekin betetzen duen bitartean kanpaiak jo arte. Markatzaileak oraindik erantzun bat behar du. Jatorrizko erantzun gehienek luzera-mugara iristen ziren. Astra-k errepikapen-norabide bat aurkitu zuen bi barne-geruzetan, eta gero, hautatutako pisu-zutabeetatik bere ekarpena kendu zuen. Edizio horren ondoren, erantzun gehiagok ondorio bat lortu zuten. Heren batek oraindik mugara iritsi zen proba horretan.

1:22 Azterketa-koadernoak azken lerro bat lortu zuen azkenean. Gaur, Matthew Honnibalek, spaCy-ren sortzaile eta Explosion-eko kofundatzaileak,

Zer eztabaidatzen du gaurko kritikak?

1:28 aurkezpena zalantzan jarri du. Dioenez, irakurleek esperimentuen baldintza desberdinak teknika aparteko baten inpresio batean konbina ditzakete. Bere objekzioa haien istorio konbinatuari dagokio. Baldintzak geuk egiaztatu ditzakegu. Qwen esperimentuan Astra-ri Python koaderno bat eman zitzaion pisuen gainean eta praktika-problema

Zer laguntza jaso zuen Astra-k benetan?

1:44 erantzunekin. Txanda askotan, barne-aktibazioak ikuskatu zituen eta jatorrizko eta editatutako bertsioak alderatu zituen. Azken aurrekontuak modelo-exekuzioen berrogeita hamar lote baimentzen zituen. Belaunaldi bakoitzeko loteak ehunka erantzun izan zitzakeen. Praktika-datuak entrenamendu-zatitatik zetozen. Ikertzaileek diote Astra-k ez zuela inoiz ikusi azken ebaluazio-multzorik. Feedbackak edizioa aukeratzen lagundu zuen; ondoren, baztertutako problemek neurtu zuten. Laginketa-ezarpenak finkatuta egon ziren jatorrizko eta editatutako Qwen artean,

2:09 protokolo honen puntuazio-konparaketa interpretagarri bihurtuz. Lehen prompt-ek laborategiko gainbegiratzaile lagungarri bat eman zion. Akatsak diagnostikatu, erantzule diren osagaiak aurkitu, problema beretan alderatu, eta hainbat indar probatu. Espresuki aipatu zuen pentsamendu errepikakorra konponketa gisa, eta horrek balio duela. Graduatuko ikasleek ontzi-pakete hau negoziatu beharko lukete. Hori konponketa ikusgarria da.

Zein txikia zen benetako konponketa?

2:28 Astraren edizio zehatzak gutxi gorabehera ehun eta hogeita hamaika mila pisu ukitu zituen. Hori modeloaren ehuneko hamasei mila bat da. Pisu-fitxategia zuzenean aldatu zen. Gradiente-entrenamendua debekatuta egon zen; existitzen zen modeloak erantzun zuen Astraren edizio-saioa amaitu ondoren. Astraren edizio-saioa amaitu ondoren. Irabaziak argibideen jarraipenera ere iritsi ziren. Inplikazio praktikoa gustatzen zait. Modelo batek lan erabilgarria izan dezake, baina bere akats-moduak ezkutatu egiten du.

2:48 Akats hori konpontzeak erantzun erabilgarriak berreskura ditzake. Amaitzeak balio du. Honnibalek tresnez lagundutako lanari meritua ematen dio, giza makina-ikaskuntza ingeniari batek egin ditzakeen lanak egiteagatik. Horrek ondorioak ditu agente batentzat. Bere kexa da zenbaki gordinen erakustaldi txikiek eta Python-ek lagundutako konponketa handiagoek ondorio zabalago bat gonbidatzen dutela elkarrekin bateratzean. Hartu joko-sare txikiak.

Zein esperimentutan ez zegoen tresnarik?

3:09 Esperimentu batean, Astra-k haien zenbaki gordinak irakurri zituen eta zuzen identifikatu zuen zein joko ikasi zuen sare bakoitzak. Tresnak debekatuta zeuden. Beste batean, joko-pisu berriak hutsetik idatzi zituen arauak eta iturri-kodea erabiliz, praktika-roll-out-ik gabe. Horiek erakustaldi bereiziak dira, froga bereiziekin. Astraren sareek ehun milioi urratsetan entrenatutako oinarrizko maila gainditu zuten hiru jokoetan. Entrenamendu luzeagoa izan zuen oinarrizko mailaren aurka, Seaquest eta Asterix-en galdu zuen,

3:32 Breakout irabazi zuen bitartean. Konparazio-zutabea aldatu, eta garaipen-hitzaldia editatu behar da. Komenigarria da, edizioa da gaurko gaia. Aldarrikapen zabalago baterako, hobekuntzak nahi genituzke akats desberdinak dituzten modeloetan zehar.

Zer beharko luke baieztapen orokorrago batek?

3:44 Jarraitu editoreak zer ikusi zuen eta zer zen arrakasta. Qwen-en modelo-txartelak jada ohartarazten du pentsamendu-begiztei buruz. Oztopo ezagun hori kentzeak abiapuntu berezi bat du. Haien meritua da, egileek jarraipen deserosoa beraiek argitaratzen dutela. Azaldu dute begiztak geldiarazteak Qwen-i dagoeneko landu zitzakeen erantzunak amaitzen uzten diola. Haien erregistroek promptak, feedbacka eta edizioak barne hartzen dituzte. Lorpena aztertu eta galdera zailago bat egin dezakegu.

Zer gertatu zitzaion gutxitan begiztatzen zuen modeloari?

4:06 Orain bigarren modeloa, Gemma txikiago bat bere jarraipen-konfigurazioan. Gutxitan begiztatzen zuen, beraz, bere akatsak ohiko aritmetika okerra eta algebra baliogabea ziren. Astra-k pisu-edizio zehatzak probatu zituen berriro praktika-feedbackarekin. Batek ere ez zuen bere matematika-puntuazioa puntu bat baino gehiago mugitu, eta ez zen irabazirik finkatu. Qwen-en konponketa arrakastatsuak kendu beharreko oztopo bat zuen. Gemma-ren errore aritmetikoek bizirik iraun zuten. Hori da garatzaileentzako galdera erabilgarria.

4:28 Zein hutsegite konpondu zuen edizioak, eta zure modeloak benetan badu hori? Probatu gordetako pisuak zure zereginetan, biderkatzailea ospatu aurretik. Konpondutako lepo-estu batek izugarri garrantzitsua izan daiteke, hurrengo lepo-estuak zehatz-mehatz zegoen lekuan jarraitzen duen bitartean. Hau irakurri nahiago baduzu entzun beharrean, diff-a zure sarrera-ontzian lurreratzen da goizero, doan daily diff dot dev-en, esteka beherago.

Bidaltuko al nuke pisuak editatzeko aldarrikapena?

4:47 Beraz, gaurko epaia: BEHAR DU BERRIKUSKETA. Begizta-konponketa serio hartu eta probatuko nuke. Akats-modu horretatik haratagoko arrakastan oinarritutako aldarrikapen zabalagoak mantenduko nituzke. Egileen kontrako adibidea da diff-eko lerro erabilgarriena. Eta hori da gaurko diff-a. Niko naiz Axrisi-tik. Fusionatu arduraz.

Iturriak

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above