GPT-6 Astra het 'n ander KI se eindelose denke reggestel

Wat hierdie video dek

• Die gerapporteerde Qwen-puntestyging het gekom van 'n gerigte herstel van herhalende redenasie; ongeveer 'n derde van geredigeerde antwoorde het steeds die lengtebeperking in die primêre protokol bereik.
• Gradiëntopleiding was verbode, terwyl Python, oefenantwoorde en gebundelde model-uitvoer terugvoer oor baie beurte toegelaat is. Finale evalueringsvrae is bron-verklaar uitgehou.
• Die klein rou-gewig en geen-uitrol speletjie-eksperimente het verskillende toestande gebruik. Hul aansprake moet hul individuele gereedskap, insette en basislyn omvang behou.
• Matthew Honnibal gee die gereedskap-ondersteunde ingenieurskonste krediet en betwis die breër indruk wat geproduseer word deur die eksperimente saam te voeg.
• Die kleiner Gemma-opvolgstudie het sy eie opstelling gebruik en kon geen verbetering vasstel nie. Toets watter fout 'n gewigredigering herstel voordat dit op 'n ander model toegepas word.

Vertaalde transkripsie

Vertaal uit die oorspronklike Engelse vertelling. Beskikbare klank en onderskrifte word deur YouTube beheer.

Hoekom het die wiskunde-telling gespring?

0:00 'n KI wat 'n ander KI ses keer slimmer maak klink soos onmiddellike genialiteit. Astra se groot puntestyging het gekom van die hulp wat dit Qwen gegee het om antwoorde te voltooi wat dit aanhou herhaal het. In hierdie video, wat het verander? Watter hulp het Astra gekry? En hoe ver strek die oplossing? Qwen het van ongeveer agt persent tot agt-en-veertig persent gegaan. Die navorsers het 'n tweede model met amper geen lusse probeer nie. Ons sal sien hoe dit gegaan het voor die uitspraak.

0:22 Dis Dinsdag, drie November, en dit is The Daily Diff. Gewig-ruimte programmering is die navorsers se naam om 'n KI te vra om die syfers binne 'n neurale netwerk te inspekteer of te skryf. Daardie syfers is sy gewigte. Hierdie MIT-geaffilieerde span het OpenAI se GPT-ses Astra gebruik om 'n klein Qwen taalmodel te redigeer, met gewone opleiding verbode. Rikiya Takehi en sy mede-outeurs het die studie Maandag gepubliseer,

0:44 en gevra of 'n bestaande KI oor 'n ander netwerk se interne kan redeneer. Hul hoofresultaat is baie klikbaar. Op wiskunde vyfhonderd het Qwen van ongeveer agt persent tot agt-en-veertig persent gestyg. Byna ses keer die korrekte antwoorde. Qwen het aanhou dink totdat dit nie meer plek gehad het om te antwoord nie.

Wat het Qwen verkeerd gedoen?

1:00 In denkmodus het dit dikwels sy redenasie herhaal. Stel jou 'n student voor wat die eksamenboekie vol werk totdat die klok lui. Die nasiener het steeds 'n antwoord nodig. Die meeste oorspronklike antwoorde het die lengtebeperking bereik. Astra het 'n herhalingsrigting in twee interne lae gevind, en toe die bydrae daarvan uit geselekteerde gewigkolomme verwyder. Na daardie redigering het meer antwoorde tot 'n gevolgtrekking gekom. Ongeveer 'n derde het steeds die perk bereik in die gerapporteerde toets.

1:22 Die eksamenboekie het uiteindelik 'n laaste reël gekry. Vandag het Matthew Honnibal, spaCy se skepper en medestigter van Explosion,

Wat betwis vandag se kritikus?

1:28 die aanbieding uitgedaag. Hy sê lesers kan die eksperimente se verskillende toestande kombineer in 'n indruk van een buitengewone tegniek. Sy beswaar gaan oor hul gekombineerde storie. Ons kan self die toestande nagaan. Die Qwen-eksperiment het Astra 'n Python-notaboek oor die gewigte en oefenprobleme

Watter hulp het Astra eintlik gekry?

1:44 met antwoorde gegee. Oor baie beurte het dit interne aktiverings ondersoek en oorspronklike en geredigeerde weergawes vergelyk. Die finale begroting het vyftig bondels model lopies toegelaat. Elke generasie-bondel kon honderde antwoorde bevat. Die oefendata het van opleidings-verdelings gekom. Die navorsers sê Astra het nooit die finale evalueringstelle gesien nie. Terugvoer het gehelp om die redigering te kies; uitgehoude probleme het dit daarna gemeet. Monsterneming-instellings het vas gebly tussen oorspronklike en geredigeerde Qwen,

2:09 wat hierdie protokol se puntvergelyking interpreteerbaar maak. Die eerste opdrag het dit 'n behulpsame laboratorium toesighouer gegee. Diagnoseer foute, vind die verantwoordelike komponente, vergelyk op dieselfde probleme, en toets verskeie sterkpunte. Dit het uitdruklik herhalende denke genoem as 'n herstel wat tel. Nagraadse studente moet onderhandel vir hierdie inwerkpakket. Dit is 'n indrukwekkende herstel.

Hoe klein was die werklike herstel?

2:28 Astra se geteikende redigering het ongeveer honderd een-en-dertig duisend gewigte geraak. Dit is ongeveer sestien duisendstes van 'n persent van die model. Die gewiglêer het direk verander. Gradiëntopleiding het verbode gebly; die bestaande model het die beantwoording gedoen nadat Astra se redigeringsessie geëindig het. Die wins het ook instruksies volg bereik. Ek hou van die praktiese implikasie. 'n Model kan nuttige werk besit wat sy foutmodus aanhou begrawe.

2:48 Die regstelling van daardie fout kan bruikbare antwoorde herstel. Voltooiing tel. Honnibal gee die gereedskap-ondersteunde werk krediet vir die uitvoering van take wat 'n menslike masjienleer-ingenieur sou kon doen. Dit is van groot belang vir 'n agent. Sy klagte is dat die klein rou-nommer demonstrasies en groter Python-ondersteunde herstelwerk 'n breër gevolgtrekking uitnooi wanneer dit saam gebundel word. Neem die klein speletjienetwerke.

Watter eksperimente het regtig geen gereedskap gehad nie?

3:09 In een eksperiment het Astra hul rou nommers gelees en korrek geïdentifiseer watter speletjie elke netwerk geleer het. Gereedskap was verbode. In 'n ander het dit nuwe speletjiespeel-gewigte van nuuts af geskryf met behulp van die reëls en bronkode, met geen oefenuitrolle nie. Dit is afsonderlike demonstrasies met afsonderlike bewyse. Astra se netwerke het die basislyn wat vir honderd miljoen stappe opgelei is, in al drie speletjies geklop. Teen die langer-opgeleide basislyn het dit in Seaquest en

3:32 Asterix verloor, terwyl dit Breakout gewen het. Verander die vergelykingskolom, en die oorwinningstoespraak moet geredigeer word. Gerieflik, redigering is vandag se onderwerp. Vir 'n breër aanspraak sou ons verbeterings oor modelle met verskillende foute wou hê.

Wat sou 'n meer algemene aanspraak benodig?

3:44 Hou tred met wat die redigeerder gesien het en wat as sukses gereken is. Qwen se modelkaart waarsku reeds oor denk-lusse. Die verwydering van hierdie bekende struikelblok het 'n spesifieke beginpunt. Tot hul krediet publiseer die outeurs self die ongemaklike opvolg. Hulle verduidelik dat die stop van lusse Qwen toelaat om antwoorde te voltooi wat dit reeds kon uitwerk. Hul logboeke sluit opdragte, terugvoer en redigerings in. Ons kan die prestasie ondersoek en 'n moeiliker vraag vra.

Wat het gebeur met die model wat selde herhaal het?

4:06 Nou die tweede model, 'n kleiner Gemma in sy eie opvolg-opstelling. Dit het selde herhaal, so sy foute was gewone verkeerde rekenkunde en ongeldige algebra. Astra het weer geteikende gewig-redigerings met oefenterugvoer probeer. Geen het sy wiskunde-telling met meer as ongeveer 'n punt verskuif nie, en 'n wins is nie vasgestel nie. Die suksesvolle Qwen-herstel het 'n struikelblok gehad om te verwyder. Gemma se rekenfoute het oorleef. Dit is die nuttige vraag vir ontwikkelaars.

4:28 Watter fout het die redigering herstel, en het jou model dit werklik? Toets die gestoorde gewigte op jou eie take voordat jy die vermenigvuldiger vier. 'n Herstelde bottelnek kan geweldig saak maak terwyl die volgende bottelnek presies bly waar dit was. As jy dit eerder wil lees as hoor, land die verskil in jou inkassie elke oggend, gratis by the daily diff dot dev, skakel hieronder.

Sou ek die gewig-redigering aanspraak publiseer?

4:47 So, vandag se uitspraak is NEEDS REVIEW. Ek sou die lusherstel ernstig opneem en dit toets. Ek sou breër aansprake beperk tot sukses buite daardie foutmodus. Die outeurs se eie teenvoorbeeld is die nuttigste reël in die verskil. En dit is die verskil vir vandag. Ek is Niko van Axrisi. Voeg verantwoordelik saam.

Bronne

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above