GPT-6 Astra zakrpala beskonačno razmišljanje drugog AI-ja

Što ovaj video pokriva

• Prijavljeno povećanje Qwen rezultata proizašlo je iz ciljane popravke ponavljajućeg zaključivanja; otprilike trećina uređenih odgovora još uvijek je dosegla ograničenje duljine u primarnom protokolu.
• Trening s gradijentom bio je zabranjen, dok su Python, praktični odgovori i povratne informacije o skupnom pokretanju modela bili dopušteni kroz mnoge krugove. Konačna pitanja za evaluaciju su unaprijed deklarirana kao izostavljena.
• Mali eksperimenti s sirovim težinama i bez implementacije koristili su različite uvjete. Njihove tvrdnje trebale bi zadržati svoj individualni opseg alata, ulaza i osnovne linije.
• Matthew Honnibal pripisuje zasluge inženjeringu potpomognutom alatima i osporava širi dojam koji je proizveden grupiranjem eksperimenata.
• Manja Gemma studija koristila je vlastito postavljanje i nije uspjela utvrditi poboljšanje. Prije primjene na drugi model testirajte koji kvar popravlja uređivanje težine.

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

Zašto je matematički rezultat skočio?

0:00 AI koji drugog AI-a čini šest puta pametnijim zvuči kao trenutačni genij. Astřin veliki skok u rezultatu došao je od pomaganja Qwenu da završi odgovore koje je stalno ponavljao. U ovom videu, što se promijenilo? Kakvu je pomoć Astra dobila? I koliko daleko se popravak širi? Qwen je porastao s otprilike osam posto na četrdeset osam posto. Istraživači su isprobali drugi model s gotovo nikakvim petljama. Vidjet ćemo kako je to prošlo prije presude.

0:22 Utorak je, treći studeni, i ovo je The Daily Diff. Programiranje prostora težina je naziv istraživača za traženje od AI-a da pregleda ili upiše brojeve unutar neuronske mreže. Ti brojevi su njegove težine. Ovaj tim povezan s MIT-om koristio je OpenAI-jev GPT-6 Astra za uređivanje malog Qwen jezičnog modela, pri čemu je uobičajena obuka bila zabranjena. Rikiya Takehi i njegovi koautori objavili su studiju u ponedjeljak,

0:44 pitajući može li postojeći AI razmišljati o unutarnjim dijelovima druge mreže. Njihov glavni rezultat je vrlo privlačan. Na math five hundred, Qwen je porastao s otprilike osam posto na četrdeset osam posto. Gotovo šest puta više točnih odgovora. Qwen je nastavio razmišljati dok mu nije ponestalo prostora za odgovor.

Što je Qwen radio pogrešno?

1:00 U načinu razmišljanja, često je ponavljao svoje zaključivanje. Zamislite studenta koji ispunjava ispitnu knjižicu radom dok ne zazvoni zvono. Ocjenjivač još uvijek treba odgovor. Većina izvornih odgovora dosegla je ograničenje duljine. Astra je locirala smjer ponavljanja u dva unutarnja sloja, zatim je uklonila njegov doprinos iz odabranih stupaca težina. Nakon tog uređivanja, više odgovora je došlo do zaključka. Otprilike trećina je još uvijek dosegla ograničenje u prijavljenom testu.

1:22 Ispitna knjižica je konačno dobila zadnji redak. Danas je Matthew Honnibal, tvorac spaCy-ja i suosnivač Explosiona,

Što današnji kritičar osporava?

1:28 osporio prezentaciju. Kaže da čitatelji mogu kombinirati različite uvjete eksperimenata u dojam jedne izvanredne tehnike. Njegov prigovor tiče se njihove zajedničke priče. Možemo sami provjeriti uvjete. Eksperiment Qwen dao je Astri Python bilježnicu s težinama i problemima za vježbu

Kakvu je pomoć Astra zapravo dobila?

1:44 s odgovorima. Tijekom mnogih krugova, pregledao je unutarnje aktivacije i usporedio izvorne i uređene verzije. Konačni budžet dopuštao je pedeset skupova pokretanja modela. Svaka generacija skupova mogla je sadržavati stotine odgovora. Podaci za vježbu dolazili su iz skupova za obuku. Istraživači kažu da Astra nikada nije vidjela konačne skupove za evaluaciju. Povratne informacije su pomogle u odabiru uređivanja; kasnije su mjereni problemi koji su bili izostavljeni. Postavke uzorkovanja ostale su fiksne između izvornog i uređenog Qwena,

2:09 čineći usporedbu rezultata ovog protokola interpretativnom. Prvi prompt dao joj je korisnog nadzornika laboratorija. Dijagnosticirajte kvarove, pronađite odgovorne komponente, usporedite na istim problemima i testirajte nekoliko jačina. Izričito je spomenuo ponavljajuće razmišljanje kao popravak koji se računa. Diplomirani studenti trebali bi pregovarati za ovaj paket za uvođenje. To je impresivan popravak.

Koliko je bio mali stvarni popravak?

2:28 Astřin ciljani popravak dotaknuo je otprilike sto trideset jednu tisuću težina. To je oko šesnaest tisućinki postotka modela. Datoteka težina izravno je promijenjena. Trening s gradijentom ostao je zabranjen; postojeći model je davao odgovore nakon Astřina sesija uređivanja je završila. Dobitak je također dosegao slijedenje uputa. Sviđa mi se praktična primjena. Model može posjedovati koristan rad koji njegov način kvara i dalje zakopava.

2:48 Popravljanjem tog kvara mogu se oporaviti korisni odgovori. Završavanje se računa. Honnibal pripisuje zasluge radu potpomognutom alatima kao obavljanju zadataka koje bi mogao obaviti ljudski inženjer strojnog učenja. To je značajno za agenta. Njegova pritužba je da male demonstracije sirovih brojeva i veći popravci potpomognuti Pythonom pozivaju na širi zaključak kada se spoje. Uzmite malene igračke mreže.

Koji eksperimenti zapravo nisu imali alate?

3:09 U jednom eksperimentu, Astra je pročitala njihove sirove brojeve i ispravno identificirala koju igru je svaka mreža naučila. Alati su bili zabranjeni. U drugom, napisala je nove težine za igranje igara od nule koristeći pravila i izvorni kod, bez vježbi. To su zasebne demonstracije s zasebnim dokazima. Astrine mreže su pobijedile početnu liniju treniranu stotinu milijuna koraka u sve tri igre. Protiv duže trenirane početne linije, izgubila je u Seaquestu i

3:32 Asterixu, dok je pobijedila u Breakoutu. Promijenite stupac za usporedbu, i govor o pobjedi treba urediti. Zgodno, uređivanje je današnja tema. Za širu tvrdnju, željeli bismo poboljšanja preko modela s različitim pogreškama.

Što bi šira tvrdnja trebala?

3:44 Pratite što je urednik vidio i što se računalo kao uspjeh. Qwenova kartica modela već upozorava na petlje razmišljanja. Uklanjanje ove poznate prepreke ima posebnu početnu točku. Na njihovu čast, autori sami objavljuju neugodno praćenje. Objašnjavaju da zaustavljanje petlji omogućuje Qwenu da završi odgovore koje je već mogao izraditi. Njihovi zapisi uključuju upute, povratne informacije i uređivanja. Možemo ispitati postignuće i postaviti teže pitanje.

Što se dogodilo s modelom koji je rijetko kružio?

4:06 Sada drugi model, manja Gemma u vlastitoj naknadnoj postavci. Rijetko je kružila, pa su njezini neuspjesi bili uobičajena pogrešna aritmetika i nevažeća algebra. Astra je ponovno pokušala ciljana uređivanja težina s povratnim informacijama iz prakse. Nijedan nije pomaknuo njezin matematički rezultat za više od otprilike jednog boda, a dobitak nije utvrđen. Uspješni popravak Qwena imao je prepreku za uklanjanje. Gemine aritmetičke pogreške su preživjele. To je korisno pitanje za programere.

4:28 Koji je kvar popravljen uređivanjem i ima li ga vaš model zapravo? Testirajte spremljene težine na vlastitim zadacima prije nego što proslavite množitelj. Popravljeno usko grlo može biti iznimno važno dok sljedeće usko grlo ostaje točno tamo gdje je bilo. Ako biste ovo radije pročitali nego čuli, diff vam stiže u inbox svako jutro, besplatno na the daily diff dot dev, link ispod.

Bih li prihvatio tvrdnju o uređivanju težine?

4:47 Dakle, današnja presuda je NEEDS REVIEW. Ozbiljno bih shvatio popravak petlje i testirao ga. Šire tvrdnje bih ograničio na uspjeh izvan tog načina kvara. Vlastiti protuprimjer autora najkorisniji je redak u diffu. I to je diff za danas. Ja sam Niko iz Axrisija. Spajajte odgovorno.

Izvori

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above