# GPT-6 Astra je zakrpala neskončno razmišljanje drugega AI-ja

Published: 2026-11-04

Študija, povezana z MIT-jem, je uporabila GPT-6 Astra za urejanje uteži majhnega modela Qwen in pomagala dokončati več odgovorov. Poročano povečanje matematičnega rezultata je bilo odvisno od ciljnega popravila zanke, analize Pythona in povratnih informacij iz prakse. Ločena nadaljnja študija z manjšo Gemmo ni ugotovila nobenega potrjenega dobička.

Canonical: https://thedailydiff.dev/sl/video/2026-11-03-astra-qwen-weights/

## Kaj zajema ta videoposnetek

- Poročano povečanje ocene Qwen je izviralo iz ciljnega popravila ponavljajočega se razmišljanja; približno tretjina urejenih odgovorov je v primarnem protokolu še vedno dosegla omejitev dolžine.
- Gradientno usposabljanje je bilo prepovedano, medtem ko so bili Python, praktični odgovori in skupinske povratne informacije o delovanju modela dovoljeni v mnogih krogih. Končna evalvacijska vprašanja so bila označena kot zadržana.
- Majhni poskusi z neobdelanimi utežmi in igrami brez uvajanja so uporabljali različne pogoje. Njihove trditve bi morale ohraniti svoj individualni obseg orodij, vnosov in izhodišč.
- Matthew Honnibal pripisuje zasluge orodno podprtemu inženiringu in oporeka širšemu vtisu, ki ga povzroča združevanje poskusov.
- Manjša nadaljnja študija Gemma je uporabila lastno nastavitev in ni uspela potrditi izboljšanja. Preden uporabite urejanje uteži na drugem modelu, preizkusite, katero napako popravlja.

## Vprašanja in odgovori

### Kaj je Astra spremenila, da bi izboljšala Qwenov poročani matematični rezultat?

Astra je izvedla ciljno urejanje uteži, ki je Qwenu pomagalo dokončati več odgovorov, glede na študijo Rikiya Takehija in soavtorjev. Odstranila je prispevek, povezan s ponavljanjem, iz izbranih stolpcev v notranjih slojih. Poročano povečanje matematičnega rezultata je uporabljalo fiksni evalvacijski protokol. Mnogi urejeni odgovori so še vedno dosegli omejitev dolžine, zato rezultat ohranja znatno preostalo stopnjo napak.

### Katera orodja in povratne informacije so bili dovoljeni med urejanjem Qwenovih uteži?

Analiza Pythona, praktični problemi z odgovori in skupinske povratne informacije o delovanju modela so bili dovoljeni v mnogih krogih. Dejanski začetni poziv raziskovalcev je prepovedoval gradientno usposabljanje in določil diagnostične in vzročne testne nasvete, vključno s popravilom ponavljajočega se razmišljanja kot upravičene tarče. Ta podpora je Astri pomagala izbrati neposredno urejanje obstoječih uteži. Enota proračuna je lahko vsebovala na stotine generiranih odgovorov.

### So bili končni evalvacijski problemi na voljo modelu za urejanje?

Raziskovalci pravijo, da končnih evalvacijskih nizov Astra ni videla. Povratne informacije iz prakse so prihajale iz problemov, razdeljenih na usposabljanje, in so pomagale izbrati urejanje; ločeni zadržani problemi so nato merili predloženi model. Začetni poziv je razkril imena meril in evalvacijski protokol. Ta razlika opisuje, kaj je bilo zadržano, ne da bi trdila, da uredniku ni manjkalo vseh informacij o nalogi.

### Kaj se je zgodilo v manjši nadaljnji študiji Gemma o urejanju uteži?

Manjša nadaljnja študija Gemma ni uspela potrditi dobička, glede na Rikiya Takehija in soavtorje. Model je redko ponavljal zanke, in njegove napake so vključevale napačno aritmetiko in neveljavno algebro. Ciljno urejanje s povratnimi informacijami iz prakse je premaknilo poročani matematični rezultat za največ približno eno točko. Uporabil je ločeno nastavitev, zato primerjava ponuja omejen protiprimer namesto enakopravne kontrolirane ablacije.

### Kakšna je bila sodba The Daily Diff o trditvi o urejanju uteži?

Sodba The Daily Diff je bila POTREBEN PREGLED. Niko bi resno vzel ciljno popravilo zanke in ga preizkusil, medtem ko bi širše trditve ohranil pogojene z uspehom izven tega načina napake. Protiodgovor samih raziskovalcev na manjšem modelu potrjuje to presojo. Razvijalci bi morali identificirati napako, ki jo popravi urejanje, in oceniti shranjene uteži na svojih nalogah, preden slavijo poročani množitelj.

## Poglavja

- 0:00 Zakaj je matematični rezultat poskočil?
- 0:58 Kaj je Qwen delal narobe?
- 1:25 Kaj danes oporeka kritik?
- 1:41 Kakšno pomoč je Astra dejansko dobila?
- 2:27 Kako majhno je bilo dejansko popravilo?
- 3:08 Kateri poskusi res niso imeli orodij?
- 3:40 Kaj bi potrebovala splošnejša trditev?
- 4:06 Kaj se je zgodilo z modelom, ki je redko ponavljal zanko?
- 4:47 Ali bi objavil trditev o urejanju uteži?

## Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

### Zakaj je matematični rezultat poskočil?

0:00 AI, ki naredi drugega AI-ja šestkrat pametnejšega, zveni kot takojšen genij. Astrin velik skok v rezultatu je bil posledica pomoči Qwenu, da dokonča odgovore, ki jih je vedno ponavljal. V tem videu, kaj se je spremenilo? Kakšno pomoč je Astra dobila? In kako daleč se popravek razširi? Qwen je šel od približno osmih odstotkov na osemindvajset odstotkov. Raziskovalci so poskusili drugi model s skoraj nobenimi zankami. Pred sodbo bomo videli, kako je šlo.

0:22 Torek, 3. november, in to je The Daily Diff. Programiranje prostora uteži je ime, ki so ga raziskovalci dali vprašanju AI-ja, naj pregleda ali zapiše številke znotraj nevronske mreže. Te številke so njene uteži. Ta ekipa, povezana z MIT-jem, je uporabila OpenAI-jev GPT šesti Astra za urejanje majhnega jezičnega modela Qwen, pri čemer je bilo običajno usposabljanje prepovedano. Rikiya Takehi in njegovi soavtorji so študijo objavili v ponedeljek,

0:44 vprašujoč se, ali bi obstoječi AI lahko razmišljal o notranjosti drugega omrežja. Njihov naslovni rezultat je zelo privlačen. Na matematiki petsto je Qwen zrasel od približno osmih odstotkov na osemindvajset odstotkov. Skoraj šestkrat več pravilnih odgovorov. Qwen je razmišljal, dokler mu ni zmanjkalo prostora za odgovor.

### Kaj je Qwen delal narobe?

1:00 V načinu razmišljanja je pogosto ponavljal svoje sklepanje. Predstavljajte si študenta, ki izpolnjuje izpitno knjižico z delom, dokler ne zazvoni zvonec. Marker še vedno potrebuje odgovor. Večina izvirnih odgovorov je dosegla omejitev dolžine. Astra je locirala smer ponavljanja v dveh notranjih slojih, nato pa odstranila njen prispevek iz izbranih stolpcev uteži. Po tej spremembi je več odgovorov prišlo do zaključka. Približno tretjina je še vedno dosegla omejitev v poročanem testu.

1:22 Izpitna knjižica je končno dobila zadnjo vrstico. Danes je Matthew Honnibal, ustvarjalec spaCyja in soustanovitelj Explosion,

### Kaj danes oporeka kritik?

1:28 izzval predstavitev. Pravi, da lahko bralci združijo različne pogoje poskusov v vtis ene izjemne tehnike. Njegov ugovor se nanaša na njihovo skupno zgodbo. Pogoje lahko preverimo sami. Poskus Qwen je Astri dal Pythonov zvezek nad utežmi in praktičnimi

### Kakšno pomoč je Astra dejansko dobila?

1:44 problemi z odgovori. V mnogih krogih je pregledovala notranje aktivacije in primerjala izvirne ter urejene različice. Končni proračun je omogočal petdeset serij zagonov modela. Vsaka generacijska serija je lahko vsebovala na stotine odgovorov. Podatki iz prakse so prihajali iz učnih razdelitev. Raziskovalci pravijo, da Astra nikoli ni videla končnih evalvacijskih nizov. Povratne informacije so pomagale izbrati urejanje; zadržani problemi so ga nato merili. Nastavitve vzorčenja so ostale fiksne med izvirnim in urejenim Qwenom,

2:09 zaradi česar je primerjava rezultatov tega protokola razložljiva. Prvi poziv ji je dal koristnega laboratorijskega nadzornika. Diagnosticirajte napake, poiščite odgovorne komponente, primerjajte iste probleme in preizkusite več moči. Izrecno je omenil ponavljajoče se razmišljanje kot popravilo, ki šteje. Diplomanti bi se morali pogajati za ta paket uvajanja. To je impresivno popravilo.

### Kako majhno je bilo dejansko popravilo?

2:28 Astrino ciljno urejanje se je dotaknilo približno sto enaintrideset tisoč uteži. To je približno šestnajst tisočink odstotka modela. Datoteka z utežmi se je spremenila neposredno. Gradientno usposabljanje je ostalo prepovedano; obstoječi model je odgovarjal po tem, ko se je Astrina seansa urejanja končala. Dobiček je dosegel tudi sledenje navodilom. Všeč mi je praktična implikacija. Model lahko poseduje koristno delo, ki ga njegov način napake vedno znova zakopava.

2:48 Popravilo te napake lahko povrne uporabne odgovore. Dokončanje šteje. Honnibal pripisuje orodno podprtemu delu zasluge, da opravlja naloge, ki bi jih lahko opravil človeški inženir strojnega učenja. To je pomembno za agenta. Njegova pritožba je, da majhne predstavitve neobdelanih številk in večja popravila, podprta s Pythonom, vabijo k širšemu zaključku, če so združena. Vzemimo majhne igralne mreže.

### Kateri poskusi res niso imeli orodij?

3:09 V enem poskusu je Astra prebrala njihove neobdelane številke in pravilno identificirala, katero igro se je vsaka mreža naučila. Orodja so bila prepovedana. V drugem je napisala nove uteži za igranje iger od začetka z uporabo pravil in izvorne kode, brez praktičnih uvajanj. To so ločene predstavitve z ločenimi dokazi. Astrine mreže so premagale izhodiščno usposobljene sto milijonov korakov v vseh treh igrah. Proti daljše usposobljeni izhodiščni mreži je izgubila v Seaquestu in

3:32 Asterixu, medtem ko je zmagala v Breakoutu. Spremenite primerjalni stolpec, in zmagovalni govor potrebuje urejanje. Prikladno, urejanje je današnja tema. Za širšo trditev bi želeli izboljšave pri modelih z različnimi napakami.

### Kaj bi potrebovala splošnejša trditev?

3:44 Spremljajte, kaj je videl urednik in kaj je štelo za uspeh. Qwenova kartica modela že opozarja na zanke razmišljanja. Odstranjevanje te znane ovire ima posebno izhodišče. Priznati jim je treba, da so avtorji sami objavili neprijetno nadaljevanje. Razložijo, da prekinitev zank omogoča Qwenu, da dokonča odgovore, ki jih je že lahko razbral. Njihovi dnevniki vključujejo pozive, povratne informacije in popravke. Lahko preučimo dosežek in postavimo težje vprašanje.

### Kaj se je zgodilo z modelom, ki je redko ponavljal zanko?

4:06 Zdaj drugi model, manjša Gemma v svoji lastni nadaljnji nastavitvi. Redko je ponavljal zanke, zato so bile njegove napake običajne napačne aritmetike in neveljavne algebre. Astra je znova poskusila ciljno urejanje uteži s povratnimi informacijami iz prakse. Nobena ni premaknila njegovega matematičnega rezultata za več kot približno eno točko, in dobiček ni bil potrjen. Uspešno popravilo Qwena je imelo oviro, ki jo je bilo treba odstraniti. Gemmine aritmetične napake so preživele. To je koristno vprašanje za razvijalce.

4:28 Katero napako je popravil popravek in ali jo ima vaš model dejansko? Preden slavite množitelj, preizkusite shranjene uteži na svojih nalogah. Popravljena ozka grla so lahko izjemno pomembna, medtem ko naslednja ozka grla ostanejo točno tam, kjer so bila. Če bi raje to prebrali, kot pa me slišali, diff pristane v vašem nabiralniku vsako jutro, brezplačno na the daily diff dot dev, povezava spodaj.

### Ali bi objavil trditev o urejanju uteži?

4:47 Torej, današnja sodba je POTREBEN PREGLED. Popravilo zanke bi vzel resno in ga preizkusil. Širše trditve bi ohranil pogojene z uspehom izven tega načina napake. Protiodgovor samih avtorjev je najkoristnejša vrstica v diffu. In to je diff za danes. Sem Niko iz Axrisija. Združujte odgovorno.

## Viri

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above