# GPT-6 Astra paikkasi toisen tekoälyn loputtoman ajattelun

Published: 2026-11-04

MIT:hen sidoksissa oleva tutkimus käytti GPT-6 Astraa muokkaamaan pienen Qwen-mallin painoja ja auttamaan useampia vastauksia valmistumaan. Sen raportoitu matemaattisten pisteiden hyppy riippui kohdennetusta silmukan korjauksesta, Python-analyysistä ja harjoituspalautteesta. Erillisessä pienemmän Gemman seurantatutkimuksessa ei havaittu vakiintunutta parannusta.

Canonical: https://thedailydiff.dev/fi/video/2026-11-03-astra-qwen-weights/

## Mitä tämä video käsittelee

- Raportoitu Qwenin pistemäärän nousu johtui kohdennetusta korjauksesta toistuvaan päättelyyn; noin kolmannes muokatuista vastauksista saavutti edelleen pituusrajan ensisijaisessa protokollassa.
- Gradienttikoulutus oli kielletty, kun taas Python-analyysi, harjoitusvastaukset ja eräajona suoritettu mallin palaute sallittiin monien kierrosten ajan. Lopulliset arviointikysymykset ilmoitettiin lähdeperusteisesti pidetyiksi ulkona.
- Pienissä raakapaino- ja ilman käyttöönottoa tehdyissä pelipeleissä käytettiin erilaisia olosuhteita. Niiden väitteiden tulisi säilyttää yksilöllinen työkalu-, syöte- ja perusviittauskohteensa.
- Matthew Honnibal antaa tunnustusta työkaluavusteiselle suunnittelulle ja kiistää laajeman vaikutelman, joka syntyy kokeiden niputtamisesta yhteen.
- Pienemmässä Gemma-seurantatutkimuksessa käytettiin omaa kokoonpanoaan, eikä siinä saavutettu parannusta. Testaa, minkä virheen painomuokkaus korjaa, ennen kuin sovellat sitä toiseen malliin.

## Kysymyksiä ja vastauksia

### Mitä Astra muutti parantaakseen Qwenin raportoitua matematiikan pistemäärää?

Astra teki kohdennetun painomuokkauksen, joka auttoi Qwenia viimeistelemään useampia vastauksia, Rikiya Takehin ja kollegoiden tutkimuksen mukaan. Se poisti toistoon liittyvän osuuden valituista sarakkeista sisäisissä kerroksissa. Raportoitu matematiikan pistemäärän nousu käytti kiinteää arviointiprotokollaa. Monet muokatuista vastauksista osuivat edelleen pituusrajaan, joten tuloksessa on edelleen huomattava jäännösvirhesuhde.

### Mitä työkaluja ja palautetta sallittiin Qwenin painomuokkauksen aikana?

Python-analyysi, harjoitusongelmat vastauksineen ja eräajona suoritettu mallin palaute sallittiin monien kierrosten ajan. Tutkijoiden todellinen alkuperäinen kehotus kielsi gradienttikoulutuksen ja määritteli diagnostiset ja kausaalisen testauksen neuvot, mukaan lukien toistuvan ajattelun korjauksen kelvollisena kohteena. Tämä tuki auttoi Astraa valitsemaan suoran muokkauksen olemassa oleviin painoihin. Budjettiyksikkö voi sisältää satoja luotuja vastauksia.

### Oliko lopulliset arviointiongelmat muokkausmallin saatavilla?

Tutkijat sanovat, että lopulliset arviointisarjat pysyivät Astralle näkymättöminä. Harjoituspalaute tuli koulutusjaon ongelmista ja auttoi valitsemaan muokkauksen; erilliset pidetyt ongelmat mittasivat lähetettyä mallia jälkeenpäin. Alkuperäinen kehotus paljasti vertailuarvojen nimet ja arviointiprotokollan. Tämä ero kuvaa sitä, mitä pidettiin, väittämättä, että editorilta puuttui kaikki tieto tehtävästä.

### Mitä tapahtui pienemmässä Gemman painomuokkausseurannassa?

Pienemmässä Gemman seurannassa ei onnistuttu vakiinnuttamaan hyötyä, Rikiya Takehin ja kollegoiden mukaan. Malli kiersi harvoin, ja sen viat sisälsivät vääriä laskutoimituksia ja virheellistä algebraa. Kohdennetut muokkaukset harjoituspalautteen kanssa muuttivat raportoitua matematiikan pistemäärää enintään noin yhdellä pisteellä. Siinä käytettiin erillistä kokoonpanoa, joten vertailu tarjoaa rajatun vastaesimerkin eikä yhtä kontrolloitua ablaatiota.

### Mikä oli The Daily Diffin tuomio painomuokkausväitteestä?

The Daily Diffin tuomio oli NEEDS REVIEW. Niko ottaisi kohdennetun silmukan korjauksen vakavasti ja testaisisi sen, pitäen samalla laajemmat väitteet sidottuna menestykseen kyseisen vikatilan ulkopuolella. Tutkijoiden oma pienemmän mallin vastaesimerkki tukee tätä arviota. Kehittäjien tulisi tunnistaa, minkä vian muokkaus korjaa, ja arvioida tallennettuja painoja omissa tehtävissään ennen kuin juhlivat raportoitua kerrointa.

## Luvut

- 0:00 Miksi matematiikan tulos hyppäsi?
- 0:58 Mitä Qwen teki väärin?
- 1:25 Mitä tämän päivän kriitikko kiistää?
- 1:41 Mitä apua Astra todella sai?
- 2:27 Kuinka pieni varsinainen korjaus oli?
- 3:08 Missä kokeissa ei todella ollut työkaluja?
- 3:40 Mitä yleisempi väite tarvitsisi?
- 4:06 Mitä tapahtui mallille, joka harvoin kiersi?
- 4:47 Lähettäisinkö painomuokkausväitteen?

## Käännetty transkriptio

Käännetty alkuperäisestä englanninkielisestä selostuksesta. Käytettävissä olevan äänen ja tekstitysten hallinta tapahtuu YouTuben kautta.

### Miksi matematiikan tulos hyppäsi?

0:00 Tekoäly, joka tekee toisesta tekoälystä kuusi kertaa älykkäämmän, kuulostaa välittömältä neroudelta. Astran suuri pistemäärähyppy tuli siitä, että se auttoi Qweniä viimeistelemään vastauksia, joita se jatkuvasti toisti. Mitä tässä videossa muuttui? Mitä apua Astra sai? Ja kuinka pitkälle korjaus matkaa? Qwenin pisteet nousivat noin kahdeksasta prosentista neljäänkymmeneen kahdeksaan prosenttiin. Tutkijat kokeilivat toista mallia, jossa oli lähes nollasilmukoita. Katsomme, miten se meni ennen tuomiota.

0:22 On tiistai, marraskuun kolmas, ja tämä on The Daily Diff. Painoavaruuden ohjelmointi on tutkijoiden nimi tekoälyn pyytämiselle tarkastella tai kirjoittaa numerot neuroverkon sisään. Nämä numerot ovat sen painoja. Tämä MIT:hen sidoksissa oleva tiimi käytti OpenAI:n GPT kuutta Astraa muokkaamaan pientä Qwen-kielimallia, ja tavallinen koulutus oli kielletty. Rikiya Takehi ja hänen kollegansa julkaisivat tutkimuksen maanantaina,

0:44 kysyen, voisiko olemassa oleva tekoäly perustella toisen verkon sisäisiä osia. Heidän otsikkonsa tulos on erittäin klikattava. Matematiikan viidessäsadassa Qwen nousi noin kahdeksasta prosentista neljäänkymmeneen kahdeksaan prosenttiin. Lähes kuusi kertaa enemmän oikeita vastauksia. Qwen jatkoi ajattelua, kunnes siltä loppui tila vastata.

### Mitä Qwen teki väärin?

1:00 Ajattelutilassa se toisti usein päättelyään. Kuvittele opiskelija täyttämässä koekirjaa työskentelyllä, kunnes kello soi. Merkitsijä tarvitsee silti vastauksen. Useimmat alkuperäiset vastaukset saavuttivat pituusrajan. Astra paikallisti toistussuunnan kahdessa sisäisessä kerroksessa, ja poisti sitten sen osuuden valituista painosarakkeista. Tämän muokkauksen jälkeen useammat vastaukset saavuttivat johtopäätöksen. Noin kolmannes saavutti silti rajan raportoidussa testissä.

1:22 Koekirjaan saatiin lopulta viimeinen rivi. Tänään Matthew Honnibal, spaCy:n luoja ja Explosionin toinen perustaja,

### Mitä tämän päivän kriitikko kiistää?

1:28 kyseenalaisti esitystavan. Hän sanoo, että lukijat voivat yhdistää kokeiden erilaiset olosuhteet yhdeksi kuvaksi yhdestä poikkeuksellisesta tekniikasta. Hänen vastalauseensa koskee niiden yhteistä tarinaa. Voimme tarkistaa ehdot itse. Qwen-kokeessa Astra sai Python-muistikirjan painojen yli ja harjoitusongelmia

### Mitä apua Astra todella sai?

1:44 vastauksineen. Monien kierrosten ajan se tarkasteli sisäisiä aktivaatioita ja vertaili alkuperäisiä ja muokattuja versioita. Lopullinen budjetti salli viisikymmentä erää mallin ajoja. Jokainen sukupolvierä voi sisältää satoja vastauksia. Harjoitustiedot tulivat koulutusjaoista. Tutkijat sanovat, että Astra ei koskaan nähnyt lopullisia arviointisarjoja. Palaute auttoi valitsemaan muokkauksen; pidettyjä ongelmia mitattiin sen jälkeen. Näytteenottoasetukset pysyivät kiinteinä alkuperäisen ja muokatun Qwenin välillä,

2:09 mikä teki tämän protokollan pistevertailusta tulkittavissa. Ensimmäinen kehotus antoi sille avuliaan laboratorion esimiehen. Diagnosoi virheet, etsi vastuulliset komponentit, vertaile samoihin ongelmiin ja testaa useita vahvuuksia. Se mainitsi nimenomaisesti toistuvan ajattelun korjauksena, joka lasketaan. Jatko-opiskelijoiden tulisi neuvotella tästä perehdytyspaketista. Se on vaikuttava korjaus.

### Kuinka pieni varsinainen korjaus oli?

2:28 Astran kohdennettu muokkaus kosketti noin sata kolmekymmentäyksi tuhatta painoa. Se on noin kuusitoistatuhatta prosenttia mallista. Painotiedosto muuttui suoraan. Gradienttikoulutus pysyi kiellettynä; olemassa oleva malli vastasi Astran muokkausistunnon päätyttyä. Voitto saavutti myös ohjeiden noudattamisen. Pidän käytännön vaikutuksesta. Mallilla voi olla hyödyllistä työtä, jonka sen vikatila hautaa jatkuvasti.

2:48 Tämän vian korjaaminen voi palauttaa käyttökelpoisia vastauksia. Viimeistely lasketaan. Honnibal antaa työkaluavusteiselle työlle kunnian siitä, että se suorittaa tehtäviä, joita ihminen koneoppimisen insinööri voisi tehdä. Se on merkityksellistä agentille. Hänen valituksensa on, että pienet raakanumerodemonstraatiot ja suuremmat Python-avusteiset korjaukset kutsuvat laajempaan johtopäätökseen, kun ne niputetaan yhteen. Otetaanpa pienet peliverkot.

### Missä kokeissa ei todella ollut työkaluja?

3:09 Yhdessä kokeessa Astra luki niiden raakanumerot ja tunnisti oikein, minkä pelin kukin verkko oli oppinut. Työkalut olivat kiellettyjä. Toisessa se kirjoitti uusia pelipainoja tyhjästä sääntöjä ja lähdekoodia käyttäen, ilman harjoitusrullauksia. Nämä ovat erillisiä demonstraatioita erillisillä todisteilla. Astran verkot voittivat vertailukohdan, joka oli koulutettu sata miljoonaa askelta kaikissa kolmessa pelissä. Pidemmälle koulutettua vertailukohdetta vastaan se hävisi Seaquestissä ja

3:32 Asterixissä, voittaen samalla Breakoutin. Muuta vertailusaraketta, ja voitonpuhetta on muokattava. Kätevästi, muokkaaminen on tämän päivän aihe. Laajemman väitteen osalta haluaisimme parannuksia malleissa, joissa on erilaisia vikoja.

### Mitä yleisempi väite tarvitsisi?

3:44 Seuraa, mitä editori näki ja mikä laskettiin menestykseksi. Qwenin mallikortti varoittaa jo ajattelusilmukoista. Tämän tunnetun esteen poistamisella on erityinen lähtökohta. Heidän kunniakseen, kirjoittajat julkaisevat epämukavan seurannan itse. He selittävät, että silmukoiden pysäyttäminen antaa Qwenin viimeistellä vastauksia, jotka se pystyi jo työstämään. Heidän lokeihinsa sisältyy kehotteita, palautetta ja muokkauksia. Voimme tarkastella saavutusta ja esittää vaikeamman kysymyksen.

### Mitä tapahtui mallille, joka harvoin kiersi?

4:06 Nyt toinen malli, pienempi Gemma omassa seurantakokoonpanossaan. Se kiersi harvoin, joten sen viat olivat tavallisia vääriä laskutoimituksia ja virheellistä algebraa. Astra kokeili kohdennettuja painomuokkauksia harjoituspalautteen kanssa uudelleen. Mikään niistä ei muuttanut sen matematiikan pistemäärää enempää kuin noin yhdellä pisteellä, eikä parannusta vakiinnutettu. Onnistuneessa Qwen-korjauksessa oli este poistettava. Gemman aritmeettiset virheet säilyivät. Se on hyödyllinen kysymys kehittäjille.

4:28 Minkä vian muokkaus korjasi, ja onko mallillasi se todella? Testaa tallennettuja painoja omissa tehtävissäsi ennen kuin juhlit kerrointa. Korjattu pullonkaula voi olla valtavan tärkeä, kun taas seuraava pullonkaula pysyy tarkalleen siinä, missä se oli. Jos haluat mieluummin lukea tämän kuin kuulla minun sanovan sen, diff saapuu sähköpostiisi joka aamu, ilmaiseksi daily diff dot dev -sivustolta, linkki alla.

### Lähettäisinkö painomuokkausväitteen?

4:47 Joten, tämän päivän tuomio on NEEDS REVIEW. Ottaakseni silmukan korjauksen vakavasti ja testaisin sen. Pitäisin laajemmat väitteet sidottuna menestykseen kyseisen vikatilan ulkopuolella. Tekijöiden oma vastaesimerkki on hyödyllisin rivi diffissä. Ja tämä on diff tänään. Olen Niko Axrisista. Yhdistä vastuullisesti.

## Lähteet

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above