# GPT-6 Astra "apstrādāja" cita AI bezgalīgo domāšanu

Published: 2026-11-04

Ar MIT saistīts pētījums izmantoja GPT-6 Astra, lai rediģētu maza Qwen modeļa svarus un palīdzētu pabeigt vairāk atbilžu. Tā ziņotais matemātikas rādītāja lēciens bija atkarīgs no mērķtiecīga cilpas labojuma, Python analīzes un prakses atgriezeniskās saites. Atsevišķs mazāka Gemma modeļa papildpētījums neuzrādīja nekādu pierādītu ieguvumu.

Canonical: https://thedailydiff.dev/lv/video/2026-11-03-astra-qwen-weights/

## Ko aptver šis video

- Ziņotais Qwen punktu skaita pieaugums radās mērķtiecīga atkārtotas spriešanas labojuma dēļ; aptuveni trešdaļa rediģēto atbilžu joprojām sasniedza garuma ierobežojumu primārajā protokolā.
- Gradients apmācība bija aizliegta, savukārt Python, prakses atbildes un modelī veikto darbību atgriezeniskā saite tika atļauta daudzos pagriezienos. Gala novērtēšanas jautājumi tika deklarēti kā nepieejami.
- Mazie neapstrādāto svaru un bez-izlaišanas spēles eksperimenti izmantoja atšķirīgus apstākļus. To apgalvojumiem jāsaglabā individuālais rīku, ievades un bāzes apjoms.
- Metjū Honnibals atzinīgi novērtē ar rīkiem atbalstītu inženieriju un apšauba plašāku iespaidu, ko rada eksperimentu apvienošana.
- Mazākais Gemma pēcpētījums izmantoja savu iestatījumu un nespēja pierādīt uzlabojumu. Pirms svara rediģēšanas piemērošanas citam modelim, pārbaudiet, kuru kļūmi tas labo.

## Jautājumi un atbildes

### Ko Astra mainīja, lai uzlabotu Qwen ziņoto matemātikas rādītāju?

Astra veica mērķtiecīgu svaru rediģēšanu, kas palīdzēja Qwen pabeigt vairāk atbilžu, saskaņā ar Rikijas Takehi un līdzautoru pētījumu. Tā noņēma ar atkārtošanos saistītu ieguldījumu no atlasītajām iekšējo slāņu kolonnām. Ziņotais matemātikas rādītāju pieaugums izmantoja fiksētu novērtēšanas protokolu. Daudzas rediģētās atbildes joprojām sasniedza garuma ierobežojumu, tāpēc rezultāts saglabā ievērojamu atlikušo kļūdu līmeni.

### Kādi rīki un atgriezeniskā saite tika atļauti Qwen svaru rediģēšanas laikā?

Daudzos pagriezienos tika atļauta Python analīze, prakses problēmas ar atbildēm un modelī veikto darbību atgriezeniskā saite. Pētnieku faktiskā sākotnējā uzvedne aizliedza gradienta apmācību un norādīja diagnostikas un cēloņsakarību testēšanas padomus, tostarp atkārtotas domāšanas labojumus kā atbilstošu mērķi. Šis atbalsts palīdzēja Astrai izvēlēties tiešu esošo svaru rediģēšanu. Budžeta vienība varēja saturēt simtiem ģenerētu atbilžu.

### Vai galīgās novērtēšanas problēmas bija pieejamas rediģēšanas modelim?

Pētnieki saka, ka Astra galīgās novērtēšanas kopas palika neredzētas. Prakses atgriezeniskā saite nāca no apmācību sadalīšanas problēmām un palīdzēja atlasīt rediģēšanu; atsevišķas atliktas problēmas mērīja iesniegto modeli pēc tam. Sākotnējā uzvedne atklāja etalonu nosaukumus un novērtēšanas protokolu. Šis atšķirība apraksta to, kas tika noklusēts, neapgalvojot, ka redaktoram trūka visas informācijas par uzdevumu.

### Kas notika mazākā Gemma svaru rediģēšanas pēcpārbaudē?

Mazākā Gemma pēcpārbaude neuzrādīja ieguvumu, saskaņā ar Rikijas Takehi un līdzautoru pētījumu. Modelis reti atkārtojās, un tā kļūmes ietvēra nepareizu aritmētiku un nederīgu algebru. Mērķtiecīgi labojumi ar prakses atgriezenisko saiti izmainīja ziņoto matemātikas rādītāju ne vairāk kā par aptuveni punktu. Tā izmantoja atsevišķu iestatījumu, tāpēc salīdzinājums sniedz ierobežotu pretpiemēru, nevis vienādi kontrolētu ablāciju.

### Kāds bija The Daily Diff spriedums par svaru rediģēšanas apgalvojumu?

The Daily Diff spriedums bija NEPIECIEŠAMS PĀRSKATS. Niko nopietni uztvertu mērķtiecīgo cilpas labojumu un pārbaudītu to, vienlaikus turot plašākus apgalvojumus atkarīgus no panākumiem ārpus šī kļūmes režīma. Pētnieku pašu mazākā modeļa pretpiemērs informē šo spriedumu. Izstrādātājiem pirms ziņotā reizinātāja svinēšanas vajadzētu identificēt kļūmi, ko labojums izlabo, un novērtēt saglabātos svarus savos uzdevumos.

## Nodaļas

- 0:00 Kāpēc matemātikas rādītājs uzlēca?
- 0:58 Ko Qwen darīja nepareizi?
- 1:25 Ko šodienas kritiķis apstrīd?
- 1:41 Kādu palīdzību Astra patiesībā saņēma?
- 2:27 Cik liels patiesībā bija labojums?
- 3:08 Kuriem eksperimentiem patiešām nebija rīku?
- 3:40 Kas būtu nepieciešams plašākam apgalvojumam?
- 4:06 Kas notika ar modeli, kas reti atkārtojās?
- 4:47 Vai es pieņemtu svara rediģēšanas apgalvojumu?

## Tulkotais transkripts

Tulkojums no oriģinālā angļu stāstījuma. Pieejamais audio un subtitri tiek kontrolēti no YouTube.

### Kāpēc matemātikas rādītājs uzlēca?

0:00 AI, kas padara citu AI sešas reizes gudrāku, izklausās pēc tūlītēja ģēnija. Astra liels punktu lēciens radās, palīdzot Qwen pabeigt atbildes, ko tā turpināja atkārtot. Šajā video, kas mainījās? Kādu palīdzību Astra saņēma? Un cik tālu labojums aiziet? Qwen no aptuveni astoņiem procentiem pieauga līdz četrdesmit astoņiem procentiem. Pētnieki izmēģināja otru modeli ar gandrīz nekādām cilpām. Mēs redzēsim, kā tas gāja pirms sprieduma.

0:22 Ir otrdiena, trešais novembris, un šis ir The Daily Diff. Svaru telpas programmēšana ir pētnieku nosaukums AI lūgšanai pārbaudīt vai rakstīt skaitļus neironu tīklā. Šie skaitļi ir tā svari. Šī ar MIT saistītā komanda izmantoja OpenAI GPT seši Astra, lai rediģētu mazu Qwen valodu modeli, ar parasto apmācību aizliegts. Rikiya Takehi un viņa līdzautori publicēja pētījumu pirmdien,

0:44 jautājot, vai esošs AI varētu spriest par cita tīkla iekšējām daļām. Viņu galvenais rezultāts ir ļoti klikšķināms. Matemātikas piecsimtniekā Qwen pieauga no aptuveni astoņiem procentiem līdz četrdesmit astoņiem procentiem. Gandrīz sešas reizes vairāk pareizu atbilžu. Qwen turpināja domāt, līdz tai beidzās vieta atbildei.

### Ko Qwen darīja nepareizi?

1:00 Domāšanas režīmā tā bieži atkārtoja savu spriešanu. Iedomājieties studentu, kurš piepilda eksāmenu burtnīcu ar darbu, līdz zvana zvans. Atzīmju devējam joprojām ir vajadzīga atbilde. Lielākā daļa oriģinālo atbilžu sasniedza garuma ierobežojumu. Astra divos iekšējos slāņos atrada atkārtošanās virzienu, pēc tam no atlasītajām svaru kolonnām noņēma tā ieguldījumu. Pēc šīs rediģēšanas vairāk atbilžu sasniedza secinājumu. Aptuveni trešdaļa joprojām sasniedza ierobežojumu ziņotajā testā.

1:22 Eksāmenu burtnīca beidzot saņēma pēdējo rindu. Šodien Metjū Honnibals, spaCy radītājs un Explosion līdzdibinātājs,

### Ko šodienas kritiķis apstrīd?

1:28 apstrīdēja prezentāciju. Viņš saka, ka lasītāji var apvienot eksperimentu atšķirīgos apstākļus viena neparasta paņēmiena iespaidā. Viņa iebildums attiecas uz viņu kopējo stāstu. Mēs paši varam pārbaudīt apstākļus. Qwen eksperiments deva Astrai Python piezīmju grāmatiņu par svariem un prakses

### Kādu palīdzību Astra patiesībā saņēma?

1:44 problēmas ar atbildēm. Daudzos pagriezienos tā pārbaudīja iekšējās aktivizācijas un salīdzināja oriģinālās un rediģētās versijas. Galīgais budžets atļāva piecdesmit modeļu palaidienu partijas. Katrā ģenerēšanas partijā varēja būt simtiem atbilžu. Prakses dati nāca no apmācību sadalījumiem. Pētnieki saka, ka Astra nekad nav redzējusi galīgās novērtēšanas kopas. Atgriezeniskā saite palīdzēja izvēlēties rediģēšanu; atliktie jautājumi to izmērīja pēc tam. Paraugu ņemšanas iestatījumi palika fiksēti starp oriģinālo un rediģēto Qwen,

2:09 padarot šī protokola punktu salīdzinājumu interpretējamu. Pirmā uzvedne deva tai noderīgu laboratorijas vadītāju. Diagnosticējiet kļūmes, atrodiet atbildīgās sastāvdaļas, salīdziniet ar tām pašām problēmām un pārbaudiet vairākas stiprās puses. Tā skaidri pieminēja atkārtotu domāšanu kā labojumu, kas tiek ņemts vērā. Maģistrantiem vajadzētu vienoties par šo ievadapmācības paketi. Tas ir iespaidīgs labojums.

### Cik liels patiesībā bija labojums?

2:28 Astra mērķtiecīgais labojums skāra aptuveni simt trīsdesmit vienu tūkstoti svaru. Tas ir aptuveni sešpadsmit tūkstošdaļas procenta no modeļa. Svara fails tika mainīts tieši. Gradienta apmācība palika aizliegta; esošais modelis atbildēja pēc tam, kad Astra rediģēšanas sesija beidzās. Ieguvums sasniedza arī instrukciju ievērošanu. Man patīk praktiskā ietekme. Modelis var veikt noderīgu darbu, ko tā kļūmes režīms turpina aprakt.

2:48 Šīs kļūmes novēršana var atgūt izmantojamas atbildes. Pabeigšana ir svarīga. Honnibal atzinīgi novērtē ar rīkiem atbalstītu darbu kā tādu, kas veic uzdevumus, ko varētu veikt cilvēka mašīnmācīšanās inženieris. Tas ir svarīgi aģentam. Viņa sūdzība ir tāda, ka mazās neapstrādāto skaitļu demonstrācijas un lielākas ar Python atbalstītie labojumi, ja tie ir apvienoti, rosina plašāku secinājumu. Ņemiet vērā mazos spēļu tīklus.

### Kuriem eksperimentiem patiešām nebija rīku?

3:09 Vienā eksperimentā Astra lasīja to neapstrādātos skaitļus un pareizi identificēja, kuru spēli katrs tīkls bija iemācījies. Rīki bija aizliegti. Citā, tā no jauna rakstīja jaunus spēļu svarus, izmantojot noteikumus un avota kodu, bez prakses izlaidumiem. Tās ir atsevišķas demonstrācijas ar atsevišķiem pierādījumiem. Astra tīkli visās trīs spēlēs pārspēja bāzes līniju, kas apmācīta simts miljonu soļu laikā. Pret ilgāk apmācīto bāzes līniju tā zaudēja Seaquest un

3:32 Asterix, bet uzvarēja Breakout. Mainiet salīdzināšanas kolonnu, un uzvaras runai būs nepieciešama rediģēšana. Ērti, rediģēšana ir šodienas tēma. Plašākam apgalvojumam mēs vēlētos uzlabojumus dažādos modeļos ar dažādām kļūmēm.

### Kas būtu nepieciešams plašākam apgalvojumam?

3:44 Sekojiet tam, ko redaktors redzēja un kas tika uzskatīts par panākumu. Qwen modeļa kartē jau ir brīdinājumi par domāšanas cilpām. Šī zināmā šķēršļa novēršanai ir īpašs sākumpunkts. Par viņu godu, autori paši publicē neērtos papildinājumus. Viņi skaidro, ka cilpu apturēšana ļauj Qwen pabeigt atbildes, ko tā jau varēja izstrādāt. Viņu žurnālos ir iekļautas uzvednes, atgriezeniskā saite un labojumi. Mēs varam izpētīt sasniegumu un uzdot grūtāku jautājumu.

### Kas notika ar modeli, kas reti atkārtojās?

4:06 Tagad otrais modelis, mazāks Gemma savā papildus iestatījumā. Tas reti atkārtojās, tāpēc tā kļūmes bija parasta nepareiza aritmētika un nederīga algebra. Astra atkal mēģināja mērķtiecīgus svaru labojumus ar prakses atgriezenisko saiti. Neviens no tiem neizmainīja tā matemātikas rādītāju par vairāk nekā aptuveni punktu, un ieguvums netika pierādīts. Veiksmīgajam Qwen labojumam bija jānovērš šķērslis. Gemma aritmētikas kļūdas saglabājās. Tas ir noderīgs jautājums izstrādātājiem.

4:28 Kuru kļūmi labojums izlaboja, un vai jūsu modelim tā patiešām ir? Pirms reizinātāja svinēšanas, pārbaudiet saglabātos svarus savos uzdevumos. Salabotais "sašaurinājums" var būt ārkārtīgi svarīgs, kamēr nākamais "sašaurinājums" paliek tieši tur, kur tas bija. Ja jūs labāk lasītu to, nekā dzirdētu mani sakām, atšķirība nonāk jūsu iesūtnē katru rītu bez maksas vietnē thedailydiff.dev, saite zemāk.

### Vai es pieņemtu svara rediģēšanas apgalvojumu?

4:47 Tātad, šodienas spriedums ir NEPIECIEŠAMS PĀRSKATS. Es cilpas labojumu uztvertu nopietni un pārbaudītu to. Es plašākus apgalvojumus turētu pie panākumiem ārpus šī kļūmes režīma. Autoru pašu pretpiemērs ir visnoderīgākā rinda atšķirībā. Un tas ir šodienas The Daily Diff. Esmu Niko no Axrisi. Apvienojiet atbildīgi.

## Avoti

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above