# GPT-6 Astra va "pedacejar" el "pensament" interminable d'una altra IA

Published: 2026-11-04

Un estudi afiliat a l'MIT va utilitzar GPT-6 Astra per editar els pesos d'un petit model Qwen i ajudar a acabar més respostes. El seu salt reportat en la puntuació de matemàtiques va dependre d'una reparació de bucle dirigida, anàlisi de Python i "feedback" de pràctica. Un seguiment separat amb un model Gemma més petit no va trobar cap guany establert.

Canonical: https://thedailydiff.dev/ca/video/2026-11-03-astra-qwen-weights/

## Què cobreix aquest vídeo

- L'augment de la puntuació de Qwen reportat prové d'una reparació dirigida al raonament repetitiu; aproximadament un terç de les respostes editades encara van arribar al límit de longitud en el protocol primari.
- L'entrenament per gradient estava prohibit, mentre que Python, respostes de pràctica i "feedback" de "runs" de models per lots estaven permesos en moltes "turns". Les preguntes d'avaluació final es van declarar "held out".
- Els experiments de petits pesos en cru i jocs sense "rollout" van utilitzar condicions diferents. Les seves afirmacions haurien de mantenir el seu abast individual d'eina, entrada i línia base.
- Matthew Honnibal acredita l'enginyeria assistida per eines i disputa la impressió més àmplia produïda per l'agrupació dels experiments.
- El seguiment amb Gemma més petit va utilitzar la seva pròpia configuració i no va aconseguir establir una millora. Proveu quina fallada repara una edició de pesos abans d'aplicar-la a un altre model.

## Preguntes i respostes

### Què va canviar Astra per millorar la puntuació de matemàtiques reportada de Qwen?

Astra va fer una edició de pesos dirigida que va ajudar Qwen a acabar més respostes, segons l'estudi de Rikiya Takehi i coautors. Va eliminar una contribució associada a la repetició de columnes seleccionades en capes internes. L'augment de la puntuació de matemàtiques reportat va utilitzar un protocol d'avaluació fix. Moltes respostes editades encara van arribar al límit de longitud, de manera que el resultat manté una taxa de fallada residual substancial.

### Quines eines i "feedback" es van permetre durant l'edició de pesos de Qwen?

Es van permetre l'anàlisi de Python, problemes de pràctica amb respostes i "feedback" de "runs" de models per lots en moltes "turns". El "prompt" inicial real dels investigadors prohibia l'entrenament per gradient i especificava consells de proves diagnòstiques i causals, inclosa la reparació del pensament repetitiu com a objectiu elegible. Aquest suport va ajudar Astra a triar una edició directa als pesos existents. Una unitat de pressupost podia contenir centenars de respostes generades.

### Els problemes d'avaluació finals estaven disponibles per al model d'edició?

Els investigadors diuen que els conjunts d'avaluació finals van romandre invisibles per a Astra. El "feedback" de pràctica provenia de problemes de divisió d'entrenament i va ajudar a seleccionar l'edició; problemes "held-out" separats van mesurar el model enviat després. El "prompt" inicial va revelar els noms de les "benchmarks" i el protocol d'avaluació. Aquesta distinció descriu el que es va retenir sense afirmar que l'editor no tenia tota la informació sobre la tasca.

### Què va passar en el seguiment d'edició de pesos amb Gemma més petit?

El seguiment amb Gemma més petit no va aconseguir establir un guany, segons Rikiya Takehi i coautors. El model poques vegades entrava en bucle, i les seves fallades incloïen errors aritmètics i àlgebra invàlida. Les edicions dirigides amb "feedback" de pràctica van moure la puntuació de matemàtiques reportada com a màxim un punt. Va utilitzar una configuració separada, de manera que la comparació proporciona un contraexemple amb abast en lloc d'una "ablation" controlada equivalent.

### Quin va ser el veredicte de The Daily Diff sobre l'afirmació d'edició de pesos?

El veredicte de The Daily Diff va ser "NEEDS REVIEW" (CAL REVISAR). Niko es prendria seriosament la reparació de bucles dirigida i la provaria, mentre mantindria les afirmacions més àmplies supeditades a l'èxit més enllà d'aquest mode de fallada. El contraexemple del propi model més petit dels investigadors informa aquest judici. Els desenvolupadors haurien d'identificar la fallada que repara una edició i avaluar els pesos guardats en les seves pròpies tasques abans de celebrar un multiplicador reportat.

## Capítols

- 0:00 Per què va saltar la puntuació de matemàtiques?
- 0:58 Què estava fent malament Qwen?
- 1:25 Què disputa el crític d'avui?
- 1:41 Quina ajuda va rebre realment Astra?
- 2:27 Com de petita va ser la reparació real?
- 3:08 Quins experiments realment no tenien eines?
- 3:40 Què necessitaria una afirmació més general?
- 4:06 Què va passar amb el model que poques vegades entrava en bucle?
- 4:47 Enviaria l'afirmació d'edició de pesos?

## Transcripció traduïda

Traduït de la narració original en anglès. L'àudio i els subtítols disponibles estan controlats per YouTube.

### Per què va saltar la puntuació de matemàtiques?

0:00 Una IA fent una altra IA sis vegades més intel·ligent sona a geni instantani. El gran salt de puntuació d'Astra va venir d'ajudar Qwen a acabar les respostes que seguia repetint. En aquest vídeo, què va canviar? Quina ajuda va rebre Astra? I fins on arriba la solució? Qwen va passar d'aproximadament un vuit per cent a un quaranta-vuit per cent. Els investigadors van provar un segon model amb gairebé cap bucle. Veurem com va anar abans del veredicte.

0:22 És dimarts, tres de novembre, i això és The Daily Diff. La programació en l'espai de pesos és el nom que els investigadors donen a demanar a una IA que inspeccioni o escrigui els números dins d'una xarxa neuronal. Aquests números són els seus pesos. Aquest equip afiliat a l'MIT va utilitzar GPT-6 Astra d'OpenAI per editar un petit model de llenguatge Qwen, amb l'entrenament ordinari prohibit. Rikiya Takehi i els seus coautors van publicar l'estudi dilluns,

0:44 preguntant si una IA existent podia raonar sobre els "internals" d'una altra xarxa. El seu resultat principal és molt "clickable". En "math five hundred", Qwen va pujar d'aproximadament un vuit per cent a un quaranta-vuit per cent. Gairebé sis vegades les respostes correctes. Qwen va seguir pensant fins que es va quedar sense espai per respondre.

### Què estava fent malament Qwen?

1:00 En mode de pensament, sovint repetia el seu raonament. Imagineu un estudiant omplint el quadern d'examen amb operacions fins que sona la campana. El corrector encara necessita una resposta. La majoria de les respostes originals van arribar al límit de longitud. Astra va localitzar una direcció de repetició en dues capes internes, després va eliminar la seva contribució de columnes de pesos seleccionades. Després d'aquesta edició, més respostes van arribar a una conclusió. Aproximadament un terç encara van arribar al límit en la prova reportada.

1:22 El quadern d'examen finalment va tenir una última línia. Avui, Matthew Honnibal, creador de spaCy i cofundador d'Explosion,

### Què disputa el crític d'avui?

1:28 va desafiar la presentació. Diu que els lectors poden combinar les diferents condicions dels experiments en una impressió d'una tècnica extraordinària. La seva objecció concerneix la seva història combinada. Podem comprovar les condicions nosaltres mateixos. L'experiment Qwen va donar a Astra un "Python notebook" sobre els pesos i problemes de

### Quina ajuda va rebre realment Astra?

1:44 pràctica amb respostes. En moltes "turns", va inspeccionar activacions internes i va comparar versions originals i editades. El pressupost final va permetre cinquanta lots de "runs" de models. Cada lot de generació podia contenir centenars de respostes. Les dades de pràctica provenien de divisions d'entrenament. Els investigadors diuen que Astra mai va veure els conjunts d'avaluació finals. El "feedback" va ajudar a triar l'edició; problemes "held-out" la van mesurar després. La configuració de mostreig es va mantenir fixa entre Qwen original i editat,

2:09 fent que la comparació de puntuacions d'aquest protocol fos interpretable. La primera "prompt" li va donar un supervisor de laboratori útil. Diagnosticar fallades, trobar els components responsables, comparar els mateixos problemes i provar diverses fortaleses. Va esmentar explícitament el pensament repetitiu com una reparació que compta. Els estudiants de postgrau haurien de negociar aquest "onboarding package". Això és una reparació impressionant.

### Com de petita va ser la reparació real?

2:28 L'edició dirigida d'Astra va tocar aproximadament cent trenta-un mil pesos. Això és aproximadament setze mil·lèsimes d'un percentatge del model. El fitxer de pesos va canviar directament. L'entrenament per gradient va romandre prohibit; el model existent va fer les respostes després que la sessió d'edició d'Astra acabés. El guany també va arribar al seguiment d'instruccions. M'agrada la implicació pràctica. Un model pot posseir un treball útil que el seu mode de fallada segueix enterrant.

2:48 Arreglar aquesta fallada pot recuperar respostes utilitzables. Acabar compta. Honnibal dóna crèdit al treball assistit per eines com si realitzés tasques que un enginyer d'aprenentatge automàtic humà podria fer. Això és conseqüent per a un agent. La seva queixa és que les petites demostracions de números en cru i les reparacions més grans assistides per Python conviden a una conclusió més àmplia quan s'agrupen. Prenem les petites xarxes de jocs.

### Quins experiments realment no tenien eines?

3:09 En un experiment, Astra va llegir els seus números en cru i va identificar correctament quin joc havia après cada xarxa. Les eines estaven prohibides. En un altre, va escriure nous pesos per jugar a jocs des de zero utilitzant les regles i el codi font, sense "rollouts" de pràctica. Aquestes són demostracions separades amb evidència separada. Les xarxes d'Astra van superar la línia base entrenada durant cent milions de passos en els tres jocs. Contra la línia base entrenada més temps, va perdre en Seaquest i Asterix,

3:32 mentre que va guanyar en Breakout. Canvieu la columna de comparació, i el discurs de victòria necessita edició. Convenientment, l'edició és el tema d'avui. Per a una afirmació més àmplia, voldríem millores en models amb diferents fallades.

### Què necessitaria una afirmació més general?

3:44 Feu un seguiment del que va veure l'editor i del que va comptar com a èxit. La "model card" de Qwen ja adverteix sobre els bucles de pensament. Eliminar aquest obstacle conegut té un punt de partida particular. A favor seu, els autors publiquen el seguiment incòmode ells mateixos. Expliquen que aturar els bucles permet a Qwen acabar respostes que ja podia resoldre. Els seus registres inclouen "prompts", "feedback" i edicions. Podem examinar l'assoliment i fer una pregunta més difícil.

### Què va passar amb el model que poques vegades entrava en bucle?

4:06 Ara el segon model, una Gemma més petita en la seva pròpia configuració de seguiment. Rares vegades entrava en bucle, de manera que les seves fallades eren errors aritmètics ordinaris i àlgebra invàlida. Astra va tornar a provar edicions de pesos dirigides amb "feedback" de pràctica. Cap va moure la seva puntuació de matemàtiques més d'un punt aproximadament, i no es va establir cap guany. La reparació exitosa de Qwen tenia un obstacle a eliminar. Els errors aritmètics de Gemma van sobreviure. Aquesta és la pregunta útil per als desenvolupadors.

4:28 Quina fallada va reparar l'edició, i el teu model la té realment? Prova els pesos guardats en les teves pròpies tasques abans de celebrar el multiplicador. Un "bottleneck" reparat pot ser enormement important mentre el següent "bottleneck" es manté exactament on era. Si preferiu llegir això en lloc d'escoltar-me dir-ho, "the diff" arriba a la vostra bústia cada matí, gratuïtament a thedailydiff.dev, enllaç a sota.

### Enviaria l'afirmació d'edició de pesos?

4:47 Així, el veredicte d'avui és "NEEDS REVIEW" (CAL REVISAR). Em prendria seriosament la reparació de bucles dirigida i la provaria. Mantindria les afirmacions més àmplies supeditades a l'èxit més enllà d'aquest mode de fallada. El contraexemple dels propis autors és la línia més útil en el "diff". I això és el "diff" per avui. Sóc Niko d'Axrisi. Fusiona amb responsabilitat.

## Fonts

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above