# GPT-6 Astra lappede en anden AIs endeløse tænkning

Published: 2026-11-04

En MIT-tilknyttet undersøgelse brugte GPT-6 Astra til at redigere en lille Qwen-models vægte og hjælpe flere svar med at blive færdige. Dens rapporterede spring i matematikresultat afhang af en målrettet "loop"-reparation, Python-analyse og feedback fra praksis. En separat, mindre Gemma-opfølgning fandt ingen etableret gevinst.

Canonical: https://thedailydiff.dev/da/video/2026-11-03-astra-qwen-weights/

## Hvad denne video dækker

- Den rapporterede Qwen-resultatstigning kom fra en målrettet reparation af gentagne ræsonnementer; omkring en tredjedel af de redigerede svar nåede stadig længdegrænsen i den primære protokol.
- Gradienttræning var forbudt, mens Python, praksissvar og "batched model-run"-feedback var tilladt over mange omgange. Endelige evalueringsspørgsmål blev kilde-erklæret tilbageholdt.
- De små eksperimenter med rå vægte og ingen udrulning af spil brugte forskellige betingelser. Deres påstande bør bevare deres individuelle værktøj, input og baseline-omfang.
- Matthew Honnibal krediterer den værktøjsassisterede engineering og bestrider det bredere indtryk, der skabes ved at samle eksperimenterne.
- Den mindre Gemma-opfølgning brugte sin egen opsætning og formåede ikke at etablere en forbedring. Test hvilken fejl en vægtredigering reparerer, før den anvendes på en anden model.

## Spørgsmål og svar

### Hvad ændrede Astra for at forbedre Qwens rapporterede matematikscore?

Astra foretog en målrettet vægtredigering, der hjalp Qwen med at afslutte flere svar, ifølge studiet af Rikiya Takehi og medforfattere. Den fjernede et gentagelsesrelateret bidrag fra udvalgte kolonner i interne lag. Den rapporterede stigning i matematikscore brugte en fast evalueringsprotokol. Mange redigerede svar ramte stadig længdegrænsen, så resultatet bevarer en betydelig restfejlrate.

### Hvilke værktøjer og feedback var tilladt under Qwen-vægtredigeringen?

Python-analyse, øvelsesproblemer med svar og batchvis modelkørsel-feedback var tilladt over mange omgange. Forskernes faktiske indledende prompt forbød gradienttræning og specificerede diagnostisk og kausal testrådgivning, herunder reparation af gentagne tanker som et kvalificeret mål. Denne støtte hjalp Astra med at vælge en direkte redigering af eksisterende vægte. En budgetenhed kunne indeholde hundredvis af genererede svar.

### Var de endelige evalueringsproblemer tilgængelige for redigeringsmodellen?

Forskerne siger, at de endelige evalueringssæt forblev usete af Astra. Praksisfeedback kom fra træningssplit-problemer og hjalp med at vælge redigeringen; separate tilbageholdte problemer målte den indsendte model bagefter. Den indledende prompt afslørede benchmark-navne og evalueringsprotokollen. Den sondring beskriver, hvad der blev tilbageholdt, uden at hævde, at redaktøren manglede al information om opgaven.

### Hvad skete der i den mindre Gemma vægtredigeringsopfølgning?

Den mindre Gemma-opfølgning formåede ikke at etablere en gevinst, ifølge Rikiya Takehi og medforfattere. Modellen gentog sjældent, og dens fejl inkluderede forkert aritmetik og ugyldig algebra. Målrettede redigeringer med praksisfeedback flyttede den rapporterede matematikscore med højst et point. Den brugte en separat opsætning, så sammenligningen giver et afgrænset modeksempel snarere end en lige kontrolleret ablation.

### Hvad var The Daily Diffs dom over påstanden om vægtredigering?

The Daily Diffs dom var SKAL GENNEMGÅS. Niko ville tage den målrettede loop-reparation seriøst og teste den, mens bredere påstande holdes betinget af succes ud over denne fejlmode. Forskernes eget mod-eksempel med en mindre model understøtter den vurdering. Udviklere bør identificere den fejl, en redigering reparerer, og evaluere gemte vægte på deres egne opgaver, før de fejrer en rapporteret multiplikator.

## Kapitler

- 0:00 Hvorfor sprang matematikresultatet?
- 0:58 Hvad gjorde Qwen forkert?
- 1:25 Hvad bestrider dagens kritiker?
- 1:41 Hvilken hjælp fik Astra egentlig?
- 2:27 Hvor lille var den faktiske reparation?
- 3:08 Hvilke eksperimenter havde egentlig ingen værktøjer?
- 3:40 Hvad ville en mere generel påstand kræve?
- 4:06 Hvad skete der med modellen, der sjældent løb i ring?
- 4:47 Ville jeg sende påstanden om vægtredigering ud?

## Oversat udskrift

Oversat fra den originale engelske fortælling. Tilgængelig lyd og undertekster styres af YouTube.

### Hvorfor sprang matematikresultatet?

0:00 En AI, der gør en anden AI seks gange smartere, lyder som øjeblikkelig genialitet. Astras store resultatsspring kom fra at hjælpe Qwen med at afslutte svar, den hele tiden gentog. I denne video, hvad ændrede sig? Hvilken hjælp fik Astra? Og hvor langt rækker løsningen? Qwen gik fra cirka otte procent til otteogfyrre procent. Forskerne prøvede en anden model med næsten ingen gentagelser. Vi vil se, hvordan det gik, før dommen fældes.

0:22 Det er tirsdag den tredje november, og dette er The Daily Diff. Vægt-rum-programmering er forskernes navn for at bede en AI om at inspicere eller skrive tallene inde i et neuralt netværk. Disse tal er dens vægte. Dette MIT-tilknyttede team brugte OpenAIs GPT-6 Astra til at redigere en lille Qwen sprogmodel, hvor almindelig træning var forbudt. Rikiya Takehi og hans medforfattere offentliggjorde studiet mandag,

0:44 og spurgte, om en eksisterende AI kunne ræsonnere om et andet netværks interne funktioner. Deres hovedresultat er meget klikbart. På matematik 500 steg Qwen fra cirka otte procent til otteogfyrre procent. Næsten seks gange så mange rigtige svar. Qwen blev ved med at tænke, indtil den løb tør for plads til at svare.

### Hvad gjorde Qwen forkert?

1:00 I tænkemode gentog den ofte sin ræsonnering. Forestil dig en elev, der fylder eksamenshæftet med beregninger, indtil klokken ringer. Bedømmeren har stadig brug for et svar. De fleste originale svar ramte længdegrænsen. Astra lokaliserede en gentagelsesretning i to interne lag, fjernede derefter dens bidrag fra udvalgte vægtsøjler. Efter den redigering nåede flere svar en konklusion. Omkring en tredjedel ramte stadig loftet i den rapporterede test.

1:22 Eksamenshæftet fik endelig en sidste linje. I dag udfordrede Matthew Honnibal, skaberen af spaCy og medstifter af Explosion,

### Hvad bestrider dagens kritiker?

1:28 præsentationen. Han siger, at læsere kan kombinere eksperimenternes forskellige betingelser til et indtryk af én ekstraordinær teknik. Hans indsigelse vedrører deres samlede historie. Vi kan selv tjekke betingelserne. Qwen-eksperimentet gav Astra en Python-notesbog over vægtene og praksisproblemer

### Hvilken hjælp fik Astra egentlig?

1:44 med svar. Over mange omgange inspicerede den interne aktiveringer og sammenlignede originale og redigerede versioner. Det endelige budget tillod halvtreds batches af modelkørsler. Hver generationsbatch kunne indeholde hundredvis af svar. Praksisdataene kom fra træningsopdelinger. Forskerne siger, at Astra aldrig så de endelige evalueringssæt. Feedback hjalp med at vælge redigeringen; tilbageholdte problemer målte den bagefter. Samplingindstillinger forblev faste mellem original og redigeret Qwen,

2:09 hvilket gør denne protokols resultatssammenligning fortolkelig. Den første prompt gav den en hjælpsom laboratorievejleder. Diagnosticer fejl, find de ansvarlige komponenter, sammenlign på de samme problemer, og test flere styrker. Den nævnte udtrykkeligt gentagne tænkning som en reparation, der tæller. Kandidatstuderende bør forhandle om denne onboarding-pakke. Det er en imponerende reparation.

### Hvor lille var den faktiske reparation?

2:28 Astras målrettede redigering rørte ved cirka et hundrede og enogtredive tusinde vægte. Det er cirka seksten tusindedele af en procent af modellen. Vægtfilen blev ændret direkte. Gradienttræning forblev forbudt; den eksisterende model udførte svarene efter Astras redigeringssession var afsluttet. Gevinsten nåede også instruktionsfølge. Jeg kan godt lide den praktiske implikation. En model kan besidde nyttigt arbejde, som dens fejlmode bliver ved med at begrave.

2:48 At rette den fejl kan genoprette brugbare svar. At blive færdig tæller. Honnibal giver det værktøjsassisterede arbejde æren for at udføre opgaver, som en menneskelig maskinlæringsingeniør kunne udføre. Det er betydningsfuldt for en agent. Hans klage er, at de små rå-tal demonstrationer og større Python-assisterede reparationer inviterer til en bredere konklusion, når de samles. Tag de små spilnetværk.

### Hvilke eksperimenter havde egentlig ingen værktøjer?

3:09 I et eksperiment læste Astra deres råtal og identificerede korrekt, hvilket spil hvert netværk havde lært. Værktøjer var forbudt. I et andet skrev den nye spillevægte fra bunden ved hjælp af reglerne og kildekoden, uden praksis-udrulninger. Dette er separate demonstrationer med separate beviser. Astras netværk slog baseline, der blev trænet i hundrede millioner trin i alle tre spil. Mod den længere trænede baseline tabte den i Seaquest og

3:32 Asterix, mens den vandt Breakout. Ændr sammenligningskolonnen, og sejrstalen skal redigeres. Passende nok er redigering dagens emne. For en bredere påstand ville vi ønske forbedringer på tværs af modeller med forskellige fejl.

### Hvad ville en mere generel påstand kræve?

3:44 Spor hvad redaktøren så, og hvad der talte som succes. Qwens modelkort advarer allerede om gentagne tankegange. At fjerne denne kendte hindring har et særligt udgangspunkt. Til deres ære offentliggør forfatterne selv den ubehagelige opfølgning. De forklarer, at stoppe gentagelser lader Qwen afslutte svar, den allerede kunne finde ud af. Deres logfiler inkluderer prompts, feedback og redigeringer. Vi kan undersøge præstationen og stille et sværere spørgsmål.

### Hvad skete der med modellen, der sjældent løb i ring?

4:06 Nu den anden model, en mindre Gemma i sin egen opfølgningsopsætning. Den gentog sjældent, så dens fejl var almindelig forkert aritmetik og ugyldig algebra. Astra prøvede igen målrettede vægtredigeringer med praksisfeedback. Ingen bevægede dens matematikscore med mere end cirka et point, og en gevinst blev ikke etableret. Den succesrige Qwen-reparation havde en hindring at fjerne. Gemmas aritmetiske fejl overlevede. Det er det nyttige spørgsmål for udviklere.

4:28 Hvilken fejl reparerede redigeringen, og har din model den faktisk? Test de gemte vægte på dine egne opgaver, før du fejrer multiplikatoren. En repareret flaskehals kan betyde enormt meget, mens den næste flaskehals forbliver præcis, hvor den var. Hvis du hellere vil læse dette end høre mig sige det, lander diff'en i din indbakke hver morgen, gratis på the daily diff dot dev, link nedenfor.

### Ville jeg sende påstanden om vægtredigering ud?

4:47 Så dagens dom er SKAL GENNEMGÅS. Jeg ville tage loop-reparationen seriøst og teste den. Jeg ville holde bredere påstande betinget af succes ud over den fejlmode. Forfatternes eget modeksempel er den mest nyttige linje i diff'en. Og det var diff'en for i dag. Jeg er Niko fra Axrisi. Flet ansvarligt.

## Kilder

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above