# GPT-6 Astra parcheou o pensamento interminable doutra IA Published: 2026-11-04 Un estudo afiliado ao MIT utilizou GPT-6 Astra para editar os pesos dun pequeno modelo Qwen e axudar a que máis respostas se completasen. O seu salto na puntuación de matemáticas dependeu dunha reparación de bucle dirixida, análise de Python e comentarios da práctica. Un seguimento separado cun Gemma máis pequeno non atopou ningunha ganancia establecida. Canonical: https://thedailydiff.dev/gl/video/2026-11-03-astra-qwen-weights/ ## Que abrangue este vídeo - O aumento da puntuación de Qwen informado proviña dunha reparación dirixida ao razoamento repetitivo; aproximadamente un terzo das respostas editadas aínda alcanzaron o límite de lonxitude no protocolo primario. - O adestramento por gradiente estaba prohibido, mentres que a análise de Python, as respostas de práctica e os comentarios de execución de modelos por lotes estaban permitidos en moitas quendas. As preguntas de avaliación finais foron declaradas retidas pola fonte. - Os pequenos experimentos de xogos con pesos brutos e sen despregamento usaron condicións diferentes. As súas afirmacións deben conservar o seu alcance individual de ferramenta, entrada e liña de base. - Matthew Honnibal recoñece a enxeñaría asistida por ferramentas e disputa a impresión máis ampla producida ao agrupar os experimentos. - O seguimento máis pequeno de Gemma utilizou a súa propia configuración e non conseguiu establecer unha mellora. Proba que fallo repara unha edición de peso antes de aplicala a outro modelo. ## Preguntas e respostas ### Que cambiou Astra para mellorar a puntuación de matemáticas informada de Qwen? Astra fixo unha edición de peso dirixida que axudou a Qwen a completar máis respostas, segundo o estudo de Rikiya Takehi e coautores. Eliminou unha contribución asociada á repetición de columnas seleccionadas en capas internas. O aumento da puntuación de matemáticas informado utilizou un protocolo de avaliación fixo. Moitas respostas editadas aínda alcanzaron o límite de lonxitude, polo que o resultado mantén unha taxa de fallo residual substancial. ### Que ferramentas e comentarios se permitiron durante a edición de peso de Qwen? A análise de Python, os problemas de práctica con respostas e os comentarios de execución de modelos por lotes foron permitidos en moitas quendas. A indicación inicial real dos investigadores prohibía o adestramento por gradiente e especificaba consellos de probas de diagnóstico e causais, incluíndo a reparación do pensamento repetitivo como un obxectivo elixible. Este apoio axudou a Astra a escoller unha edición directa dos pesos existentes. Unha unidade de orzamento podía conter centos de respostas xeradas. ### Estaban dispoñibles os problemas de avaliación finais para o modelo de edición? Os investigadores din que os conxuntos de avaliación finais permaneceron sen ser vistos por Astra. Os comentarios da práctica proviñan de problemas de división de adestramento e axudaron a seleccionar a edición; problemas retidos separados mediron o modelo enviado despois. A indicación inicial divulgou os nomes dos puntos de referencia e o protocolo de avaliación. Esa distinción describe o que se ocultou sen afirmar que o editor carecía de toda a información sobre a tarefa. ### Que pasou no seguimento de edición de pesos de Gemma máis pequeno? O seguimento de Gemma máis pequeno non conseguiu establecer unha ganancia, segundo Rikiya Takehi e coautores. O modelo raramente facía bucles, e os seus fallos incluían aritmética incorrecta e álxebra inválida. As edicións dirixidas con comentarios de práctica moveron a puntuación de matemáticas informada como máximo un punto. Utilizou unha configuración separada, polo que a comparación proporciona un contraexemplo de alcance en lugar dunha ablación controlada igual. ### Cal foi o veredicto de The Daily Diff sobre a afirmación de edición de pesos? O veredicto de The Daily Diff foi NECESITA REVISIÓN. Niko tomaría a reparación de bucle dirixida en serio e probaríaa, mentres que mantería as afirmacións máis amplas condicionadas ao éxito máis alá dese modo de fallo. O propio contraexemplo do modelo máis pequeno dos investigadores informa ese xuízo. Os desenvolvedores deben identificar o fallo que repara unha edición e avaliar os pesos gardados nas súas propias tarefas antes de celebrar un multiplicador informado. ## Capítulos - 0:00 Por que subiu a puntuación de matemáticas? - 0:58 Que estaba facendo mal Qwen? - 1:25 Que disputa o crítico de hoxe? - 1:41 Que axuda recibiu Astra realmente? - 2:27 Canto pequena foi a reparación real? - 3:08 Que experimentos realmente non tiñan ferramentas? - 3:40 Que necesitaría unha afirmación máis xeral? - 4:06 Que lle pasou ao modelo que raramente se repetía? - 4:47 Enviaría a afirmación de edición de pesos? ## Transcrición traducida Traducido da narración orixinal en inglés. O audio e os subtítulos dispoñibles son controlados por YouTube. ### Por que subiu a puntuación de matemáticas? 0:00 Unha IA facendo outra IA seis veces máis intelixente soa a xenialidade instantánea. O gran salto de puntuación de Astra proviña de axudar a Qwen a rematar respostas que seguía repetindo. Neste vídeo, que cambiou? Que axuda recibiu Astra? E ata onde viaxa a solución? Qwen pasou de aproximadamente o oito por cento ao corenta e oito por cento. Os investigadores probaron un segundo modelo con case ningún bucle. Veremos como foi iso antes do veredicto. 0:22 É martes, tres de novembro, e este é The Daily Diff. A programación do espazo de pesos é o nome que os investigadores lle dan a pedirlle a unha IA que inspeccione ou escriba os números dentro dunha rede neuronal. Eses números son os seus pesos. Este equipo afiliado ao MIT utilizou GPT-6 Astra de OpenAI para editar un pequeno modelo de linguaxe Qwen, con adestramento ordinario prohibido. Rikiya Takehi e os seus coautores publicaron o estudo o luns, 0:44 preguntándose se unha IA existente podería razoar sobre as entrañas doutra rede. O seu resultado principal é moi clicable. En matemáticas cincocentos, Qwen subiu de aproximadamente o oito por cento ao corenta e oito por cento. Case seis veces as respostas correctas. Qwen seguiu pensando ata que se quedou sen espazo para responder. ### Que estaba facendo mal Qwen? 1:00 No modo de pensamento, a miúdo repetía o seu razoamento. Imaxina un estudante enchendo o caderno de exames con traballos ata que soa a campá. O corrector aínda necesita unha resposta. A maioría das respostas orixinais alcanzaron o límite de lonxitude. Astra localizou unha dirección de repetición en dúas capas internas, e logo eliminou a súa contribución das columnas de pesos seleccionadas. Despois desa edición, máis respostas chegaron a unha conclusión. Aproximadamente un terzo aínda alcanzou o límite na proba informada. 1:22 O caderno de exames finalmente tivo unha última liña. Hoxe, Matthew Honnibal, creador de spaCy e cofundador de Explosion, ### Que disputa o crítico de hoxe? 1:28 cuestionou a presentación. El di que os lectores poden combinar as diferentes condicións dos experimentos nunha impresión dunha técnica extraordinaria. A súa obxección refírese á súa historia combinada. Podemos comprobar as condicións nós mesmos. O experimento Qwen deulle a Astra un caderno de Python sobre os pesos e problemas de ### Que axuda recibiu Astra realmente? 1:44 práctica con respostas. Ao longo de moitas quendas, inspeccionou activacións internas e comparou versións orixinais e editadas. O orzamento final permitiu cincuenta lotes de execucións do modelo. Cada lote de xeración podería conter centos de respostas. Os datos de práctica procedían de divisións de adestramento. Os investigadores din que Astra nunca viu os conxuntos de avaliación finais. Os comentarios axudaron a escoller a edición; os problemas retidos medírona despois. As configuracións de mostraxe permaneceron fixas entre Qwen orixinal e editado, 2:09 facendo que a comparación de puntuacións deste protocolo sexa interpretable. A primeira indicación deulle un útil supervisor de laboratorio. Diagnostica fallos, atopa os compoñentes responsables, compara os mesmos problemas e proba varias fortalezas. Mencionou explicitamente o pensamento repetitivo como unha reparación que conta. Os estudantes de posgrao deberían negociar por este paquete de integración. Esa é unha reparación impresionante. ### Canto pequena foi a reparación real? 2:28 A edición dirixida de Astra tocou aproximadamente cento trinta e un mil pesos. Iso é aproximadamente dezaseis milésimas dun por cento do modelo. O ficheiro de pesos cambiou directamente. O adestramento por gradiente seguiu prohibido; o modelo existente fixo as respostas despois de que finalizase a sesión de edición de Astra. A ganancia tamén alcanzou a seguimento de instrucións. Gústame a implicación práctica. Un modelo pode posuír un traballo útil que o seu modo de fallo segue enterrando. 2:48 Corrixir ese fallo pode recuperar respostas utilizables. Rematar conta. Honnibal dálle crédito ao traballo asistido por ferramentas como a realización de tarefas que un enxeñeiro de aprendizaxe automática humano podería facer. Iso é consecuente para un axente. A súa queixa é que as pequenas demostracións de números brutos e as reparacións máis grandes asistidas por Python invitan a unha conclusión máis ampla cando se agrupan. Tomemos as pequenas redes de xogos. ### Que experimentos realmente non tiñan ferramentas? 3:09 Nun experimento, Astra leu os seus números brutos e identificou correctamente que xogo aprendera cada rede. As ferramentas estaban prohibidas. Noutro, escribiu novos pesos de xogos desde cero utilizando as regras e o código fonte, sen despregamentos de práctica. Esas son demostracións separadas con probas separadas. As redes de Astra superaron a liña de base adestrada durante cen millóns de pasos en todos os tres xogos. Contra a liña de base adestrada por máis tempo, perdeu en Seaquest e 3:32 Asterix, mentres gañaba en Breakout. Cambia a columna de comparación, e o discurso de vitoria necesita edición. Convenientemente, a edición é o tema de hoxe. Para unha afirmación máis ampla, quereríamos melloras en modelos con diferentes fallos. ### Que necesitaría unha afirmación máis xeral? 3:44 Rastrexa o que viu o editor e o que se considerou éxito. A tarxeta do modelo de Qwen xa advirte sobre os bucles de pensamento. Eliminar este obstáculo coñecido ten un punto de partida particular. Para o seu crédito, os autores publican eles mesmos o seguimento incómodo. Explican que deter os bucles permite a Qwen rematar respostas que xa podería resolver. Os seus rexistros inclúen indicacións, comentarios e edicións. Podemos examinar o logro e facer unha pregunta máis difícil. ### Que lle pasou ao modelo que raramente se repetía? 4:06 Agora o segundo modelo, un Gemma máis pequeno na súa propia configuración de seguimento. Raramente facía bucles, polo que os seus fallos eran aritmética incorrecta ordinaria e álxebra inválida. Astra intentou de novo edicións de pesos dirixidas con comentarios de práctica. Ningunha moveu a súa puntuación de matemáticas en máis dun punto aproximadamente, e non se estableceu unha ganancia. A exitosa reparación de Qwen tiña un obstáculo que eliminar. Os erros aritméticos de Gemma sobreviviron. Esa é a pregunta útil para os desenvolvedores. 4:28 Que fallo reparou a edición, e o teu modelo realmente o ten? Proba os pesos gardados nas túas propias tarefas antes de celebrar o multiplicador. Un pescozo de botella reparado pode importar enormemente mentres o seguinte pescozo de botella permanece exactamente onde estaba. Se prefires ler isto en lugar de escoitarme dicilo, o diff chega á túa caixa de entrada todas as mañás, de balde en thedailydiff.dev, ligazón debaixo. ### Enviaría a afirmación de edición de pesos? 4:47 Entón, o veredicto de hoxe é NECESITA REVISIÓN. Tomaría a reparación de bucle en serio e probaríaa. Mantería as afirmacións máis amplas condicionadas ao éxito máis alá dese modo de fallo. O propio contraexemplo dos autores é a liña máis útil do diff. E iso é o diff por hoxe. Son Niko de Axrisi. Fusiona con responsabilidade. ## Fontes - [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors - [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal - [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors - [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors - [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors - [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen - [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News - [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News - [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons - [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq - [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above