# GPT-6 Astra corrigiu o pensamento infinito de outra IA Published: 2026-11-04 Um estudo afiliado ao MIT usou GPT-6 Astra para editar os pesos de um pequeno modelo Qwen e ajudar mais respostas a serem concluídas. O aumento relatado na pontuação de matemática dependeu de um reparo direcionado de loop, análise de Python e feedback prático. Um acompanhamento separado com um Gemma menor não encontrou ganho estabelecido. Canonical: https://thedailydiff.dev/pt-BR/video/2026-11-03-astra-qwen-weights/ ## O que este vídeo aborda - O aumento relatado na pontuação de Qwen veio de um reparo direcionado ao raciocínio repetitivo; cerca de um terço das respostas editadas ainda atingiu o limite de comprimento no protocolo primário. - O treinamento de gradiente foi proibido, enquanto Python, respostas práticas e feedback de execuções de modelo em lote foram permitidos em muitas rodadas. As perguntas de avaliação final foram declaradas como retidas. - Os experimentos de jogos com pesos brutos pequenos e sem rollout usaram condições diferentes. Suas afirmações devem manter seu escopo individual de ferramenta, entrada e linha de base. - Matthew Honnibal credita a engenharia assistida por ferramentas e contesta a impressão mais ampla produzida ao agrupar os experimentos. - O acompanhamento menor de Gemma usou sua própria configuração e falhou em estabelecer uma melhoria. Teste qual falha uma edição de peso repara antes de aplicá-la a outro modelo. ## Perguntas e respostas ### O que Astra mudou para melhorar a pontuação de matemática relatada de Qwen? Astra fez uma edição de peso direcionada que ajudou Qwen a finalizar mais respostas, de acordo com o estudo de Rikiya Takehi e coautores. Ele removeu uma contribuição associada à repetição de colunas selecionadas em camadas internas. O aumento relatado na pontuação de matemática usou um protocolo de avaliação fixo. Muitas respostas editadas ainda atingiram o limite de comprimento, então o resultado mantém uma taxa de falha residual substancial. ### Quais ferramentas e feedback foram permitidos durante a edição de peso de Qwen? Análise de Python, problemas práticos com respostas e feedback de execuções de modelo em lote foram permitidos em muitas rodadas. O prompt inicial real dos pesquisadores proibiu o treinamento de gradiente e especificou conselhos de teste diagnóstico e causal, incluindo o reparo de pensamento repetitivo como um alvo elegível. Esse suporte ajudou Astra a escolher uma edição direta para os pesos existentes. Uma unidade de orçamento poderia conter centenas de respostas geradas. ### Os problemas de avaliação final estavam disponíveis para o modelo de edição? Os pesquisadores dizem que os conjuntos de avaliação final permaneceram invisíveis para Astra. O feedback da prática veio de problemas de divisão de treinamento e ajudou a selecionar a edição; problemas separados retidos mediram o modelo enviado depois. O prompt inicial divulgou nomes de benchmarks e o protocolo de avaliação. Essa distinção descreve o que foi retido sem alegar que o editor não tinha todas as informações sobre a tarefa. ### O que aconteceu no acompanhamento da edição de peso do Gemma menor? O acompanhamento do Gemma menor não conseguiu estabelecer um ganho, de acordo com Rikiya Takehi e coautores. O modelo raramente fazia loops, e suas falhas incluíam aritmética errada e álgebra inválida. Edições direcionadas com feedback de prática moveram a pontuação de matemática relatada em no máximo um ponto. Ele usou uma configuração separada, então a comparação fornece um contra-exemplo delimitado em vez de uma ablação igualmente controlada. ### Qual foi o veredito do The Daily Diff sobre a afirmação de edição de peso? O veredito do The Daily Diff foi NECESSITA REVISÃO. Niko levaria o reparo de loop direcionado a sério e o testaria, mantendo reivindicações mais amplas condicionadas ao sucesso além desse modo de falha. O próprio contra-exemplo do modelo menor dos pesquisadores informa esse julgamento. Desenvolvedores devem identificar a falha que uma edição repara e avaliar os pesos salvos em suas próprias tarefas antes de celebrar um multiplicador relatado. ## Capítulos - 0:00 Por que a pontuação de matemática aumentou? - 0:58 O que Qwen estava fazendo de errado? - 1:25 O que o crítico de hoje contesta? - 1:41 Que ajuda Astra realmente obteve? - 2:27 Quão pequeno foi o reparo real? - 3:08 Quais experimentos realmente não tinham ferramentas? - 3:40 O que uma afirmação mais geral precisaria? - 4:06 O que aconteceu com o modelo que raramente fazia loops? - 4:47 Eu enviaria a afirmação de edição de peso? ## Transcrição traduzida Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube. ### Por que a pontuação de matemática aumentou? 0:00 Uma IA tornando outra IA seis vezes mais inteligente parece um gênio instantâneo. O grande salto de Astra na pontuação veio de ajudar Qwen a finalizar as respostas que ela continuava repetindo. Neste vídeo, o que mudou? Que ajuda Astra obteve? E até onde a correção se estende? Qwen foi de cerca de oito por cento para quarenta e oito por cento. Os pesquisadores testaram um segundo modelo com quase nenhum loop. Veremos como foi isso antes do veredito. 0:22 É terça-feira, três de novembro, e este é o The Daily Diff. Programação no espaço de pesos é o nome que os pesquisadores dão para pedir a uma IA para inspecionar ou escrever os números dentro de uma rede neural. Esses números são seus pesos. Esta equipe afiliada ao MIT usou o GPT-6 Astra da OpenAI para editar um pequeno modelo de linguagem Qwen, com treinamento comum proibido. Rikiya Takehi e seus coautores publicaram o estudo na segunda-feira, 0:44 perguntando se uma IA existente poderia raciocinar sobre os internos de outra rede. O resultado principal deles é muito clicável. No Math 500, Qwen subiu de cerca de oito por cento para quarenta e oito por cento. Quase seis vezes as respostas corretas. Qwen continuou pensando até que ficasse sem espaço para responder. ### O que Qwen estava fazendo de errado? 1:00 No modo de pensamento, muitas vezes repetia seu raciocínio. Imagine um aluno preenchendo o caderno de provas com rascunhos até o sinal tocar. O corretor ainda precisa de uma resposta. A maioria das respostas originais atingiu o limite de comprimento. Astra localizou uma direção de repetição em duas camadas internas, então removeu sua contribuição de colunas de pesos selecionadas. Após essa edição, mais respostas chegaram a uma conclusão. Cerca de um terço ainda atingiu o limite no teste relatado. 1:22 O caderno de provas finalmente teve uma última linha. Hoje, Matthew Honnibal, criador do spaCy e cofundador da Explosion, ### O que o crítico de hoje contesta? 1:28 contestou a apresentação. Ele diz que os leitores podem combinar as diferentes condições dos experimentos em uma impressão de uma técnica extraordinária. Sua objeção diz respeito à história combinada deles. Podemos verificar as condições nós mesmos. O experimento Qwen deu a Astra um caderno Python sobre os pesos e problemas de ### Que ajuda Astra realmente obteve? 1:44 prática com respostas. Em muitas rodadas, ele inspecionou as ativações internas e comparou as versões original e editada. O orçamento final permitiu cinquenta lotes de execuções de modelo. Cada lote de geração podia conter centenas de respostas. Os dados de prática vieram de divisões de treinamento. Os pesquisadores dizem que Astra nunca viu os conjuntos de avaliação final. O feedback ajudou a escolher a edição; problemas retidos a mediram depois. As configurações de amostragem permaneceram fixas entre o Qwen original e o editado, 2:09 tornando a comparação de pontuação deste protocolo interpretável. A primeira instrução deu a ele um supervisor de laboratório útil. Diagnosticar falhas, encontrar os componentes responsáveis, comparar nos mesmos problemas e testar várias forças. Mencionou explicitamente o pensamento repetitivo como um reparo que conta. Estudantes de pós-graduação deveriam negociar este pacote de integração. Isso é um reparo impressionante. ### Quão pequeno foi o reparo real? 2:28 A edição direcionada de Astra tocou aproximadamente cento e trinta e um mil pesos. Isso é cerca de dezesseis milésimos de um por cento do modelo. O arquivo de pesos foi alterado diretamente. O treinamento de gradiente permaneceu proibido; o modelo existente fez a resposta após a sessão de edição de Astra terminar. O ganho também alcançou a seguir instruções. Gosto da implicação prática. Um modelo pode possuir trabalho útil que seu modo de falha continua enterrando. 2:48 Corrigir essa falha pode recuperar respostas utilizáveis. Terminar conta. Honnibal credita o trabalho assistido por ferramentas como realizando tarefas que um engenheiro de aprendizado de máquina humano poderia fazer. Isso é importante para um agente. Sua reclamação é que as pequenas demonstrações de números brutos e os maiores reparos assistidos por Python convidam a uma conclusão mais ampla quando agrupados. Considere as pequenas redes de jogos. ### Quais experimentos realmente não tinham ferramentas? 3:09 Em um experimento, Astra leu seus números brutos e identificou corretamente qual jogo cada rede havia aprendido. Ferramentas foram proibidas. Em outro, ele escreveu novos pesos de jogos do zero usando as regras e o código-fonte, sem rollouts de prática. Essas são demonstrações separadas com evidências separadas. As redes de Astra superaram a linha de base treinada por cem milhões de passos em todos os três jogos. Contra a linha de base treinada por mais tempo, ele perdeu em Seaquest e 3:32 Asterix, enquanto venceu Breakout. Mude a coluna de comparação, e o discurso de vitória precisa de edição. Convenientemente, edição é o tema de hoje. Para uma afirmação mais ampla, gostaríamos de melhorias em modelos com falhas diferentes. ### O que uma afirmação mais geral precisaria? 3:44 Rastrear o que o editor viu e o que contou como sucesso. O cartão do modelo de Qwen já alerta sobre loops de pensamento. Remover este obstáculo conhecido tem um ponto de partida particular. Para seu crédito, os autores publicam o acompanhamento desconfortável eles mesmos. Eles explicam que parar os loops permite que Qwen termine respostas que já poderia resolver. Seus registros incluem instruções, feedback e edições. Podemos examinar a conquista e fazer uma pergunta mais difícil. ### O que aconteceu com o modelo que raramente fazia loops? 4:06 Agora o segundo modelo, um Gemma menor em sua própria configuração de acompanhamento. Ele raramente fazia loops, então suas falhas eram aritmética errada comum e álgebra inválida. Astra tentou edições de pesos direcionadas com feedback de prática novamente. Nenhuma moveu sua pontuação de matemática em mais de um ponto, e um ganho não foi estabelecido. O reparo bem-sucedido de Qwen tinha um obstáculo a remover. Os erros aritméticos de Gemma sobreviveram. Essa é a pergunta útil para os desenvolvedores. 4:28 Qual falha a edição reparou, e seu modelo realmente a tem? Teste os pesos salvos em suas próprias tarefas antes de celebrar o multiplicador. Um gargalo reparado pode importar enormemente enquanto o próximo gargalo permanece exatamente onde estava. Se você preferir ler isso a me ouvir dizer, o diff chega em sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev, link abaixo. ### Eu enviaria a afirmação de edição de peso? 4:47 Então, o veredito de hoje é NECESSITA REVISÃO. Eu levaria o reparo de loop a sério e o testaria. Eu manteria reivindicações mais amplas condicionadas ao sucesso além desse modo de falha. O próprio contra-exemplo dos autores é a linha mais útil no diff. E esse é o diff de hoje. Eu sou o Niko da Axrisi. Faça merges com responsabilidade. ## Fontes - [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors - [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal - [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors - [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors - [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors - [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen - [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News - [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News - [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons - [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq - [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above