# GPT-6 Astra parcheó el pensamiento infinito de otra IA Published: 2026-11-04 Un estudio afiliado al MIT usó GPT-6 Astra para editar los pesos de un pequeño modelo Qwen y ayudar a que más respuestas terminaran. El salto reportado en el puntaje de matemáticas dependió de una reparación dirigida de bucles, análisis de Python y retroalimentación de práctica. Un seguimiento separado con un modelo Gemma más pequeño no encontró ninguna ganancia establecida. Canonical: https://thedailydiff.dev/es-US/video/2026-11-03-astra-qwen-weights/ ## Lo que cubre este video - El aumento reportado en el puntaje de Qwen provino de una reparación dirigida al razonamiento repetitivo; aproximadamente un tercio de las respuestas editadas aún alcanzaron el límite de longitud en el protocolo primario. - El entrenamiento por gradiente estaba prohibido, mientras que Python, las respuestas de práctica y la retroalimentación de ejecuciones de modelos en lotes estaban permitidos en muchas iteraciones. Las preguntas de evaluación final fueron declaradas excluidas por la fuente. - Los pequeños experimentos con pesos brutos y sin despliegue usaron condiciones diferentes. Sus afirmaciones deben mantener su herramienta individual, entrada y alcance de referencia. - Matthew Honnibal atribuye el mérito a la ingeniería asistida por herramientas y cuestiona la impresión más amplia producida al agrupar los experimentos. - El seguimiento con el modelo Gemma más pequeño usó su propia configuración y no logró establecer una mejora. Pruebe qué falla repara una edición de peso antes de aplicarla a otro modelo. ## Preguntas y respuestas ### ¿Qué cambió Astra para mejorar la puntuación de matemáticas reportada de Qwen? Astra realizó una edición de peso dirigida que ayudó a Qwen a terminar más respuestas, según el estudio de Rikiya Takehi y coautores. Eliminó una contribución asociada a la repetición de columnas seleccionadas en capas internas. El aumento de la puntuación de matemáticas reportada utilizó un protocolo de evaluación fijo. Muchas respuestas editadas aún alcanzaron el límite de longitud, por lo que el resultado mantiene una tasa de fallas residual sustancial. ### ¿Qué herramientas y retroalimentación se permitieron durante la edición de pesos de Qwen? Se permitió el análisis de Python, problemas de práctica con respuestas y retroalimentación de ejecuciones de modelos en lotes durante muchas iteraciones. La indicación inicial real de los investigadores prohibió el entrenamiento por gradiente y especificó consejos de prueba diagnóstica y causal, incluyendo la reparación del pensamiento repetitivo como un objetivo elegible. Este soporte ayudó a Astra a elegir una edición directa a los pesos existentes. Una unidad de presupuesto podría contener cientos de respuestas generadas. ### ¿Estuvieron disponibles los problemas de evaluación final para el modelo de edición? Los investigadores dicen que los conjuntos de evaluación final no fueron vistos por Astra. La retroalimentación de práctica provino de problemas de división de entrenamiento y ayudó a seleccionar la edición; problemas retenidos separados midieron el modelo enviado después. La indicación inicial reveló los nombres de los puntos de referencia y el protocolo de evaluación. Esa distinción describe lo que se retuvo sin afirmar que el editor carecía de toda la información sobre la tarea. ### ¿Qué sucedió en el seguimiento de edición de pesos del modelo Gemma más pequeño? El seguimiento del modelo Gemma más pequeño no logró establecer una ganancia, según Rikiya Takehi y coautores. El modelo rara vez hacía bucles, y sus fallas incluían aritmética incorrecta y álgebra inválida. Las ediciones dirigidas con retroalimentación de práctica movieron la puntuación de matemáticas reportada como máximo en aproximadamente un punto. Se utilizó una configuración separada, por lo que la comparación proporciona un contraejemplo acotado en lugar de una ablación controlada e igual. ### ¿Cuál fue el veredicto de The Daily Diff sobre la afirmación de edición de pesos? El veredicto de The Daily Diff fue NEEDS REVIEW. Niko se tomaría en serio la reparación dirigida del bucle y la probaría, manteniendo las afirmaciones más amplias supeditadas al éxito más allá de ese modo de falla. El propio contraejemplo de los investigadores con el modelo más pequeño sustenta ese juicio. Los desarrolladores deben identificar la falla que repara una edición y evaluar los pesos guardados en sus propias tareas antes de celebrar un multiplicador reportado. ## Capítulos - 0:00 ¿Por qué saltó el puntaje de matemáticas? - 0:58 ¿Qué estaba haciendo mal Qwen? - 1:25 ¿Qué disputa el crítico de hoy? - 1:41 ¿Qué ayuda recibió Astra realmente? - 2:27 ¿Qué tan pequeña fue la reparación real? - 3:08 ¿Qué experimentos realmente no tuvieron herramientas? - 3:40 ¿Qué necesitaría una afirmación más general? - 4:06 ¿Qué pasó con el modelo que rara vez hacía bucles? - 4:47 ¿Aprobaría la afirmación de edición de pesos? ## Transcripción traducida Traducido de la narración original en inglés. El audio y los subtítulos disponibles son controlados por YouTube. ### ¿Por qué saltó el puntaje de matemáticas? 0:00 Una IA haciendo a otra IA seis veces más inteligente suena a genio instantáneo. El gran salto en la puntuación de Astra provino de ayudar a Qwen a terminar respuestas que seguía repitiendo. En este video, ¿qué cambió? ¿Qué ayuda recibió Astra? ¿Y hasta dónde llega la solución? Qwen pasó de aproximadamente un ocho por ciento a un cuarenta y ocho por ciento. Los investigadores probaron un segundo modelo casi sin bucles. Veremos cómo fue eso antes del veredicto. 0:22 Es martes, tres de noviembre, y este es The Daily Diff. La programación en el espacio de pesos es el nombre que le dan los investigadores a pedirle a una IA que inspeccione o escriba los números dentro de una red neuronal. Esos números son sus pesos. Este equipo afiliado al MIT usó GPT-6 Astra de OpenAI para editar un pequeño modelo de lenguaje Qwen, con el entrenamiento ordinario prohibido. Rikiya Takehi y sus coautores publicaron el estudio el lunes, 0:44 preguntando si una IA existente podría razonar sobre los internos de otra red. Su resultado principal es muy atractivo. En matemáticas quinientos, Qwen subió de aproximadamente un ocho por ciento a un cuarenta y ocho por ciento. Casi seis veces las respuestas correctas. Qwen siguió pensando hasta que se quedó sin espacio para responder. ### ¿Qué estaba haciendo mal Qwen? 1:00 En modo de pensamiento, a menudo repetía su razonamiento. Imaginen a un estudiante llenando el cuadernillo de examen con el trabajo hasta que suene la campana. El calificador aún necesita una respuesta. La mayoría de las respuestas originales alcanzaron el límite de longitud. Astra localizó una dirección de repetición en dos capas internas, luego eliminó su contribución de columnas de peso seleccionadas. Después de esa edición, más respuestas llegaron a una conclusión. Alrededor de un tercio todavía alcanzó el límite en la prueba reportada. 1:22 El cuadernillo de examen finalmente obtuvo una última línea. Hoy, Matthew Honnibal, creador de spaCy y cofundador de Explosion, ### ¿Qué disputa el crítico de hoy? 1:28 cuestionó la presentación. Dice que los lectores pueden combinar las diferentes condiciones de los experimentos en una impresión de una técnica extraordinaria. Su objeción se refiere a su historia combinada. Podemos verificar las condiciones nosotros mismos. El experimento de Qwen le dio a Astra un cuaderno de Python sobre los pesos y problemas de ### ¿Qué ayuda recibió Astra realmente? 1:44 práctica con respuestas. A lo largo de muchas iteraciones, inspeccionó activaciones internas y comparó versiones originales y editadas. El presupuesto final permitió cincuenta lotes de ejecuciones de modelos. Cada lote de generación podía contener cientos de respuestas. Los datos de práctica provenían de divisiones de entrenamiento. Los investigadores dicen que Astra nunca vio los conjuntos de evaluación final. La retroalimentación ayudó a elegir la edición; problemas retenidos la midieron después. La configuración de muestreo se mantuvo fija entre Qwen original y editado, 2:09 haciendo interpretable la comparación de puntajes de este protocolo. La primera indicación le dio un supervisor de laboratorio útil. Diagnosticar fallas, encontrar los componentes responsables, comparar los mismos problemas y probar varias fortalezas. Mencionó explícitamente el pensamiento repetitivo como una reparación que cuenta. Los estudiantes de posgrado deberían negociar este paquete de incorporación. Esa es una reparación impresionante. ### ¿Qué tan pequeña fue la reparación real? 2:28 La edición dirigida de Astra tocó aproximadamente ciento treinta y un mil pesos. Eso es aproximadamente dieciséis milésimas de un por ciento del modelo. El archivo de pesos cambió directamente. El entrenamiento de gradiente siguió prohibido; el modelo existente hizo las respuestas después de que la sesión de edición de Astra terminara. La ganancia también llegó al seguimiento de instrucciones. Me gusta la implicación práctica. Un modelo puede poseer trabajo útil que su modo de falla sigue enterrando. 2:48 Arreglar esa falla puede recuperar respuestas utilizables. Terminar cuenta. Honnibal le da crédito al trabajo asistido por herramientas por realizar tareas que un ingeniero humano de aprendizaje automático podría hacer. Eso es importante para un agente. Su queja es que las pequeñas demostraciones de números brutos y las reparaciones más grandes asistidas por Python invitan a una conclusión más amplia cuando se agrupan. Tomemos las pequeñas redes de juego. ### ¿Qué experimentos realmente no tuvieron herramientas? 3:09 En un experimento, Astra leyó sus números brutos e identificó correctamente qué juego había aprendido cada red. Las herramientas estaban prohibidas. En otro, escribió nuevos pesos de juego desde cero usando las reglas y el código fuente, sin despliegues de práctica. Esas son demostraciones separadas con evidencia separada. Las redes de Astra vencieron a la línea de base entrenada durante cien millones de pasos en los tres juegos. Contra la línea de base entrenada por más tiempo, perdió en Seaquest y 3:32 Asterix, mientras que ganó en Breakout. Cambien la columna de comparación, y el discurso de victoria necesita ser editado. Convenientemente, la edición es el tema de hoy. Para una afirmación más amplia, querríamos mejoras en modelos con diferentes fallas. ### ¿Qué necesitaría una afirmación más general? 3:44 Rastree lo que vio el editor y lo que contó como éxito. La tarjeta del modelo de Qwen ya advierte sobre bucles de pensamiento. Eliminar este obstáculo conocido tiene un punto de partida particular. A su favor, los autores publican el incómodo seguimiento ellos mismos. Explican que detener los bucles permite a Qwen terminar las respuestas que ya podía resolver. Sus registros incluyen indicaciones, retroalimentación y ediciones. Podemos examinar el logro y hacer una pregunta más difícil. ### ¿Qué pasó con el modelo que rara vez hacía bucles? 4:06 Ahora el segundo modelo, un Gemma más pequeño en su propia configuración de seguimiento. Rara vez hacía bucles, por lo que sus fallas eran aritmética incorrecta ordinaria y álgebra inválida. Astra intentó ediciones de peso dirigidas con retroalimentación de práctica nuevamente. Ninguna movió su puntaje de matemáticas en más de un punto aproximadamente, y no se estableció una ganancia. La exitosa reparación de Qwen tenía un obstáculo que eliminar. Los errores aritméticos de Gemma sobrevivieron. Esa es la pregunta útil para los desarrolladores. 4:28 ¿Qué falla reparó la edición, y su modelo realmente la tiene? Pruebe los pesos guardados en sus propias tareas antes de celebrar el multiplicador. Un cuello de botella reparado puede importar enormemente mientras el siguiente cuello de botella permanece exactamente donde estaba. Si prefieres leer esto en lugar de oírme decirlo, el "diff" llega a tu bandeja de entrada todas las mañanas, gratis en the daily diff dot dev, enlace abajo. ### ¿Aprobaría la afirmación de edición de pesos? 4:47 Así que, el veredicto de hoy es NEEDS REVIEW. Me tomaría en serio la reparación del bucle y la probaría. Mantendría afirmaciones más amplias condicionadas al éxito más allá de ese modo de falla. El propio contraejemplo de los autores es la línea más útil en el "diff". Y ese es el "diff" de hoy. Soy Niko de Axrisi. Fusionen con responsabilidad. ## Fuentes - [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors - [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal - [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors - [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors - [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors - [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen - [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News - [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News - [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons - [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq - [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above