# GPT-6 Astra закрпи уште едно бескрајно размислување на вештачка интелигенција

Published: 2026-11-04

Студија поврзана со МИТ користеше GPT-6 Astra за да ги уреди тежините на мал модел Qwen и да помогне повеќе одговори да завршат. Нејзиниот пријавен скок на математички резултат зависеше од насочена поправка на јамка, анализа на Python и повратни информации од практиката. Посебна помала Gemma последователна студија не најде утврдена добивка.

Canonical: https://thedailydiff.dev/mk/video/2026-11-03-astra-qwen-weights/

## Што покрива ова видео

- Зголемувањето на резултатот на Qwen беше резултат на насочена поправка на повторливото расудување; околу една третина од уредените одговори сè уште ја достигнуваа горната граница на должина во примарниот протокол.
- Градиентната обука беше забранета, додека Python, практичните одговори и групните повратни информации од извршувањето на моделот беа дозволени во многу кругови. Конечните прашања за евалуација беа декларирани како задржани од изворот.
- Малите експерименти со сурови тежини и без распоредување на игри користеа различни услови. Нивните тврдења треба да го задржат својот индивидуален опсег на алатки, влезни податоци и основни линии.
- Метју Хонибал ја кредитира алатката за инженерство и го оспорува поширокиот впечаток произведен со групирање на експериментите.
- Помалата последователна студија на Gemma користеше сопствено поставување и не успеа да утврди подобрување. Тестирајте кој неуспех го поправа уредувањето на тежината пред да го примените на друг модел.

## Прашања и одговори

### Што промени Astra за да го подобри пријавениот математички резултат на Qwen?

Astra направи насочено уредување на тежините што му помогна на Qwen да заврши повеќе одговори, според студијата на Рикија Такехи и соавторите. Таа го отстрани придонесот поврзан со повторување од избрани колони во внатрешните слоеви. Пријавеното зголемување на математичкиот резултат користеше фиксен протокол за евалуација. Многу уредени одговори сè уште ја достигнуваа горната граница на должина, така што резултатот задржува значителна преостаната стапка на неуспех.

### Кои алатки и повратни информации беа дозволени за време на уредувањето на тежините на Qwen?

Анализата на Python, практичните проблеми со одговори и групните повратни информации од извршувањето на моделот беа дозволени во многу кругови. Вистинското почетно прашање на истражувачите забрануваше градиентна обука и специфицираше дијагностички и каузални совети за тестирање, вклучувајќи поправка на повторливо размислување како подобна цел. Оваа поддршка ѝ помогна на Astra да избере директно уредување на постоечките тежини. Една буџетска единица може да содржи стотици генерирани одговори.

### Дали конечните проблеми за евалуација беа достапни за моделот за уредување?

Истражувачите велат дека конечните сетови за евалуација останаа невидени од Astra. Повратните информации од вежбањето дојдоа од проблеми со поделби за обука и помогнаа да се избере уредувањето; посебни задржани проблеми го измерија поднесениот модел потоа. Почетното прашање ги откри имињата на референтните точки и протоколот за евалуација. Таа разлика опишува што беше задржано без да тврди дека уредникот немал никакви информации за задачата.

### Што се случи во помалата последователна студија за уредување на тежините на Gemma?

Помалата последователна студија на Gemma не успеа да утврди добивка, според Рикија Такехи и соавторите. Моделот ретко се повторуваше, а неговите неуспеси вклучуваа погрешна аритметика и невалидна алгебра. Насочените уредувања со повратни информации од вежбање го поместија пријавениот математички резултат за најмногу околу еден поен. Таа користеше посебно поставување, така што споредбата обезбедува ограничено контрапример наместо еднакво контролирана аблација.

### Која беше пресудата на The Daily Diff за тврдењето за уредување на тежините?

Пресудата на The Daily Diff беше ПОТРЕБЕН ПРЕГЛЕД. Нико би ја сфатил насочената поправка на јамката сериозно и би ја тестирал, додека пошироките тврдења би ги задржал ограничени на успех надвор од тој режим на неуспех. Сопствениот контрапример на истражувачите со помал модел го информира тој суд. Развивачите треба да го идентификуваат неуспехот што го поправа уредувањето и да ги проценат зачуваните тежини на нивните сопствени задачи пред да го прослават пријавениот множител.

## Поглавја

- 0:00 Зошто математичкиот резултат скокна?
- 0:58 Што правеше Qwen погрешно?
- 1:25 Што оспорува денешниот критичар?
- 1:41 Каква помош доби Astra?
- 2:27 Колку мала беше вистинската поправка?
- 3:08 Кои експерименти навистина немаа алатки?
- 3:40 Што би требало едно поопшто тврдење?
- 4:06 Што се случи со моделот што ретко се повторуваше?
- 4:47 Дали би го испратил тврдењето за уредување на тежините?

## Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

### Зошто математичкиот резултат скокна?

0:00 Вештачка интелигенција што прави друга вештачка интелигенција шест пати попаметна звучи како моментален гениј. Големиот скок на резултатот на Astra дојде од помагањето на Qwen да ги заврши одговорите што ги повторуваше. Во ова видео, што се промени? Каква помош доби Astra? И колку далеку патува поправката? Qwen порасна од околу осум проценти на четириесет и осум проценти. Истражувачите пробаа втор модел со речиси никакви јамки. Ќе видиме како тоа помина пред пресудата.

0:22 Вторник е, трети ноември, и ова е The Daily Diff. Програмирањето на просторот на тежини е името на истражувачите за барање од вештачка интелигенција да ги испита или напише бројките во невронска мрежа. Тие бројки се нејзините тежини. Овој тим поврзан со МИТ ја користеше GPT-6 Astra на OpenAI за да уреди мал јазичен модел Qwen, со забранета обична обука. Рикија Такехи и неговите соавтори ја објавија студијата во понеделник,

0:44 прашувајќи дали постоечка вештачка интелигенција може да расудува за внатрешните работи на друга мрежа. Нивниот насловен резултат е многу кликабилен. На математика петстотини, Qwen порасна од околу осум проценти на четириесет и осум проценти. Речиси шест пати повеќе точни одговори. Qwen продолжи да размислува додека не остане без простор за одговор.

### Што правеше Qwen погрешно?

1:00 Во режим на размислување, често го повторуваше своето расудување. Замислете студент како го пополнува работниот лист за испит додека не заѕвони ѕвончето. Маркерот сè уште има потреба од одговор. Повеќето оригинални одговори ја достигнаа границата на должина. Astra ја лоцираше насоката на повторување во два внатрешни слоја, потоа го отстрани нејзиниот придонес од избраните колони на тежини. По тоа уредување, повеќе одговори дојдоа до заклучок. Околу една третина сè уште ја достигнуваа горната граница во пријавениот тест.

1:22 Работната книшка конечно доби последен ред. Денес, Метју Хонибал, креаторот на spaCy и коосновач на Explosion,

### Што оспорува денешниот критичар?

1:28 ја оспори презентацијата. Тој вели дека читателите можат да ги комбинираат различните услови на експериментите во еден впечаток за една извонредна техника. Неговиот приговор се однесува на нивната комбинирана приказна. Ние самите можеме да ги провериме условите. Експериментот со Qwen му даде на Astra Python бележник над тежините и вежби

### Каква помош доби Astra?

1:44 со одговори. Низ многу кругови, тој ги испитуваше внатрешните активации и ги споредуваше оригиналните и уредени верзии. Конечниот буџет дозволуваше педесет серии извршувања на моделот. Секоја генерациска серија може да содржи стотици одговори. Податоците за вежбање дојдоа од поделбите за обука. Истражувачите велат дека Astra никогаш не ги видела конечните сетови за евалуација. Повратните информации помогнаа да се избере уредувањето; задржаните проблеми го измерија потоа. Поставките за семплирање останаа фиксни помеѓу оригиналниот и уредениот Qwen,

2:09 правејќи ја споредбата на резултатите од овој протокол интерпретабилна. Првиот промпт му даде корисен надзорник на лабораторија. Дијагностицирајте ги неуспесите, пронајдете ги одговорните компоненти, споредете ги на истите проблеми и тестирајте неколку јачини. Експлицитно спомена повторливо размислување како поправка што се брои. Дипломците треба да преговараат за овој пакет за вклучување. Тоа е импресивна поправка.

### Колку мала беше вистинската поправка?

2:28 Насоченото уредување на Astra допре приближно сто триесет и еден илјади тежини. Тоа е околу шеснаесет илјадити делови од процент од моделот. Датотеката со тежини се промени директно. Градиентната обука остана забранета; постоечкиот модел даваше одговори по завршувањето на сесијата за уредување на Astra. Добивката го достигна и следењето на упатствата. Ми се допаѓа практичната импликација. Модел може да поседува корисна работа што неговиот режим на неуспех постојано ја закопува.

2:48 Поправањето на тој неуспех може да обнови употребливи одговори. Завршувањето се брои. Honnibal му дава заслуга на работата со помош на алатки како извршување на задачи што може да ги направи човечки инженер за машинско учење. Тоа е значајно за еден агент. Неговата жалба е дека малите демонстрации на сурови броеви и поголемите поправки со помош на Python повикуваат на поширок заклучок кога се групираат заедно. Земете ги малите мрежи за игри.

### Кои експерименти навистина немаа алатки?

3:09 Во еден експеримент, Astra ги прочита нивните сурови броеви и правилно идентификуваше која игра ја научила секоја мрежа. Алатките беа забранети. Во друг, тој напиша нови тежини за играње игри од нула користејќи ги правилата и изворниот код, без вежбање со распоредување. Тоа се посебни демонстрации со посебни докази. Мрежите на Astra ја победија основната линија тренирана сто милиони чекори во сите три игри. Против подолго тренираната основна линија, таа изгуби во Seaquest и

3:32 Asterix, додека победи во Breakout. Променете ја колоната за споредба, и победничкиот говор треба да се уреди. Погодно, уредувањето е денешната тема. За пошироко тврдење, би сакале подобрувања кај моделите со различни неуспеси.

### Што би требало едно поопшто тврдење?

3:44 Следете што виде уредникот и што се сметаше за успех. Картичката на моделот на Qwen веќе предупредува за мисловни јамки. Отстранувањето на оваа позната пречка има одредена почетна точка. За нивна заслуга, авторите самите го објавуваат непријатното продолжение. Тие објаснуваат дека запирањето на јамките му овозможува на Qwen да ги заврши одговорите што веќе можеше да ги изработи. Нивните логови вклучуваат прашања, повратни информации и уредувања. Можеме да го испитаме постигнувањето и да поставиме потешко прашање.

### Што се случи со моделот што ретко се повторуваше?

4:06 Сега вториот модел, помала Gemma во сопственото продолжение на поставување. Ретко се повторуваше, така што неговите неуспеси беа обична погрешна аритметика и невалидна алгебра. Astra повторно проба насочени уредувања на тежини со повратни информации од вежбање. Ниту едно не го помести неговиот математички резултат за повеќе од околу еден поен, и добивката не беше утврдена. Успешната поправка на Qwen имаше пречка за отстранување. Грешките во аритметиката на Gemma преживеаја. Тоа е корисното прашање за развивачите.

4:28 Кој неуспех го поправи уредувањето, и дали вашиот модел навистина го има? Тестирајте ги зачуваните тежини на вашите сопствени задачи пред да го прославите множителот. Поправениот проток може да биде исклучително важен, додека следниот проток останува точно таму каде што беше. Ако повеќе сакате да го прочитате ова отколку да ме слушате како го кажувам, дифузијата пристигнува во вашето сандаче секое утро, бесплатно на the daily diff dot dev, линк подолу.

### Дали би го испратил тврдењето за уредување на тежините?

4:47 Значи, денешната пресуда е ПОТРЕБЕН ПРЕГЛЕД. Би ја сфатил поправката на јамката сериозно и би ја тестирал. Би ги задржал пошироките тврдења ограничени на успех надвор од тој режим на неуспех. Сопствениот контрапример на авторите е најкорисниот ред во дифузијата. И тоа е дифузијата за денес. Јас сум Нико од Axrisi. Спојувајте одговорно.

## Извори

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above