# GPT-6 Astra виправив нескінченне мислення іншого ШІ

Published: 2026-11-04

Дослідження, пов'язане з MIT, використовувало GPT-6 Astra для редагування ваг невеликої моделі Qwen і допомогло завершити більше відповідей. Заявлений стрибок балів з математики залежав від цільового виправлення циклів, аналізу Python та практичного зворотного зв'язку. Окреме подальше дослідження меншої Gemma не виявило встановленого приросту.

Canonical: https://thedailydiff.dev/uk/video/2026-11-03-astra-qwen-weights/

## Що охоплює це відео

- Повідомлене зростання балів Qwen сталося внаслідок цільового виправлення повторюваних міркувань; близько третини відредагованих відповідей все ще досягали ліміту довжини в первинному протоколі.
- Градієнтне навчання було заборонено, тоді як Python, практичні відповіді та пакетний зворотний зв'язок від виконання моделі були дозволені протягом багатьох ітерацій. Запитання для остаточної оцінки були оголошені як відкладені від джерела.
- Експерименти з невеликими сирими вагами та без імітації гри використовували різні умови. Їхні твердження повинні зберігати індивідуальну сферу застосування інструментів, входів та базових показників.
- Меттью Хоннібал віддає належне інженерії за допомогою інструментів і заперечує ширше враження, створене шляхом об'єднання експериментів.
- Подальше дослідження меншої Gemma використовувало власне налаштування і не змогло встановити покращення. Перевірте, яку помилку виправляє редагування ваг, перш ніж застосовувати її до іншої моделі.

## Запитання та відповіді

### Що Astra змінив, щоб покращити заявлений математичний бал Qwen?

Astra здійснив цільове редагування ваг, яке допомогло Qwen завершити більше відповідей, згідно з дослідженням Рікія Такехі та співавторів. Він усунув внесок, пов'язаний з повторенням, з вибраних стовпців у внутрішніх шарах. Заявлене зростання математичного балу використовувало фіксований протокол оцінки. Багато відредагованих відповідей все ще досягали межі довжини, тому результат зберігає значний залишковий рівень відмов.

### Які інструменти та зворотний зв'язок були дозволені під час редагування ваг Qwen?

Аналіз Python, практичні задачі з відповідями та пакетний зворотний зв'язок від виконання моделі були дозволені протягом багатьох ітерацій. Фактичний початковий запит дослідників забороняв градієнтне навчання та вказував діагностичні та причинно-наслідкові рекомендації щодо тестування, включаючи виправлення повторюваного мислення як відповідну ціль. Ця підтримка допомогла Astra вибрати пряме редагування існуючих ваг. Бюджетна одиниця могла містити сотні згенерованих відповідей.

### Чи були доступні остаточні оцінювальні задачі для моделі, що редагувала?

Дослідники стверджують, що остаточні набори оцінки залишалися невидимими для Astra. Практичний зворотний зв'язок надходив від задач, розділених на навчальні, і допоміг вибрати редагування; окремі відкладені задачі вимірювали подану модель після цього. Початковий запит розкрив назви бенчмарків та протокол оцінки. Ця відмінність описує, що було приховано, не стверджуючи, що редактор не мав жодної інформації про завдання.

### Що сталося в подальшому дослідженні редагування ваг меншої Gemma?

Подальше дослідження меншої Gemma не змогло встановити приріст, згідно з Рікія Такехі та співавторами. Модель рідко зациклювалася, і її збої включали неправильну арифметику та недійсну алгебру. Цільові редагування з практичним зворотним зв'язком змінили заявлений математичний бал щонайбільше приблизно на один бал. Воно використовувало окреме налаштування, тому порівняння надає обмежений контрприклад, а не рівноцінне контрольоване видалення.

### Який був вердикт The Daily Diff щодо заяви про редагування ваг?

Вердикт The Daily Diff був NEEDS REVIEW (потребує перегляду). Ніко серйозно поставився б до цільового виправлення циклів і протестував би його, зберігаючи ширші претензії залежними від успіху за межами цього режиму відмови. Власний контрприклад дослідників з меншою моделлю підтверджує це рішення. Розробники повинні визначити, яку помилку виправляє редагування, і оцінити збережені ваги на своїх власних задачах, перш ніж святкувати заявлений множник.

## Розділи

- 0:00 Чому оцінка з математики підскочила?
- 0:58 Що Qwen робив неправильно?
- 1:25 Що сьогоднішній критик заперечує?
- 1:41 Яку допомогу насправді отримав Astra?
- 2:27 Наскільки малим було фактичне виправлення?
- 3:08 Які експерименти дійсно були без інструментів?
- 3:40 Що потрібно для більш загального твердження?
- 4:06 Що сталося з моделлю, яка рідко зациклювалася?
- 4:47 Чи відправив би я претензію щодо редагування ваг?

## Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

### Чому оцінка з математики підскочила?

0:00 ШІ, який робить інший ШІ в шість разів розумнішим, звучить як миттєвий геній. Великий стрибок балів Astra стався завдяки допомозі Qwen завершити відповіді, які він постійно повторював. У цьому відео, що змінилося? Яку допомогу отримав Astra? І наскільки далеко поширюється виправлення? Qwen виріс приблизно з восьми до сорока восьми відсотків. Дослідники спробували другу модель, яка майже не зациклювалася. Ми побачимо, як це пройшло, перш ніж винести вердикт.

0:22 Сьогодні вівторок, третє листопада, і це The Daily Diff. Програмування у просторі ваг — це назва дослідників для запиту ШІ перевіряти або записувати числа всередині нейронної мережі. Ці числа є її вагами. Ця команда, пов'язана з MIT, використовувала GPT-6 Astra від OpenAI для редагування невеликої мовної моделі Qwen, при цьому звичайне навчання було заборонено. Рікія Такехі та його співавтори опублікували дослідження в понеділок,

0:44 запитуючи, чи може існуючий ШІ міркувати про внутрішню будову іншої мережі. Їхній головний результат дуже клікабельний. На математиці 500 Qwen зріс приблизно з восьми до сорока восьми відсотків. Майже в шість разів більше правильних відповідей. Qwen продовжував думати, поки не вичерпав місце для відповіді.

### Що Qwen робив неправильно?

1:00 У режимі мислення він часто повторював свої міркування. Уявіть собі студента, який заповнює екзаменаційний зошит роботою до дзвоника. Оцінювач все ще потребує відповіді. Більшість оригінальних відповідей досягли межі довжини. Astra визначила напрямок повторення у двох внутрішніх шарах, потім вилучила його внесок з вибраних стовпців ваг. Після цього редагування більше відповідей досягли висновку. Близько третини все ще досягли межі в повідомленому тесті.

1:22 Екзаменаційний зошит нарешті отримав останній рядок. Сьогодні Меттью Хоннібал, творець spaCy та співзасновник Explosion,

### Що сьогоднішній критик заперечує?

1:28 оскаржив презентацію. Він каже, що читачі можуть об'єднати різні умови експериментів у враження однієї надзвичайної техніки. Його заперечення стосується їхньої об'єднаної історії. Ми можемо перевірити умови самі. Експеримент Qwen дав Astra ноутбук Python з вагами та практичними

### Яку допомогу насправді отримав Astra?

1:44 задачами з відповідями. Протягом багатьох ітерацій він перевіряв внутрішні активації та порівнював оригінальні та відредаговані версії. Остаточний бюджет дозволяв п'ятдесят пакетів запусків моделі. Кожен пакет генерації міг містити сотні відповідей. Практичні дані походили з розділів навчання. Дослідники кажуть, що Astra ніколи не бачив остаточних наборів оцінки. Зворотний зв'язок допоміг вибрати редагування; відкладені проблеми вимірювали його після цього. Налаштування вибірки залишалися незмінними між оригінальним та відредагованим Qwen,

2:09 що робить порівняння балів за цим протоколом інтерпретованим. Перший запит дав йому корисного керівника лабораторії. Діагностувати збої, знайти відповідальні компоненти, порівняти на тих самих проблемах та перевірити кілька сильних сторін. Він явно згадав повторюване мислення як виправлення, яке враховується. Аспіранти повинні обговорити цей пакет адаптації. Це вражаюче виправлення.

### Наскільки малим було фактичне виправлення?

2:28 Цільове редагування Astra торкнулося приблизно ста тридцяти однієї тисячі ваг. Це приблизно шістнадцять тисячних відсотка моделі. Файл ваг змінився безпосередньо. Градієнтне навчання залишалося забороненим; існуюча модель відповідала після завершення сеансу редагування Astra. Приріст також досяг дотримання інструкцій. Мені подобається практичне значення. Модель може володіти корисною роботою, яку її режим відмови постійно приховує.

2:48 Виправлення цієї відмови може відновити корисні відповіді. Завершення має значення. Honnibal віддає належне роботі за допомогою інструментів, як такій, що виконує завдання, які міг би виконати інженер з машинного навчання. Це має наслідки для агента. Його скарга полягає в тому, що демонстрації малих сирих чисел та більші виправлення за допомогою Python запрошують до ширшого висновку, якщо їх об'єднати. Візьмемо маленькі ігрові мережі.

### Які експерименти дійсно були без інструментів?

3:09 В одному експерименті Astra прочитав їхні сирі числа і правильно ідентифікував, яку гру вивчила кожна мережа. Інструменти були заборонені. В іншому, він написав нові ваги для гри з нуля, використовуючи правила та вихідний код, без практичних запусків. Це окремі демонстрації з окремими доказами. Мережі Astra перемогли базову модель, навчену протягом ста мільйонів кроків, у всіх трьох іграх. Проти довше навченої базової моделі вона програла в Seaquest та

3:32 Asterix, вигравши Breakout. Змініть стовпець порівняння, і переможна промова потребуватиме редагування. Зручно, що редагування є сьогоднішньою темою. Для ширшої претензії ми б хотіли покращень у моделях з різними збоями.

### Що потрібно для більш загального твердження?

3:44 Відстежуйте, що бачив редактор і що вважалося успіхом. Картка моделі Qwen вже попереджає про цикли мислення. Усунення цієї відомої перешкоди має особливу відправну точку. На їхню честь, автори самі публікують незручне подальше дослідження. Вони пояснюють, що зупинка циклів дозволяє Qwen завершити відповіді, які він вже міг обробити. Їхні журнали включають запити, зворотний зв'язок та редагування. Ми можемо вивчити досягнення та задати складніше питання.

### Що сталося з моделлю, яка рідко зациклювалася?

4:06 Тепер друга модель, менша Gemma у власному подальшому налаштуванні. Вона рідко зациклювалася, тому її збої були звичайною неправильною арифметикою та недійсною алгеброю. Astra знову спробував цільові редагування ваг з практичним зворотним зв'язком. Жодне з них не змінило її бали з математики більш ніж приблизно на один бал, і приріст не був встановлений. Успішне виправлення Qwen мало перешкоду для усунення. Арифметичні помилки Gemma вижили. Це корисне питання для розробників.

4:28 Яку помилку виправило редагування, і чи дійсно ваша модель має її? Перевірте збережені ваги на своїх власних задачах, перш ніж святкувати множник. Виправлене вузьке місце може мати величезне значення, тоді як наступне вузьке місце залишається саме там, де воно було. Якщо ви волієте прочитати це, ніж почути від мене, то "diff" надходить на вашу електронну пошту щоранку, безкоштовно на thedailydiff.dev, посилання нижче.

### Чи відправив би я претензію щодо редагування ваг?

4:47 Отже, сьогоднішній вердикт – NEEDS REVIEW (потребує перегляду). Я б серйозно поставився до виправлення циклу і протестував його. Я б зберігав ширші претензії залежними від успіху за межами цього режиму відмови. Власний контрприклад авторів є найкориснішим рядком у "diff". І це "diff" на сьогодні. Я Ніко з Axrisi. Зливайте відповідально.

## Джерела

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above