# GPT-6 Astra menampal pemikiran tanpa henti AI lain

Published: 2026-11-04

Satu kajian bersekutu MIT menggunakan GPT-6 Astra untuk menyunting pemberat model Qwen kecil dan membantu lebih banyak jawapan selesai. Lonjakan skor matematik yang dilaporkan bergantung pada pembaikan gelung yang disasarkan, analisis Python, dan maklum balas amalan. Susulan Gemma yang lebih kecil secara berasingan tidak menemui sebarang peningkatan yang mantap.

Canonical: https://thedailydiff.dev/ms/video/2026-11-03-astra-qwen-weights/

## Apa yang diliputi video ini

- Peningkatan skor Qwen yang dilaporkan datang daripada pembaikan sasaran kepada penaakulan berulang; kira-kira satu pertiga daripada jawapan yang disunting masih mencapai had panjang dalam protokol utama.
- Latihan gradien dilarang, manakala Python, jawapan latihan dan maklum balas larian model kelompok dibenarkan dalam banyak pusingan. Soalan penilaian akhir diisytiharkan sebagai disimpan.
- Eksperimen permainan berat mentah kecil dan tanpa pelancaran menggunakan syarat yang berbeza. Tuntutan mereka harus mengekalkan alat, input, dan skop garis dasar masing-masing.
- Matthew Honnibal mengkreditkan kejuruteraan yang dibantu alat dan mempertikaikan tanggapan yang lebih luas yang dihasilkan oleh penggabungan eksperimen.
- Susulan Gemma yang lebih kecil menggunakan persediaan sendiri dan gagal menunjukkan peningkatan. Uji kegagalan mana yang diperbaiki oleh suntingan berat sebelum menggunakannya pada model lain.

## Soalan dan jawapan

### Apa yang diubah oleh Astra untuk meningkatkan skor matematik Qwen yang dilaporkan?

Astra membuat suntingan berat sasaran yang membantu Qwen menyelesaikan lebih banyak jawapan, menurut kajian oleh Rikiya Takehi dan pengarang bersama. Ia membuang sumbangan yang berkaitan dengan pengulangan daripada lajur terpilih dalam lapisan dalaman. Peningkatan skor matematik yang dilaporkan menggunakan protokol penilaian tetap. Banyak jawapan yang disunting masih mencapai had panjang, jadi hasilnya mengekalkan kadar kegagalan sisa yang besar.

### Apakah alat dan maklum balas yang dibenarkan semasa penyuntingan berat Qwen?

Analisis Python, masalah latihan dengan jawapan, dan maklum balas larian model kelompok dibenarkan dalam banyak pusingan. Prom awal penyelidik sebenarnya melarang latihan gradien dan menyatakan nasihat ujian diagnostik dan kausal, termasuk pembaikan pemikiran berulang sebagai sasaran yang layak. Sokongan ini membantu Astra memilih suntingan langsung kepada pemberat sedia ada. Satu unit bajet boleh mengandungi ratusan jawapan yang dihasilkan.

### Adakah masalah penilaian akhir tersedia untuk model penyuntingan?

Para penyelidik mengatakan set penilaian akhir tidak pernah dilihat oleh Astra. Maklum balas amalan datang daripada masalah pembahagian latihan dan membantu memilih suntingan; masalah terasing yang berasingan mengukur model yang diserahkan kemudian. Prom awal mendedahkan nama penanda aras dan protokol penilaian. Perbezaan itu menerangkan apa yang disembunyikan tanpa mendakwa bahawa penyunting tidak mempunyai semua maklumat tentang tugas itu.

### Apa yang berlaku dalam susulan penyuntingan berat Gemma yang lebih kecil?

Susulan Gemma yang lebih kecil gagal menunjukkan peningkatan, menurut Rikiya Takehi dan pengarang bersama. Model itu jarang bergelung, dan kegagalannya termasuk salah aritmetik dan algebra tidak sah. Suntingan sasaran dengan maklum balas amalan menggerakkan skor matematik yang dilaporkan paling banyak kira-kira satu mata. Ia menggunakan persediaan yang berasingan, jadi perbandingan itu membekalkan contoh balas yang diskopkan dan bukannya ablasi yang dikawal sama.

### Apa keputusan The Daily Diff mengenai tuntutan penyuntingan berat?

Keputusan The Daily Diff ialah PERLU ULASAN. Niko akan mengambil serius pembaikan gelung sasaran dan mengujinya, sambil mengekalkan tuntutan yang lebih luas yang disokong oleh kejayaan melangkaui mod kegagalan itu. Contoh balas model kecil penyelidik sendiri mempengaruhi penghakiman itu. Pembangun harus mengenal pasti kegagalan yang diperbaiki oleh suntingan dan menilai pemberat yang disimpan pada tugas mereka sendiri sebelum meraikan pengganda yang dilaporkan.

## Bab

- 0:00 Mengapa skor matematik melonjak?
- 0:58 Apa yang salah dengan Qwen?
- 1:25 Apa yang dipertikaikan oleh pengkritik hari ini?
- 1:41 Bantuan apa yang sebenarnya diterima Astra?
- 2:27 Seberapa kecil pembaikan sebenarnya?
- 3:08 Eksperimen mana yang sebenarnya tiada alat?
- 3:40 Apa yang diperlukan untuk tuntutan yang lebih umum?
- 4:06 Apa yang berlaku kepada model yang jarang berulang?
- 4:47 Adakah saya akan meluluskan tuntutan penyuntingan berat?

## Transkrip terjemahan

Diterjemahkan daripada penceritaan asal Bahasa Inggeris. Audio dan kapsyen yang tersedia dikawal oleh YouTube.

### Mengapa skor matematik melonjak?

0:00 AI yang menjadikan AI lain enam kali lebih pintar kedengaran seperti genius serta-merta. Lonjakan skor besar Astra datang daripada membantu Qwen menyelesaikan jawapan yang terus diulang. Dalam video ini, apa yang berubah? Bantuan apa yang diterima Astra? Dan sejauh mana pembaikan itu berkesan? Qwen meningkat dari kira-kira lapan peratus kepada empat puluh lapan peratus. Para penyelidik mencuba model kedua dengan hampir tiada gelung. Kita akan lihat bagaimana itu berlaku sebelum keputusan.

0:22 Ini hari Selasa, 3 November, dan ini The Daily Diff. Pengaturcaraan ruang berat adalah nama yang diberikan oleh para penyelidik untuk meminta AI memeriksa atau menulis nombor di dalam rangkaian saraf. Nombor-nombor itu adalah pemberatnya. Pasukan bersekutu MIT ini menggunakan GPT enam Astra dari OpenAI untuk menyunting model bahasa Qwen yang kecil, dengan latihan biasa dilarang. Rikiya Takehi dan pengarang bersama menerbitkan kajian itu pada hari Isnin,

0:44 bertanya sama ada AI sedia ada boleh membuat pertimbangan tentang internal rangkaian lain. Hasil utama mereka sangat menarik. Pada matematik lima ratus, Qwen meningkat dari kira-kira lapan peratus kepada empat puluh lapan peratus. Hampir enam kali ganda jawapan yang betul. Qwen terus berfikir sehingga kehabisan ruang untuk menjawab.

### Apa yang salah dengan Qwen?

1:00 Dalam mod berfikir, ia sering mengulang penaakulannya. Bayangkan seorang pelajar memenuhi buku jawapan peperiksaan dengan kerja sehingga loceng berbunyi. Pemeriksa masih memerlukan jawapan. Kebanyakan jawapan asal mencapai had panjang. Astra menemui arah pengulangan dalam dua lapisan dalaman, kemudian membuang sumbangannya daripada lajur berat terpilih. Selepas suntingan itu, lebih banyak jawapan mencapai kesimpulan. Kira-kira satu pertiga masih mencapai had dalam ujian yang dilaporkan.

1:22 Buku jawapan peperiksaan akhirnya mendapat baris terakhir. Hari ini, Matthew Honnibal, pencipta spaCy dan pengasas bersama Explosion,

### Apa yang dipertikaikan oleh pengkritik hari ini?

1:28 mencabar persembahan itu. Beliau mengatakan pembaca boleh menggabungkan keadaan eksperimen yang berbeza menjadi satu tanggapan satu teknik yang luar biasa. Bantahan beliau adalah mengenai cerita gabungan mereka. Kita boleh menyemak keadaannya sendiri. Eksperimen Qwen memberikan Astra buku nota Python ke atas pemberat dan soalan

### Bantuan apa yang sebenarnya diterima Astra?

1:44 latihan dengan jawapan. Sepanjang banyak pusingan, ia memeriksa pengaktifan dalaman dan membandingkan versi asal dan yang disunting. Bajet akhir membenarkan lima puluh kelompok larian model. Setiap kelompok generasi boleh mengandungi ratusan jawapan. Data latihan datang daripada pembahagian latihan. Para penyelidik mengatakan Astra tidak pernah melihat set penilaian akhir. Maklum balas membantu memilih suntingan; masalah yang disimpan mengukurnya kemudian. Tetapan pensampelan kekal tetap antara Qwen asal dan yang disunting,

2:09 menjadikan perbandingan skor protokol ini dapat ditafsirkan. Prompt pertama memberikannya penyelia makmal yang membantu. Mendiagnosis kegagalan, mencari komponen yang bertanggungjawab, membandingkan masalah yang sama, dan menguji beberapa kekuatan. Ia secara eksplisit menyebut pemikiran berulang sebagai pembaikan yang penting. Pelajar siswazah harus berunding untuk pakej orientasi ini. Itu adalah pembaikan yang mengagumkan.

### Seberapa kecil pembaikan sebenarnya?

2:28 Suntingan sasaran Astra menyentuh kira-kira seratus tiga puluh satu ribu pemberat. Itu kira-kira enam belas perseribu peratus daripada model. Fail berat berubah secara langsung. Latihan gradien kekal dilarang; model sedia ada melakukan penjawapan selepas sesi penyuntingan Astra berakhir. Peningkatan itu juga mencapai mengikuti arahan. Saya suka implikasi praktikalnya. Model boleh memiliki kerja berguna yang terus terkubur oleh mod kegagalannya.

2:48 Membaiki kegagalan itu boleh memulihkan jawapan yang boleh digunakan. Menyelesaikan itu penting. Honnibal memberikan kredit kepada kerja yang dibantu alat sebagai melakukan tugas yang boleh dilakukan oleh jurutera pembelajaran mesin manusia. Itu berimplikasi besar untuk seorang ejen. Aduannya adalah bahawa demonstrasi nombor mentah yang kecil dan pembaikan yang dibantu Python yang lebih besar mengundang kesimpulan yang lebih luas apabila digabungkan. Ambil rangkaian permainan kecil.

### Eksperimen mana yang sebenarnya tiada alat?

3:09 Dalam satu eksperimen, Astra membaca nombor mentah mereka dan dengan betul mengenal pasti permainan apa yang telah dipelajari oleh setiap rangkaian. Alat dilarang. Dalam yang lain, ia menulis pemberat bermain permainan baru dari awal menggunakan peraturan dan kod sumber, tanpa pelancaran latihan. Itu adalah demonstrasi berasingan dengan bukti berasingan. Rangkaian Astra mengalahkan garis dasar yang dilatih selama seratus juta langkah dalam ketiga-tiga permainan. Terhadap garis dasar yang dilatih lebih lama, ia kalah dalam Seaquest dan

3:32 Asterix, sementara memenangi Breakout. Ubah lajur perbandingan, dan ucapan kemenangan perlu disunting. Menariknya, penyuntingan adalah topik hari ini. Untuk tuntutan yang lebih luas, kami ingin peningkatan merentasi model dengan kegagalan yang berbeza.

### Apa yang diperlukan untuk tuntutan yang lebih umum?

3:44 Jejaki apa yang dilihat oleh penyunting dan apa yang dikira sebagai kejayaan. Kad model Qwen sudah memberi amaran tentang gelung pemikiran. Menghapuskan halangan yang diketahui ini mempunyai titik permulaan tertentu. Sebagai penghargaan, para pengarang menerbitkan sendiri susulan yang tidak selesa itu. Mereka menjelaskan bahawa menghentikan gelung membolehkan Qwen menyelesaikan jawapan yang sudah boleh diselesaikannya. Log mereka termasuk prom, maklum balas dan suntingan. Kita boleh memeriksa pencapaian itu dan bertanya soalan yang lebih sukar.

### Apa yang berlaku kepada model yang jarang berulang?

4:06 Sekarang model kedua, Gemma yang lebih kecil dalam persediaan susulannya sendiri. Ia jarang bergelung, jadi kegagalannya adalah salah aritmetik biasa dan algebra tidak sah. Astra mencuba suntingan berat sasaran dengan maklum balas amalan lagi. Tiada yang menggerakkan skor matematiknya lebih daripada kira-kira satu mata, dan peningkatan tidak dapat ditunjukkan. Pembaikan Qwen yang berjaya mempunyai halangan untuk dihapuskan. Kesilapan aritmetik Gemma kekal. Itulah soalan berguna untuk pembangun.

4:28 Kegagalan mana yang diperbaiki oleh suntingan itu, dan adakah model anda sebenarnya memilikinya? Uji pemberat yang disimpan pada tugas anda sendiri sebelum meraikan pengganda itu. Sebuah botol yang diperbaiki boleh menjadi sangat penting manakala botol seterusnya kekal tepat di mana ia berada. Jika anda lebih suka membaca ini daripada mendengar saya mengatakannya, 'diff' akan sampai ke peti masuk anda setiap pagi, percuma di the daily diff dot dev, pautan di bawah.

### Adakah saya akan meluluskan tuntutan penyuntingan berat?

4:47 Jadi, keputusan hari ini ialah PERLU ULASAN. Saya akan mengambil serius pembaikan gelung itu dan mengujinya. Saya akan mengekalkan tuntutan yang lebih luas yang disokong oleh kejayaan melangkaui mod kegagalan itu. Contoh balas pengarang sendiri adalah baris yang paling berguna dalam 'diff' itu. Dan itulah 'diff' untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggungjawab.

## Sumber

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above