GPT-6 Astra menambal pemikiran tanpa akhir AI lain

Isi video ini

• Peningkatan skor Qwen yang dilaporkan berasal dari perbaikan yang ditargetkan untuk penalaran berulang; sekitar sepertiga dari jawaban yang diedit masih mencapai batas panjang dalam protokol utama.
• Pelatihan gradien dilarang, sementara Python, jawaban praktik, dan umpan balik model-run batch diizinkan dalam banyak giliran. Pertanyaan evaluasi akhir dinyatakan disimpan terpisah.
• Eksperimen permainan bobot mentah kecil dan tanpa peluncuran menggunakan kondisi yang berbeda. Klaim mereka harus mempertahankan alat, masukan, dan cakupan dasar masing-masing.
• Matthew Honnibal memuji rekayasa yang dibantu alat dan membantah kesan luas yang dihasilkan dengan menggabungkan eksperimen.
• Tindak lanjut Gemma yang lebih kecil menggunakan pengaturannya sendiri dan gagal membuktikan peningkatan. Uji kegagalan mana yang diperbaiki oleh editan bobot sebelum menerapkannya ke model lain.

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Mengapa skor matematika melonjak?

0:00 AI yang membuat AI lain enam kali lebih pintar terdengar seperti kejeniusan instan. Lompatan skor besar Astra berasal dari membantu Qwen menyelesaikan jawaban yang terus diulangnya. Dalam video ini, apa yang berubah? Bantuan apa yang diterima Astra? Dan seberapa jauh perbaikan ini berfungsi? Qwen naik dari sekitar delapan persen menjadi empat puluh delapan persen. Para peneliti mencoba model kedua dengan hampir tidak ada pengulangan. Kita akan lihat bagaimana hasilnya sebelum putusan.

0:22 Ini Selasa, 3 November, dan ini The Daily Diff. Pemrograman ruang bobot adalah nama para peneliti untuk meminta AI memeriksa atau menulis angka-angka di dalam jaringan saraf. Angka-angka itu adalah bobotnya. Tim berafiliasi MIT ini menggunakan GPT-6 Astra milik OpenAI untuk mengedit model bahasa Qwen kecil, dengan pelatihan biasa dilarang. Rikiya Takehi dan rekan penulisnya menerbitkan studi ini pada hari Senin,

0:44 menanyakan apakah AI yang ada dapat berpikir tentang internal jaringan lain. Hasil utama mereka sangat menarik. Pada matematika lima ratus, Qwen naik dari sekitar delapan persen menjadi empat puluh delapan persen. Hampir enam kali lipat jawaban yang benar. Qwen terus berpikir sampai kehabisan ruang untuk menjawab.

Apa yang salah dilakukan Qwen?

1:00 Dalam mode berpikir, seringkali mengulangi alasannya. Bayangkan seorang siswa mengisi buku ujian dengan pekerjaan sampai bel berbunyi. Penanda masih membutuhkan jawaban. Sebagian besar jawaban asli mencapai batas panjang. Astra menemukan arah pengulangan di dua lapisan internal, kemudian menghapus kontribusinya dari kolom bobot yang dipilih. Setelah editan itu, lebih banyak jawaban mencapai kesimpulan. Sekitar sepertiga masih mencapai batas dalam tes yang dilaporkan.

1:22 Buku ujian akhirnya mendapat baris terakhir. Hari ini, Matthew Honnibal, pencipta spaCy dan salah satu pendiri Explosion,

Apa yang disengketakan kritikus hari ini?

1:28 menantang presentasi tersebut. Dia mengatakan pembaca dapat menggabungkan kondisi eksperimen yang berbeda menjadi kesan satu teknik luar biasa. Keberatannya berkaitan dengan cerita gabungan mereka. Kita bisa memeriksa kondisinya sendiri. Eksperimen Qwen memberi Astra notebook Python atas bobot dan masalah latihan

Bantuan apa yang sebenarnya diterima Astra?

1:44 dengan jawaban. Dalam banyak giliran, ia memeriksa aktivasi internal dan membandingkan versi asli dan yang diedit. Anggaran akhir memungkinkan lima puluh batch model berjalan. Setiap batch generasi dapat berisi ratusan jawaban. Data praktik berasal dari pembagian pelatihan. Para peneliti mengatakan Astra tidak pernah melihat set evaluasi akhir. Umpan balik membantu memilih editan; masalah yang disimpan terpisah mengukurnya setelahnya. Pengaturan pengambilan sampel tetap antara Qwen asli dan yang diedit,

2:09 membuat perbandingan skor protokol ini dapat diinterpretasikan. Prompt pertama memberinya supervisor lab yang membantu. Mendiagnosis kegagalan, menemukan komponen yang bertanggung jawab, membandingkan pada masalah yang sama, dan menguji beberapa kekuatan. Secara eksplisit disebutkan pemikiran berulang sebagai perbaikan yang diperhitungkan. Mahasiswa pascasarjana harus bernegosiasi untuk paket orientasi ini. Itu adalah perbaikan yang mengesankan.

Seberapa kecil perbaikan yang sebenarnya?

2:28 Editan yang ditargetkan Astra menyentuh sekitar seratus tiga puluh satu ribu bobot. Itu sekitar enam belas perseribu persen dari model. File bobot berubah secara langsung. Pelatihan gradien tetap dilarang; model yang ada melakukan penjawaban setelah sesi pengeditan Astra berakhir. Keuntungan juga mencapai mengikuti instruksi. Saya suka implikasi praktisnya. Sebuah model dapat memiliki pekerjaan berguna yang terus terpendam oleh mode kegagalannya.

2:48 Memperbaiki kegagalan itu dapat memulihkan jawaban yang dapat digunakan. Menyelesaikan itu penting. Honnibal memuji pekerjaan yang dibantu alat sebagai melakukan tugas yang bisa dilakukan oleh insinyur pembelajaran mesin manusia. Itu konsekuensial untuk seorang agen. Keluhannya adalah bahwa demonstrasi angka mentah kecil dan perbaikan yang dibantu Python yang lebih besar mengundang kesimpulan yang lebih luas ketika digabungkan. Ambil jaringan game kecil.

Eksperimen mana yang benar-benar tanpa alat?

3:09 Dalam satu eksperimen, Astra membaca angka mentah mereka dan dengan benar mengidentifikasi game apa yang telah dipelajari setiap jaringan. Alat dilarang. Dalam eksperimen lain, ia menulis bobot bermain game baru dari awal menggunakan aturan dan kode sumber, tanpa peluncuran praktik. Itu adalah demonstrasi terpisah dengan bukti terpisah. Jaringan Astra mengalahkan baseline yang dilatih selama seratus juta langkah di ketiga game. Terhadap baseline yang dilatih lebih lama, ia kalah di Seaquest dan

3:32 Asterix, sementara memenangkan Breakout. Ubah kolom perbandingan, dan pidato kemenangan perlu diedit. Untungnya, pengeditan adalah topik hari ini. Untuk klaim yang lebih luas, kita akan menginginkan peningkatan di seluruh model dengan kegagalan yang berbeda.

Apa yang dibutuhkan klaim yang lebih umum?

3:44 Lacak apa yang dilihat editor dan apa yang dianggap sebagai keberhasilan. Kartu model Qwen sudah memperingatkan tentang loop berpikir. Menghilangkan hambatan yang diketahui ini memiliki titik awal tertentu. Yang patut dipuji, para penulis menerbitkan tindak lanjut yang tidak nyaman itu sendiri. Mereka menjelaskan bahwa menghentikan pengulangan memungkinkan Qwen menyelesaikan jawaban yang sudah dapat dikerjakannya. Log mereka menyertakan prompt, umpan balik, dan editan. Kita dapat memeriksa pencapaian tersebut dan mengajukan pertanyaan yang lebih sulit.

Apa yang terjadi pada model yang jarang berulang?

4:06 Sekarang model kedua, Gemma yang lebih kecil dalam pengaturan tindak lanjutnya sendiri. Jarang berulang, sehingga kegagalannya adalah kesalahan aritmatika yang salah dan aljabar yang tidak valid. Astra mencoba editan bobot yang ditargetkan dengan umpan balik praktik lagi. Tidak ada yang menggerakkan skor matematikanya lebih dari sekitar satu poin, dan peningkatan tidak dapat dibuktikan. Perbaikan Qwen yang berhasil memiliki hambatan untuk dihilangkan. Kesalahan aritmatika Gemma tetap ada. Itulah pertanyaan yang berguna bagi pengembang.

4:28 Kegagalan mana yang diperbaiki oleh editan, dan apakah model Anda benar-benar memilikinya? Uji bobot yang disimpan pada tugas Anda sendiri sebelum merayakan pengganda. Kemacetan yang diperbaiki dapat sangat berarti sementara kemacetan berikutnya tetap persis di tempatnya. Jika Anda lebih suka membaca ini daripada mendengarkan saya mengatakannya, 'diff' akan sampai di kotak masuk Anda setiap pagi, gratis di the daily diff dot dev, tautan di bawah.

Apakah saya akan meluncurkan klaim pengeditan bobot?

4:47 Jadi, putusan hari ini adalah NEEDS REVIEW. Saya akan menganggap serius perbaikan pengulangan dan mengujinya. Saya akan menjaga klaim yang lebih luas terbatas pada keberhasilan di luar mode kegagalan itu. Contoh tandingan para penulis sendiri adalah baris paling berguna dalam 'diff'. Dan itulah 'diff' untuk hari ini. Saya Niko dari Axrisi. Gabungkan secara bertanggung jawab.

Sumber

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above