GPT-6 Astra boshqa AIning cheksiz fikrlashini yamadi

Bu video nimani qamrab oladi

• Qwen ko'rsatkichining qayd etilgan o'sishi takrorlanuvchi fikr yuritishni maqsadli ta'mirlashdan kelib chiqdi; tahrirlangan javoblarning uchdan bir qismi asosiy protokolda uzunlik chegarasiga yetdi.
• Gradientli o'qitish taqiqlangan, ammo Python, amaliyot javoblari va bir nechta o'zgarishlar davomida to'plangan modelni ishga tushirish bo'yicha fikr-mulohazalar ruxsat etilgan. Yakuniy baholash savollari manba tomonidan chetga olingan deb e'lon qilindi.
• Kichik xom vazn va ishga tushirishsiz o'yin tajribalari turli sharoitlarda o'tkazildi. Ularning da'volari o'zlarining individual vositalari, kiritishlari va bazaviy doiralarini saqlab qolishi kerak.
• Matthew Honnibal asboblar yordamida amalga oshirilgan muhandislik ishlarini qadrlaydi va tajribalarni birlashtirish orqali paydo bo'lgan kengroq taassurotga e'tiroz bildiradi.
• Kichikroq Gemma kuzatuvi o'z sozlamalaridan foydalangan va yaxshilanishni aniqlay olmadi. Boshqa modelga qo'llashdan oldin vazn tahriri qaysi nosozlikni tuzatayotganini tekshiring.

Tarjima qilingan transkript

Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.

Matematika balli nima uchun sakradi?

0:00 Boshqa bir AIning olti barobar aqlliroq bo'lishiga yordam beruvchi AI darhol daho kabi eshitiladi. Astraning katta balli sakrashi Qwenga takrorlab turgan javoblarni yakunlashga yordam berishdan kelib chiqdi, bu videoda nima o'zgardi? Astra qanday yordam oldi? Va tuzatish qanchalik uzoqqa tarqaladi? Qwen sakkiz foizdan qirq sakkiz foizga o'sdi. Tadqiqotchilar deyarli tsikllarsiz ikkinchi modelni sinab ko'rishdi. Hukmga qadar qanday o'tganini ko'ramiz.

0:22 Bugun seshanba, 3-noyabr va bu The Daily Diff. Vazn-fazo dasturlash - bu tadqiqotchilarning nomi AIdan neyron tarmoq ichidagi raqamlarni tekshirishni yoki yozishni so'rash uchun. Bu raqamlar uning vaznlari. Bu MITga tegishli jamoa kichik Qwen til modelini tahrirlash uchun OpenAI ning GPT-6 Astra'dan foydalangan, odatiy o'qitish taqiqlangan edi. Odatiy o'qitish taqiqlangan edi. Rikiya Takehi va uning hammualliflari dushanba kuni tadqiqotni nashr etishdi,

0:44 mavjud AI boshqa tarmoqning ichki qismlari haqida fikr yuritishi mumkinmi deb so'rashdi. Ularning asosiy natijasi juda jozibador. Matematika 500da, Qwen taxminan sakkiz foizdan qirq sakkiz foizga ko'tarildi. Deyarli olti barobar ko'proq to'g'ri javoblar. Qwen javob berish uchun joy tugagunicha fikr yuritishda davom etdi.

Qwen nima noto'g'ri qilardi?

1:00 Fikr yuritish rejimida u tez-tez o'z fikrlarini takrorlardi. Imtihon daftarini qo'ng'iroq chalinmaguncha ish bilan to'ldirayotgan talabani tasavvur qiling. Belgi qo'yuvchiga hali ham javob kerak. Ko'pgina asl javoblar uzunlik chegarasiga yetdi. Astra ikkita ichki qatlamda takrorlash yo'nalishini topdi, so'ngra uning hissasini tanlangan vazn ustunlaridan olib tashladi. Bu tahrirdan so'ng, ko'proq javoblar xulosaga yetdi. Hisobot qilingan testda taxminan uchdan biri hali ham chegaraga yetdi.

1:22 Imtihon daftariga nihoyat oxirgi qator yozildi. Bugun, spaCy ning yaratuvchisi va Explosion asoschilaridan biri Matthew Honnibal

Bugungi tanqidchi nimaga e'tiroz bildirmoqda?

1:28 taqdimotga e'tiroz bildirdi. Uning so'zlariga ko'ra, o'quvchilar tajribalarning turli shartlarini birlashtirib, bitta g'ayrioddiy texnika haqida taassurot hosil qilishlari mumkin. Uning e'tirozi ularning umumiy hikoyasiga tegishli. Shartlarni o'zimiz tekshirishimiz mumkin. Qwen tajribasi Astraga vaznlar va amaliyot muammolari ustida Python daftarini

Astra aslida qanday yordam oldi?

1:44 javoblar bilan ta'minladi. Ko'p burilishlar davomida u ichki aktivatsiyalarni tekshirdi va asl va tahrirlangan versiyalarni solishtirdi. Yakuniy byudjet ellik partiya model ishlarini ruxsat etdi. Har bir avlod partiyasi yuzlab javoblarni o'z ichiga olishi mumkin edi. Amaliyot ma'lumotlari o'qitish bo'linmalaridan keldi. Tadqiqotchilarning aytishicha, Astra yakuniy baholash to'plamlarini hech qachon ko'rmagan. Fikr-mulohazalar tahrirni tanlashga yordam berdi; keyinroq chetda qolgan muammolar uni o'lchadi. Namuna olish sozlamalari asl va tahrirlangan Qwen o'rtasida o'zgarmadi,

2:09 bu protokolning ballarini solishtirishni tushunarli qildi. Birinchi so'rov unga yordamchi laboratoriya nazoratchisini berdi. Nosozliklarni tashxislash, mas'ul komponentlarni topish, bir xil muammolarni solishtirish va bir nechta kuchlarni sinash. U takrorlanuvchi fikr yuritishni hisobga olinadigan ta'mirlash sifatida aniq ta'kidladi. Aspirantlar bu ishga qabul qilish paketini muzokara qilishlari kerak. Bu ta'sirchan ta'mirlash.

Haqiqiy ta'mirlash qanchalik kichik edi?

2:28 Astraning maqsadli tahriri taxminan yuz o'ttiz bir ming vaznga tegdi. Bu modelning o'n olti mingdan bir foizi degani. Vazn fayli to'g'ridan-to'g'ri o'zgardi. Gradientli o'qitish taqiqlangan bo'lib qoldi; Astra tahrirlash sessiyasi tugaganidan so'ng mavjud model javob berdi. Astra tahrirlash sessiyasi tugaganidan so'ng mavjud model javob berdi. Yutuq ko'rsatmalarga rioya qilishga ham yetib bordi. Menga amaliy natija yoqadi. Model o'zining nosozlik rejimi tufayli ko'mib tashlanadigan foydali ishga ega bo'lishi mumkin.

2:48 Bu nosozlikni tuzatish yaroqli javoblarni tiklashi mumkin. Yakunlash muhim. Honnibal asboblar yordamida bajarilgan ishni inson mashina o'rganish muhandisi bajara oladigan vazifalarni bajarish sifatida baholaydi. Asboblar yordamida bajarilgan ishni inson mashina o'rganish muhandisi bajara oladigan vazifalarni bajarish sifatida baholaydi. Bu agent uchun muhim. Uning shikoyati shundaki, kichik xom raqamli namoyishlar va kattaroq Python yordamida ta'mirlashlar birgalikda birlashtirilganda kengroq xulosaga olib keladi. Kichkina o'yin tarmoqlarini oling.

Qaysi tajribalarda haqiqatan ham hech qanday asboblar yo'q edi?

3:09 Bir tajribada Astra ularning xom raqamlarini o'qidi va har bir tarmoq qaysi o'yinni o'rganganligini to'g'ri aniqladi. har bir tarmoq qaysi o'yinni o'rganganligini to'g'ri aniqladi. Asboblar taqiqlangan edi. Boshqasida, u qoidalar va manba kodidan foydalanib, yangi o'yin o'ynaydigan vaznlarni noldan yozdi, amaliyot rolloutlari yo'q edi. manba kodidan foydalanib, amaliyot rolloutlarisiz yangi o'yin vaznlarini yozdi. Bular alohida dalillarga ega bo'lgan alohida namoyishlar. Astraning tarmoqlari barcha uchta o'yinda yuz million qadam o'qitilgan bazaviy modelni mag'lub etdi. Uzoqroq o'qitilgan bazaviy modelga qarshi, u Seaquest va Asterixda yutqazdi,

3:32 Breakoutda g'alaba qozongan holda. Taqqoslash ustunini o'zgartiring va g'alaba nutqi tahrirlashga muhtoj bo'ladi. Qulaylik bilan, tahrirlash bugungi mavzu. Kengroq da'vo uchun biz turli nosozliklarga ega bo'lgan modellar bo'yicha yaxshilanishlarni xohlaymiz.

Kengroq da'vo uchun nima kerak bo'lar edi?

3:44 Tahrirchi nimani ko'rganini va nima muvaffaqiyat deb hisoblanganligini kuzatib boring. Qwenning model kartasi allaqachon fikrlash tsikllari haqida ogohlantiradi. Bu ma'lum to'siqni olib tashlashning o'ziga xos boshlang'ich nuqtasi bor. Ularning hurmati uchun mualliflar noqulay keyingi kuzatuvni o'zlari nashr etishadi. Ular tsikllarni to'xtatish Qwenga allaqachon ishlab chiqa oladigan javoblarni yakunlashga imkon berishini tushuntirishadi. Ularning jurnallari so'rovlar, fikr-mulohazalar va tahrirlarni o'z ichiga oladi. Biz yutuqni ko'rib chiqishimiz va qiyinroq savol berishimiz mumkin.

Kamdan-kam hollarda aylanib yuradigan modelga nima bo'ldi?

4:06 Endi ikkinchi model, o'zining keyingi sozlamalaridagi kichikroq Gemma. U kamdan-kam hollarda tsikllarga tushdi, shuning uchun uning nosozliklari odatiy noto'g'ri arifmetika va noto'g'ri algebra edi. Astra amaliyot bo'yicha fikr-mulohazalar bilan maqsadli vazn tahrirlarini qayta sinab ko'rdi. Hech biri uning matematika ballini taxminan bir balldan ko'proq o'zgartirmadi, va yutuq tasdiqlanmadi. Muvaffaqiyatli Qwen ta'mirlashda olib tashlash kerak bo'lgan to'siq bor edi. Gemmaning arifmetik xatolari saqlanib qoldi. Bu dasturchilar uchun foydali savol.

4:28 Tahrir qaysi nosozlikni tuzatdi va sizning modelingizda u haqiqatan ham bormi? Ko'paytiruvchini nishonlashdan oldin saqlangan vaznlarni o'z vazifalaringizda sinab ko'ring. Ta'mirlangan tor joy juda muhim bo'lishi mumkin, keyingi tor joy esa aynan joyida qoladi. Agar buni eshitishdan ko'ra o'qishni afzal ko'rsangiz, diff har kuni ertalab sizning elektron pochtangizga keladi, daily diff dot dev saytida bepul, havolasi pastda.

Men vazn tahrirlash da'vosini jo'natgan bo'lar edimmi?

4:47 Shunday qilib, bugungi hukm NEEDS REVIEW. Men tsikl ta'mirlashni jiddiy qabul qilaman va uni sinab ko'raman. Kengroq da'volarni ushbu nosozlik rejimdan tashqari muvaffaqiyatga bog'langan holda saqlayman. Mualliflarning o'zlarining qarshi misoli diffdagi eng foydali qator hisoblanadi. Va bugungi diff shu. Men Axrisi'dan Nikoman. Mas'uliyat bilan birlashtiring.

Manbalar

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above