GPT-6 Astra បានកែច្នៃការគិតគ្មានទីបញ្ចប់របស់ AI មួយទៀត

អ្វីដែលវីដេអូនេះគ្របដណ្ដប់

• ការកើនឡើងពិន្ទុ Qwen ដែលបានរាយការណ៍បានមកពីការជួសជុលដែលមានគោលដៅចំពោះការគិតឡើងវិញម្តងហើយម្តងទៀត; ប្រហែលមួយភាគបីនៃចម្លើយដែលបានកែសម្រួលនៅតែឈានដល់ដែនកំណត់ប្រវែងនៅក្នុងពិធីសារចម្បង។
• ការបណ្តុះបណ្តាល Gradient ត្រូវបានហាមឃាត់ ចំណែកឯ Python ចម្លើយអនុវត្ត និងមតិកែលម្អការដំណើរការម៉ូដែលជាបាច់ត្រូវបានអនុញ្ញាតពេញវេនជាច្រើន។ សំណួរវាយតម្លៃចុងក្រោយត្រូវបានប្រកាសថាត្រូវបានរក្សាទុកដោយប្រភព។
• ការពិសោធន៍ហ្គេមទម្ងន់ឆៅតូច និងគ្មានការដាក់ឱ្យប្រើប្រាស់បានប្រើប្រាស់លក្ខខណ្ឌផ្សេងៗគ្នា។ ការអះអាងរបស់ពួកគេគួរតែរក្សាវិសាលភាពឧបករណ៍ បញ្ចូល និងមូលដ្ឋានគ្រឹះរៀងៗខ្លួន។
• Matthew Honnibal ផ្តល់កិត្តិយសដល់វិស្វកម្មដែលជួយដោយឧបករណ៍ ហើយជំទាស់នឹងចំណាប់អារម្មណ៍ទូលំទូលាយដែលបង្កើតឡើងដោយការបូកបញ្ចូលការពិសោធន៍។
• ការតាមដាន Gemma តូចជាងបានប្រើការរៀបចំផ្ទាល់ខ្លួនរបស់វា ហើយបរាជ័យក្នុងការបង្កើតភាពប្រសើរឡើង។ សាកល្បងថាការបរាជ័យណាដែលការកែសម្រួលទម្ងន់ជួសជុលមុនពេលអនុវត្តវាទៅម៉ូដែលផ្សេងទៀត។

កំណត់ត្រាដែលបានបកប្រែ

បកប្រែចេញពីការនិទានដើមជាភាសាអង់គ្លេស។ សំឡេង និងចំណងជើងរងដែលមានគឺស្ថិតនៅក្រោមការគ្រប់គ្រងរបស់ YouTube។

ហេតុអ្វីបានជាពិន្ទុគណិតវិទ្យាកើនឡើង?

0:00 AI មួយដែលបង្កើត AI មួយទៀតឱ្យឆ្លាតជាងប្រាំមួយដង ស្តាប់ទៅដូចជា ភាពប៉ិនប្រសប់ភ្លាមៗ។ ការលោតពិន្ទុដ៏ធំរបស់ Astra បានមកពីការជួយ Qwen បញ្ចប់ចម្លើយដែលវាបន្ត ធ្វើម្តងទៀត។ នៅក្នុងវីដេអូនេះ តើមានអ្វីផ្លាស់ប្តូរ? តើ Astra ទទួលបានជំនួយអ្វីខ្លះ? ហើយតើការជួសជុលនេះទៅបានឆ្ងាយប៉ុណ្ណា? Qwen បានកើនឡើងពីប្រហែលប្រាំបីភាគរយ ទៅសែសិបប្រាំបីភាគរយ។ អ្នកស្រាវជ្រាវបានសាកល្បងម៉ូដែលទីពីរដែលមានរង្វិលជុំស្ទើរតែគ្មាន។ យើងនឹងមើលថាតើវាទៅជាយ៉ាងណាមុនពេលសាលក្រម។

0:22 វាជាថ្ងៃអង្គារ ទីបី ខែវិច្ឆិកា ហើយនេះគឺជា The Daily Diff។ ការសរសេរកម្មវិធីក្នុងចន្លោះទម្ងន់គឺជាឈ្មោះរបស់អ្នកស្រាវជ្រាវ សម្រាប់ការសុំ AI ឱ្យពិនិត្យមើល ឬ សរសេរលេខនៅក្នុងបណ្តាញសរសៃប្រសាទ។ លេខទាំងនោះគឺជាទម្ងន់របស់វា។ ក្រុមដែលពាក់ព័ន្ធនឹង MIT នេះបានប្រើប្រាស់ GPT six Astra របស់ OpenAI ដើម្បីកែសម្រួលម៉ូដែលភាសា Qwen ដ៏តូចមួយ ជាមួយនឹងការហាមឃាត់ការបណ្តុះបណ្តាលធម្មតា។ Rikiya Takehi និងសហអ្នកនិពន្ធរបស់គាត់បានបោះពុម្ពផ្សាយការសិក្សានេះនៅថ្ងៃច័ន្ទ

0:44 ដោយសួរថាតើ AI ដែលមានស្រាប់អាចគិតអំពីផ្នែកខាងក្នុងនៃបណ្តាញផ្សេងទៀតបានដែរឬទេ។ លទ្ធផលចំណងជើងរបស់ពួកគេងាយស្រួលចុចណាស់។ នៅលើគណិតវិទ្យាប្រាំរយ Qwen បានកើនឡើងពីប្រហែលប្រាំបីភាគរយ ទៅសែសិបប្រាំបីភាគរយ។ ស្ទើរតែប្រាំមួយដងនៃចម្លើយត្រឹមត្រូវ។ Qwen បន្តគិតរហូតទាល់តែអស់កន្លែងសម្រាប់ឆ្លើយ។

តើ Qwen ធ្វើអ្វីខុស?

1:00 នៅក្នុងរបៀបគិត វាច្រើនតែធ្វើការគិតរបស់វាឡើងវិញ។ ស្រមៃមើលសិស្សម្នាក់បំពេញសៀវភៅកត់ត្រាប្រឡងជាមួយនឹងការងាររហូតដល់កណ្តឹងបន្លឺឡើង។ អ្នកកែប្រែនៅតែត្រូវការចម្លើយ។ ចម្លើយដើមភាគច្រើនបានឈានដល់ដែនកំណត់ប្រវែង។ Astra បានកំណត់ទិសដៅនៃការធ្វើម្តងទៀតនៅក្នុងស្រទាប់ខាងក្នុងពីរ បន្ទាប់មកបានដកការរួមចំណែករបស់វាចេញពីជួរឈរទម្ងន់ដែលបានជ្រើសរើស។ បន្ទាប់ពីការកែសម្រួលនោះ ចម្លើយកាន់តែច្រើនបានឈានដល់ការសន្និដ្ឋាន។ ប្រហែលមួយភាគបីនៅតែឈានដល់ដែនកំណត់នៅក្នុងការធ្វើតេស្តដែលបានរាយការណ៍។

1:22 សៀវភៅកត់ត្រាប្រឡងទីបំផុតបានទទួលបន្ទាត់ចុងក្រោយ។ ថ្ងៃនេះ Matthew Honnibal អ្នកបង្កើត spaCy និងសហស្ថាបនិក Explosion

តើអ្នករិះគន់ថ្ងៃនេះជំទាស់អ្វីខ្លះ?

1:28 បានជំទាស់នឹងការបង្ហាញ។ គាត់និយាយថាអ្នកអានអាចបញ្ចូលលក្ខខណ្ឌផ្សេងៗគ្នានៃការពិសោធន៍ទៅក្នុង ចំណាប់អារម្មណ៍នៃបច្ចេកទេសដ៏អស្ចារ្យមួយ។ ការជំទាស់របស់គាត់ទាក់ទងនឹងរឿងរួមបញ្ចូលគ្នារបស់ពួកគេ។ យើងអាចពិនិត្យមើលលក្ខខណ្ឌដោយខ្លួនឯង។ ការពិសោធន៍ Qwen បានផ្តល់ឱ្យ Astra នូវ Python notebook លើទម្ងន់ និងបញ្ហាអនុវត្ត

តើ Astra ទទួលបានជំនួយអ្វីខ្លះ?

1:44 ជាមួយនឹងចម្លើយ។ ពេញវេនជាច្រើន វាបានពិនិត្យមើលការធ្វើឱ្យសកម្មខាងក្នុង និងប្រៀបធៀបកំណែដើម និង ដែលបានកែសម្រួល។ ថវិកាចុងក្រោយបានអនុញ្ញាតឱ្យដំណើរការម៉ូដែលហាសិបបាច់។ បាច់ជំនាន់នីមួយៗអាចមានចម្លើយរាប់រយ។ ទិន្នន័យអនុវត្តបានមកពីការបំបែកការបណ្តុះបណ្តាល។ អ្នកស្រាវជ្រាវនិយាយថា Astra មិនដែលបានឃើញសំណុំវាយតម្លៃចុងក្រោយនោះទេ។ មតិកែលម្អបានជួយជ្រើសរើសការកែសម្រួល; បញ្ហាដែលបានរក្សាទុកបានវាស់វែងវាជាបន្តបន្ទាប់។ ការកំណត់ការយកគំរូនៅតែត្រូវបានជួសជុលរវាង Qwen ដើម និងដែលបានកែសម្រួល

2:09 ធ្វើឱ្យការប្រៀបធៀបពិន្ទុនៃពិធីសារនេះអាចបកស្រាយបាន។ ការសួរនាំដំបូងបានផ្តល់ឱ្យវាជាអ្នកត្រួតពិនិត្យមន្ទីរពិសោធន៍ដែលមានប្រយោជន៍។ វិនិច្ឆ័យការបរាជ័យ ស្វែងរកសមាសធាតុដែលទទួលខុសត្រូវ ប្រៀបធៀបលើបញ្ហាដូចគ្នា និងសាកល្បងកម្លាំងជាច្រើន។ វាបានលើកឡើងយ៉ាងច្បាស់អំពីការគិតម្តងហើយម្តងទៀតថាជាការជួសជុលដែលរាប់។ និស្សិតបញ្ចប់ការសិក្សាគួរតែចរចាសម្រាប់កញ្ចប់ចាប់ផ្តើមនេះ។ នោះគឺជាការជួសជុលដ៏គួរឱ្យចាប់អារម្មណ៍។

តើការជួសជុលពិតប្រាកដមានទំហំប៉ុនណា?

2:28 ការកែសម្រួលដែលមានគោលដៅរបស់ Astra បានប៉ះទម្ងន់ប្រហែលមួយរយសាមសិបមួយពាន់។ នោះគឺប្រហែលដប់ប្រាំមួយពាន់នៃមួយភាគរយនៃម៉ូដែល។ ឯកសារទម្ងន់បានផ្លាស់ប្តូរដោយផ្ទាល់។ ការបណ្តុះបណ្តាល Gradient នៅតែត្រូវបានហាមឃាត់; ម៉ូដែលដែលមានស្រាប់បានធ្វើការឆ្លើយតបបន្ទាប់ពី វគ្គកែសម្រួលរបស់ Astra បានបញ្ចប់។ ការកើនឡើងក៏បានឈានដល់ការអនុវត្តតាមការណែនាំផងដែរ។ ខ្ញុំចូលចិត្តអត្ថន័យជាក់ស្តែង។ ម៉ូដែលមួយអាចមានការងារដែលមានប្រយោជន៍ដែលរបៀបបរាជ័យរបស់វាបន្តលាក់បាំង។

2:48 ការជួសជុលការបរាជ័យនោះអាចស្តារចម្លើយដែលអាចប្រើបាន។ ការបញ្ចប់មានសារៈសំខាន់។ Honnibal ផ្តល់កិត្តិយសដល់ការងារដែលជួយដោយឧបករណ៍ថាបានអនុវត្ត កិច្ចការដែលវិស្វកររៀនម៉ាស៊ីនមនុស្សអាចធ្វើបាន។ នោះមានសារៈសំខាន់សម្រាប់ភ្នាក់ងារ។ ការត្អូញត្អែររបស់គាត់គឺថាការបង្ហាញលេខឆៅតូច និងការជួសជុលដែលជួយដោយ Python ធំជាង អញ្ជើញការសន្និដ្ឋានទូលំទូលាយនៅពេលដែលបានរួមបញ្ចូលគ្នា។ យកបណ្តាញហ្គេមតូចៗ។

តើការពិសោធន៍ណាខ្លះដែលពិតជាគ្មានឧបករណ៍?

3:09 នៅក្នុងការពិសោធន៍មួយ Astra បានអានលេខឆៅរបស់ពួកគេ ហើយបានកំណត់អត្តសញ្ញាណត្រឹមត្រូវថា ហ្គេមណាដែលបណ្តាញនីមួយៗបានរៀន។ ឧបករណ៍ត្រូវបានហាមឃាត់។ នៅក្នុងមួយទៀត វាបានសរសេរទម្ងន់លេងហ្គេមថ្មីពីដំបូងដោយប្រើច្បាប់ និង កូដប្រភព ដោយគ្មានការដាក់ឱ្យប្រើប្រាស់ការអនុវត្ត។ ទាំងនោះគឺជាការបង្ហាញដាច់ដោយឡែកជាមួយនឹងភស្តុតាងដាច់ដោយឡែក។ បណ្តាញរបស់ Astra បានយកឈ្នះលើមូលដ្ឋានគ្រឹះដែលបានបណ្តុះបណ្តាលសម្រាប់មួយរយលានជំហាននៅក្នុង ហ្គេមទាំងបី។ ប្រឆាំងនឹងមូលដ្ឋានគ្រឹះដែលបានបណ្តុះបណ្តាលយូរជាងនេះ វាបានចាញ់នៅក្នុង Seaquest និង

3:32 Asterix ខណៈពេលដែលឈ្នះ Breakout។ ផ្លាស់ប្តូរជួរឈរប្រៀបធៀប ហើយសុន្ទរកថាជ័យជម្នះត្រូវការការកែសម្រួល។ ជាការងាយស្រួល ការកែសម្រួលគឺជាប្រធានបទថ្ងៃនេះ។ សម្រាប់ការអះអាងទូលំទូលាយជាងនេះ យើងនឹងចង់បានភាពប្រសើរឡើងលើម៉ូដែលដែលមានការបរាជ័យផ្សេងៗគ្នា។

តើការអះអាងទូទៅជាងនេះត្រូវការអ្វីខ្លះ?

3:44 តាមដានអ្វីដែលអ្នកកែសម្រួលបានឃើញ និងអ្វីដែលបានរាប់ថាជាជោគជ័យ។ កាតម៉ូដែល Qwen បានព្រមានរួចហើយអំពីការគិតវិលជុំ។ ការដកចេញនូវឧបសគ្គដែលគេស្គាល់នេះមានចំណុចចាប់ផ្តើមជាក់លាក់មួយ។ ដោយការទទួលស្គាល់របស់ពួកគេ អ្នកនិពន្ធបានបោះពុម្ពផ្សាយការតាមដានដែលមិនស្រួលដោយខ្លួនឯង។ ពួកគេពន្យល់ថាការបញ្ឈប់រង្វិលជុំអនុញ្ញាតឱ្យ Qwen បញ្ចប់ចម្លើយដែលវាអាចធ្វើការ បានរួចហើយ។ កំណត់ហេតុរបស់ពួកគេរួមមានការសួរនាំ មតិកែលម្អ និងការកែសម្រួល។ យើងអាចពិនិត្យមើលសមិទ្ធិផលនេះ ហើយសួរសំណួរដែលពិបាកជាងនេះ។

តើមានអ្វីកើតឡើងចំពោះម៉ូដែលដែលកម្រនឹងវិលជុំ?

4:06 ឥឡូវនេះម៉ូដែលទីពីរ Gemma តូចជាងនៅក្នុងការរៀបចំតាមដានផ្ទាល់ខ្លួនរបស់វា។ វាកម្រនឹងវិលជុំ ដូច្នេះការបរាជ័យរបស់វាគឺជាការគណនាខុសធម្មតា និងពិជគណិតមិនត្រឹមត្រូវ។ Astra បានព្យាយាមកែសម្រួលទម្ងន់ដែលមានគោលដៅជាមួយនឹងមតិកែលម្អការអនុវត្តម្តងទៀត។ គ្មានមួយណាបានផ្លាស់ប្តូរពិន្ទុគណិតវិទ្យារបស់វាលើសពីប្រហែលមួយពិន្ទុឡើយ ហើយការកើនឡើងមិនត្រូវបានបង្កើតឡើងទេ។ ការជួសជុល Qwen ដែលទទួលបានជោគជ័យមានឧបសគ្គដែលត្រូវដកចេញ។ កំហុសគណិតវិទ្យារបស់ Gemma បានរស់រានមានជីវិត។ នោះគឺជាសំណួរដែលមានប្រយោជន៍សម្រាប់អ្នកអភិវឌ្ឍន៍។

4:28 តើការកែសម្រួលនេះបានជួសជុលការបរាជ័យអ្វីខ្លះ ហើយតើម៉ូដែលរបស់អ្នកពិតជាមានវាដែរឬទេ? សាកល្បងទម្ងន់ដែលបានរក្សាទុកលើកិច្ចការផ្ទាល់ខ្លួនរបស់អ្នកមុនពេលអបអរសាទរគុណនឹង។ កញ្ចក់បំពង់កដែលបានជួសជុលអាចមានសារៈសំខាន់យ៉ាងខ្លាំងខណៈដែលកញ្ចក់បំពង់កបន្ទាប់នៅតែមាន នៅកន្លែងដដែល។ ប្រសិនបើអ្នកចង់អាននេះជាជាងស្តាប់ខ្ញុំនិយាយ វាខុសគ្នាត្រូវបានផ្ញើទៅប្រអប់សំបុត្ររបស់អ្នក ជារៀងរាល់ព្រឹក ឥតគិតថ្លៃនៅ the daily diff dot dev, តំណភ្ជាប់ខាងក្រោម។

តើខ្ញុំនឹងអនុវត្តការអះអាងការកែសម្រួលទម្ងន់ដែរឬទេ?

4:47 ដូច្នេះ សាលក្រមថ្ងៃនេះគឺ NEEDS REVIEW។ ខ្ញុំនឹងយកការជួសជុលរង្វិលជុំនេះយ៉ាងធ្ងន់ធ្ងរ ហើយសាកល្បងវា។ ខ្ញុំនឹងរក្សាការអះអាងទូលំទូលាយជាងនេះដែលបានកំណត់លើភាពជោគជ័យលើសពីរបៀបបរាជ័យនោះ។ ឧទាហរណ៍ប្រឆាំងរបស់ខ្លួនអ្នកនិពន្ធគឺជាបន្ទាត់ដែលមានប្រយោជន៍បំផុតនៅក្នុងភាពខុសគ្នា។ ហើយនោះគឺជាភាពខុសគ្នាសម្រាប់ថ្ងៃនេះ។ ខ្ញុំ Niko មកពី Axrisi។ បញ្ចូលគ្នាដោយការទទួលខុសត្រូវ។

ប្រភព

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above