GPT-6 அஸ்ட்ரா மற்றொரு AI-யின் முடிவற்ற சிந்தனையை சரிசெய்தது

இந்த வீடியோ எதைப் பற்றி விவாதிக்கிறது

• அறிவிக்கப்பட்ட Qwen மதிப்பெண் அதிகரிப்பு திரும்பத்திரும்பும் சிந்தனைக்கான ஒரு இலக்கிடப்பட்ட பழுதுபார்ப்பிலிருந்து வந்தது; திருத்தப்பட்ட பதில்களில் மூன்றில் ஒரு பங்கு முதன்மை நெறிமுறையில் நீள வரம்பை அடைந்தன.
• கிரேடியன்ட் பயிற்சி தடைசெய்யப்பட்டது, அதே நேரத்தில் பைதான், பயிற்சி பதில்கள் மற்றும் பல முறை தொகுதி மாதிரி-இயக்க பின்னூட்டம் அனுமதிக்கப்பட்டது. இறுதி மதிப்பீட்டு கேள்விகள் மூலத்தால் ஒதுக்கி வைக்கப்பட்டுள்ளதாக அறிவிக்கப்பட்டது.
• சிறிய மூல-எடை மற்றும் வெளியீடு இல்லாத விளையாட்டு சோதனைகள் வெவ்வேறு நிபந்தனைகளைப் பயன்படுத்தின. அவற்றின் கூற்றுக்கள் அவற்றின் தனிப்பட்ட கருவி, உள்ளீடு மற்றும் அடிப்படை நோக்கத்தைத் தக்கவைத்துக்கொள்ள வேண்டும்.
• மேத்யூ ஹோனிபால், கருவி-உதவிய பொறியியலுக்குக் கடன் கொடுக்கிறார் மற்றும் சோதனைகளை தொகுப்பதன் மூலம் உருவான பரந்த கருத்தை மறுக்கிறார்.
• சிறிய ஜெம்மா பின்தொடர்தல் அதன் சொந்த அமைப்பைப் பயன்படுத்தியது மற்றும் ஒரு மேம்பாட்டை நிறுவத் தவறிவிட்டது. ஒரு எடை திருத்தம் என்ன தோல்வியை சரிசெய்கிறது என்பதை மற்றொரு மாடலுக்குப் பயன்படுத்துவதற்கு முன்பு சோதிக்கவும்.

மொழிபெயர்க்கப்பட்ட டிரான்ஸ்கிரிப்ட்

அசல் ஆங்கில விளக்கத்திலிருந்து மொழிபெயர்க்கப்பட்டது. கிடைக்கும் ஆடியோ மற்றும் தலைப்புகள் YouTube ஆல் கட்டுப்படுத்தப்படுகின்றன.

கணித மதிப்பெண் ஏன் உயர்ந்தது?

0:00 ஒரு AI மற்ற AI-ஐ ஆறு மடங்கு புத்திசாலித்தனமாக்குவது உடனடி மேதை போல் தோன்றுகிறது. அஸ்ட்ராவின் பெரிய மதிப்பெண் உயர்வு Qwen மீண்டும் மீண்டும் செய்துவந்த பதில்களை முடிக்க உதவியதிலிருந்து வந்தது. இந்த வீடியோவில், என்ன மாறியது? அஸ்ட்ராவுக்கு என்ன உதவி கிடைத்தது? மற்றும் அந்த திருத்தம் எவ்வளவு தூரம் செல்கிறது? Qwen சுமார் எட்டு சதவீதத்திலிருந்து நாற்பத்தெட்டு சதவீதமாக உயர்ந்தது. ஆராய்ச்சியாளர்கள் கிட்டத்தட்ட சுழற்சி இல்லாத இரண்டாவது மாதிரியை முயற்சித்தனர். தீர்ப்பு வருவதற்கு முன் அது எப்படி நடந்தது என்று பார்ப்போம்.

0:22 இன்று நவம்பர் மூன்றாம் தேதி செவ்வாய்க்கிழமை, இது The Daily Diff. எடை-வெளி நிரலாக்கம் என்பது ஆராய்ச்சியாளர்களின் பெயர் ஒரு AI-ஐ ஒரு நரம்பியல் வலையமைப்பிற்குள் இருக்கும் எண்களைப் பரிசோதிக்க அல்லது எழுதச் சொல்வது. அந்த எண்கள் அதன் எடைகள். இந்த MIT-அங்கீகரிக்கப்பட்ட குழு OpenAI-யின் GPT ஆறு அஸ்ட்ராவைப் பயன்படுத்தி ஒரு சிறிய Qwen மொழி மாதிரியைத் திருத்தியது, வழக்கமான பயிற்சி தடைசெய்யப்பட்டது. ரிகிடா டகேஹி மற்றும் அவரது இணை ஆசிரியர்கள் திங்கட்கிழமை ஆய்வை வெளியிட்டனர்,

0:44 ஒரு இருக்கும் AI மற்றொரு நெட்வொர்க்கின் உட்புறங்களைப் பற்றி சிந்திக்க முடியுமா என்று கேட்டனர். அவர்களின் தலைப்பு முடிவு மிகவும் கிளிக் செய்யக்கூடியது. கணிதம் ஐநூறில், Qwen சுமார் எட்டு சதவீதத்திலிருந்து நாற்பத்தெட்டு சதவீதமாக உயர்ந்தது. சரியான பதில்களில் கிட்டத்தட்ட ஆறு மடங்கு அதிகரிப்பு. Qwen பதிலளிக்க இடம் தீரும் வரை தொடர்ந்து சிந்தித்துக்கொண்டிருந்தது.

Qwen எதைச் செய்யத் தவறிவிட்டது?

1:00 சிந்தனை முறையில், அது பெரும்பாலும் அதன் சிந்தனையை மீண்டும் செய்தது. மணி அடிக்கும் வரை தேர்வுப் புத்தகத்தை வேலை செய்து நிரப்பும் ஒரு மாணவரை கற்பனை செய்து பாருங்கள். மதிப்பெண் போடுபவருக்கு இன்னும் ஒரு பதில் தேவை. அசல் பதில்களில் பெரும்பாலானவை நீள வரம்பை அடைந்தன. அஸ்ட்ரா இரண்டு உள் அடுக்குகளில் ஒரு மறுபடியும் திசையைக் கண்டறிந்தது, பின்னர் தேர்ந்தெடுக்கப்பட்ட எடை நெடுவரிசைகளில் இருந்து அதன் பங்களிப்பை நீக்கியது. அந்த திருத்தத்திற்குப் பிறகு, அதிகமான பதில்கள் ஒரு முடிவை அடைந்தன. அறிவிக்கப்பட்ட சோதனையில் சுமார் மூன்றில் ஒரு பங்கு இன்னும் வரம்பை அடைந்தன.

1:22 தேர்வுப் புத்தகம் இறுதியாக ஒரு இறுதி வரியைப் பெற்றது. இன்று, மேத்யூ ஹோனிபால், spaCy இன் உருவாக்கியவர் மற்றும் Explosion இன் இணை நிறுவனர்,

இன்றைய விமர்சகர் எதை மறுக்கிறார்?

1:28 வழங்கப்பட்ட முறையை சவால் செய்தார். சோதனைகளின் வெவ்வேறு நிபந்தனைகளை ஒரு அசாதாரண நுட்பத்தின் impressions ஆக வாசகர்கள் இணைக்க முடியும் என்று அவர் கூறுகிறார். அவரது ஆட்சேபனை அவற்றின் இணைந்த கதையைப் பற்றியது. நாம் நிபந்தனைகளை நாமே சரிபார்க்கலாம். Qwen சோதனையானது அஸ்ட்ராவுக்கு எடைகள் மற்றும் பயிற்சி

அஸ்ட்ராவுக்கு உண்மையில் என்ன உதவி கிடைத்தது?

1:44 பிரச்சினைகளுடன் பதில்களைக் கொண்ட ஒரு பைதான் நோட்புக்கைக் கொடுத்தது. பல திருப்பங்களில், அது உள் செயல்பாடுகளை ஆய்வு செய்து அசல் மற்றும் திருத்தப்பட்ட பதிப்புகளை ஒப்பிட்டது. இறுதி பட்ஜெட் ஐம்பது மாதிரி இயக்க தொகுதிகளை அனுமதித்தது. ஒவ்வொரு தலைமுறை தொகுதியும் நூற்றுக்கணக்கான பதில்களைக் கொண்டிருக்கலாம். பயிற்சி தரவு பயிற்சி பிளவுகளிலிருந்து வந்தது. அஸ்ட்ரா இறுதி மதிப்பீட்டு தொகுப்புகளை ஒருபோதும் பார்த்ததில்லை என்று ஆராய்ச்சியாளர்கள் கூறுகிறார்கள். பின்னூட்டம் திருத்தத்தைத் தேர்ந்தெடுக்க உதவியது; ஒதுக்கி வைக்கப்பட்ட சிக்கல்கள் பின்னர் அதை அளவிட்டன. அசல் மற்றும் திருத்தப்பட்ட Qwen க்கு இடையில் மாதிரி அமைப்புகள் நிலையாக இருந்தன,

2:09 இந்த நெறிமுறையின் மதிப்பெண் ஒப்பீட்டை விளக்கக்கூடியதாக ஆக்குகிறது. முதல் தூண்டுதல் அதற்கு ஒரு உதவியான ஆய்வக மேற்பார்வையாளரைக் கொடுத்தது. தோல்விகளைக் கண்டறியவும், பொறுப்பான கூறுகளைக் கண்டறியவும், அதே சிக்கல்களில் ஒப்பிடவும், மற்றும் பல பலங்களை சோதிக்கவும். மீண்டும் மீண்டும் சிந்திப்பதை ஒரு பழுதுபார்ப்பாக இது வெளிப்படையாகக் குறிப்பிட்டது. பட்டதாரி மாணவர்கள் இந்த அறிமுக தொகுப்பிற்காக பேச்சுவார்த்தை நடத்த வேண்டும். அது ஒரு ஈர்க்கக்கூடிய பழுது.

உண்மையான பழுது எவ்வளவு சிறியது?

2:28 அஸ்ட்ராவின் இலக்கிடப்பட்ட திருத்தம் சுமார் நூற்று முப்பத்து ஒரு ஆயிரம் எடைகளைத் தொட்டது. அது மாதிரியின் ஆயிரத்தில் பதினாறு சதவீதம். எடை கோப்பு நேரடியாக மாற்றப்பட்டது. கிரேடியன்ட் பயிற்சி தடைசெய்யப்பட்டது; அஸ்ட்ராவின் திருத்தும் அமர்வு முடிந்த பிறகு இருக்கும் மாதிரி பதிலளித்தது. இந்த ஆதாயம் அறிவுறுத்தலைப் பின்பற்றுவதையும் அடைந்தது. நான் நடைமுறை தாக்கத்தை விரும்புகிறேன். ஒரு மாதிரி அதன் தோல்வி முறையால் புதைக்கப்படும் பயனுள்ள வேலையைக் கொண்டிருக்கலாம்.

2:48 அந்த தோல்வியைச் சரிசெய்வது பயன்படுத்தக்கூடிய பதில்களை மீட்டெடுக்கலாம். முடித்தல் கணக்கிடப்படுகிறது. ஹோனிபால், கருவி-உதவிய வேலையை ஒரு மனித இயந்திர கற்றல் பொறியாளர் செய்யக்கூடிய பணிகளைச் செய்வதற்காகக் கொடுக்கிறார். அது ஒரு முகவருக்கு முக்கியமானதாகும். அவரது புகார் என்னவென்றால், சிறிய மூல-எண் செயல்விளக்கங்கள் மற்றும் பெரிய பைதான்-உதவிய பழுதுபார்ப்புகள் ஒன்றாக தொகுக்கப்படும்போது ஒரு பரந்த முடிவை அழைக்கின்றன. சிறிய விளையாட்டு வலைப்பின்னல்களை எடுத்துக்கொள்ளுங்கள்.

எந்த சோதனைகளுக்கு உண்மையில் கருவிகள் இல்லை?

3:09 ஒரு சோதனையில், அஸ்ட்ரா அவற்றின் மூல எண்களைப் படித்து, ஒவ்வொரு நெட்வொர்க்கும் எந்த விளையாட்டைக் கற்றுக்கொண்டது என்பதை சரியாக அடையாளம் கண்டது. கருவிகள் தடைசெய்யப்பட்டன. மற்றொன்றில், அது விதிகள் மற்றும் மூலக் குறியீட்டைப் பயன்படுத்தி புதிதாக விளையாட்டு விளையாடும் எடைகளை எழுதியது, பயிற்சி வெளியீடுகள் இல்லாமல். அவை தனித்தனி சான்றுகளுடன் கூடிய தனித்தனி செயல்விளக்கங்கள். அஸ்ட்ராவின் நெட்வொர்க்குகள் அனைத்து மூன்று விளையாட்டுகளிலும் நூறு மில்லியன் படிகளுக்குப் பயிற்சி பெற்ற அடிப்படையை தோற்கடித்தன. நீண்ட பயிற்சி பெற்ற அடிப்படைக்கு எதிராக, அது சீக்வெஸ்ட் மற்றும்

3:32 ஆஸ்டரிக்ஸில் தோற்று, பிரேக்அவுட்டில் வென்றது. ஒப்பீட்டு நெடுவரிசையை மாற்றவும், வெற்றி பேச்சுக்கு திருத்தம் தேவை. வசதியாக, திருத்தம் என்பது இன்றைய தலைப்பு. ஒரு பரந்த கூற்றுக்கு, வெவ்வேறு தோல்விகளுடன் கூடிய மாதிரிகளில் மேம்பாடுகளை நாம் விரும்புவோம்.

ஒரு பொதுவான கூற்றுக்கு என்ன தேவை?

3:44 திருத்தம் செய்பவர் என்ன பார்த்தார் மற்றும் வெற்றி என்று எண்ணப்பட்டது என்ன என்பதைக் கண்காணிக்கவும். Qwen இன் மாதிரி அட்டை ஏற்கனவே சிந்தனை சுழற்சிகளைப் பற்றி எச்சரிக்கிறது. இந்த அறியப்பட்ட தடையை நீக்குவதற்கு ஒரு குறிப்பிட்ட தொடக்க புள்ளி உள்ளது. அவர்களுக்கு பாராட்டுகள், ஆசிரியர்கள் சங்கடமான பின்தொடர்தலை தாங்களே வெளியிடுகிறார்கள். சுழற்சிகளுக்கு முற்றுப்புள்ளி வைப்பது Qwen ஏற்கனவே வேலை செய்யக்கூடிய பதில்களை முடிக்க அனுமதிக்கிறது என்று அவர்கள் விளக்குகிறார்கள். அவர்களின் பதிவுகளில் தூண்டுதல்கள், பின்னூட்டம் மற்றும் திருத்தங்கள் அடங்கும். நாம் சாதனையை ஆராய்ந்து ஒரு கடினமான கேள்வியைக் கேட்கலாம்.

அரிதாக சுழன்ற மாதிரிக்கு என்ன ஆனது?

4:06 இப்போது இரண்டாவது மாதிரி, ஒரு சிறிய ஜெம்மா அதன் சொந்த பின்தொடர்தல் அமைப்பில். இது அரிதாகவே சுழன்றது, எனவே அதன் தோல்விகள் சாதாரண தவறான எண்கணிதம் மற்றும் தவறான அல்ஜீப்ரா. அஸ்ட்ரா மீண்டும் பயிற்சி பின்னூட்டத்துடன் இலக்கிடப்பட்ட எடை திருத்தங்களை முயற்சித்தது. யாரும் அதன் கணித மதிப்பெண்ணை ஒரு புள்ளிக்கு மேல் உயர்த்தவில்லை, மற்றும் ஒரு ஆதாயம் நிறுவப்படவில்லை. வெற்றிகரமான Qwen பழுது நீக்கப்பட வேண்டிய ஒரு தடையைக் கொண்டிருந்தது. ஜெம்மாவின் எண்கணித பிழைகள் நீடித்தன. அது டெவலப்பர்களுக்கான பயனுள்ள கேள்வி.

4:28 திருத்தம் எந்த தோல்வியைச் சரிசெய்தது, உங்கள் மாதிரி உண்மையில் அதைக் கொண்டிருக்கிறதா? பெருக்கி கொண்டாடும் முன் உங்கள் சொந்த பணிகளில் சேமிக்கப்பட்ட எடைகளை சோதிக்கவும். சரிசெய்யப்பட்ட ஒரு தடைக்கற்கள் மிக முக்கியமானது, அதே நேரத்தில் அடுத்த தடைக்கற்கள் அது இருந்த இடத்திலேயே இருக்கும். நான் சொல்வதைக் கேட்பதை விட இதை நீங்கள் படிக்க விரும்பினால், டிஃப் உங்கள் இன்பாக்ஸில் ஒவ்வொரு காலையிலும், daily diff dot dev இல் இலவசமாக, கீழே உள்ள இணைப்பைப் பார்க்கவும்.

நான் எடை-திருத்தம் செய்யும் கூற்றை ஏற்றுக்கொள்வேனா?

4:47 ஆகவே, இன்றைய தீர்ப்பு NEEDS REVIEW. நான் சுழற்சி பழுதுபார்ப்பை தீவிரமாக எடுத்து சோதிப்பேன். அந்த தோல்வி முறைக்கு அப்பாற்பட்ட வெற்றியில் பரந்த கூற்றுகளை கட்டுப்படுத்தியிருப்பேன். ஆசிரியர்களின் சொந்த எதிர் உதாரணம் டிஃபில் உள்ள மிக பயனுள்ள வரி. அதுதான் இன்றைய டிஃப். நான் ஆக்ரிசியில் இருந்து நிகோ. பொறுப்புடன் இணைக்கவும்.

ஆதாரங்கள்

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above