GPT-6 Astra закрпила бескрајно размишљање другог АИ-ја

Шта овај видео покрива

• Пријављено повећање резултата Qwen-а потиче од циљане поправке понављајућег резоновања; око трећине уређених одговора и даље је достигло ограничење дужине у примарном протоколу.
• Градуална обука је била забрањена, док су Пајтон, практични одговори и повратне информације из покретања модела у серијама били дозвољени кроз многе итерације. Коначна питања за евалуацију су изворно декларисана као задржана.
• Експерименти са малим сировим тежинама и играма без покретања користили су различите услове. Њихови захтеви треба да задрже свој индивидуални алат, улаз и основни опсег.
• Метју Хонибал приписује заслуге инжењерингу потпомогнутом алатима и оспорава шири утисак настао груписањем експеримената.
• Мањи Gemma наставак користио је сопствено подешавање и није успео да успостави побољшање. Тестирајте који квар поправља уређивање тежине пре него што га примените на други модел.

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

Зашто је скочио резултат из математике?

0:00 Када АИ учини други АИ шест пута паметнијим, то звучи као тренутни геније. Велики скок резултата Астре дошао је од помагања Qwen-у да заврши одговоре које је стално понављао. У овом видеу, шта се променило? Какву је помоћ Astra добила? И колико далеко стиже поправка? Qwen је порастао са око осам процената на четрдесет осам процената. Истраживачи су испробали други модел са скоро без петљи. Видећемо како је то прошло пре пресуде.

0:22 Уторак је, трећи новембар, а ово је The Daily Diff. Програмирање тежинског простора је назив истраживача за тражење од АИ-ја да прегледа или напише бројеве унутар неуронске мреже. Ти бројеви су његове тежине. Овај тим повезан са МИТ-ом користио је OpenAI-јев GPT Six Astra за уређивање малог Qwen језичког модела, са забрањеном обичном обуком. Рикија Такехи и његови коаутори објавили су студију у понедељак,

0:44 питајући да ли постојећи АИ може да размишља о интерним деловима друге мреже. Њихов насловни резултат је веома кликабилан. На математици петсто, Qwen је порастао са око осам процената на четрдесет осам процената. Скоро шест пута више тачних одговора. Qwen је наставио да размишља док му није понестало места за одговор.

Шта је Qwen радио погрешно?

1:00 У режиму размишљања, често је понављао своје резоновање. Замислите студента који испуњава испитну свеску радом док не зазвони звоно. Маркер и даље треба одговор. Већина оригиналних одговора је достигла ограничење дужине. Астра је пронашла смер понављања у два унутрашња слоја, затим је уклонила његов допринос из одабраних колона тежина. Након тог уређивања, више одговора је дошло до закључка. Око трећине је и даље достигло ограничење у пријављеном тесту.

1:22 Испитна свеска је коначно добила последњи ред. Данас, Метју Хонибал, креатор spaCy-ја и суоснивач Explosion-а,

Шта данашњи критичар оспорава?

1:28 оспорио је презентацију. Каже да читаоци могу комбиновати различите услове експеримената у утисак једне изузетне технике. Његов приговор се односи на њихову комбиновану причу. Можемо сами проверити услове. Експеримент Qwen-а дао је Астри Пајтон свеску преко тежина и вежбања

Какву је помоћ Astra заправо добила?

1:44 проблема са одговорима. Кроз многе итерације, прегледала је унутрашње активације и упоредила оригиналне и уређене верзије. Коначни буџет је дозволио педесет серија покретања модела. Свака серија генерације могла је да садржи стотине одговора. Подаци за вежбање дошли су из тренинг подела. Истраживачи кажу да Astra никада није видела коначне скупове за евалуацију. Повратне информације су помогле да се изабере уређивање; проблеми који су задржани мерили су га након тога. Подешавања узорковања остала су фиксна између оригиналног и уређеног Qwen-а,

2:09 чинећи поређење резултата овог протокола интерпретабилним. Први упит му је дао корисног лабораторијског супервизора. Дијагностикујте кварове, пронађите одговорне компоненте, упоредите исте проблеме и тестирајте неколико снага. Експлицитно је поменуо понављајуће размишљање као поправку која се рачуна. Студенти постдипломских студија треба да преговарају за овај пакет за увођење у посао. То је импресивна поправка.

Колико је била мала стварна поправка?

2:28 Циљано уређивање Астре дотакло је отприлике сто тридесет једну хиљаду тежина. То је око шеснаест хиљадитих делова процента модела. Фајл тежина је директно промењен. Градуална обука је остала забрањена; постојећи модел је давао одговоре након завршетка Астрине сесије уређивања. Добитак је такође достигао и праћење упутстава. Свиђа ми се практична импликација. Модел може да поседује користан рад који његов начин квара наставља да сахрањује.

2:48 Поправка тог квара може да поврати употребљиве одговоре. Завршавање се рачуна. Хонибал приписује заслуге алатно-помогнутом раду као извршавању задатака које би могао да уради људски машински инжењер. То је значајно за агента. Његова притужба је да мале демонстрације сирових бројева и веће поправке уз помоћ Пајтона позивају на шири закључак када се споје. Узмимо мале мреже за игре.

Који експерименти заиста нису имали алате?

3:09 У једном експерименту, Astra је читала њихове сирове бројеве и тачно идентификовала коју игру је свака мрежа научила. Алати су били забрањени. У другом, написала је нове тежине за играње игрица од нуле користећи правила и изворни код, без пробних покретања. То су одвојене демонстрације са одвојеним доказима. Астрине мреже су победиле основну мрежу тренирану сто милиона корака у свим три игре. Против дуже трениране основне мреже, изгубила је у Seaquest-у и

3:32 Asterix-у, док је победила Breakout. Промените упоредну колону, и победнички говор треба уредити. Згодно, уређивање је данашња тема. За ширу тврдњу, желели бисмо побољшања код модела са различитим кваровима.

Шта би била потребна општија тврдња?

3:44 Пратите шта је уредник видео и шта се рачунало као успех. Qwen-ова картица модела већ упозорава на петље размишљања. Уклањање ове познате препреке има посебну почетну тачку. За њихову заслугу, аутори сами објављују неугодан наставак. Објашњавају да заустављање петљи омогућава Qwen-у да заврши одговоре које је већ могао да разради. Њихови записи укључују упите, повратне информације и измене. Можемо испитати достигнуће и поставити теже питање.

Шта се десило са моделом који се ретко понављао?

4:06 Сада други модел, мањи Gemma у сопственој наставној поставци. Ретко се понављао, тако да су његови кварови били обична погрешна аритметика и неважећа алгебра. Astra је поново покушала циљане измене тежина са повратним информацијама из праксе. Ниједан није променио његов математички резултат за више од око једног поена, и добитак није успостављен. Успешна Qwen поправка је имала препреку за уклањање. Геммине аритметичке грешке су преживеле. То је корисно питање за програмере.

4:28 Који квар је поправила измена, и да ли ваш модел заправо има тај квар? Тестирајте сачуване тежине на сопственим задацима пре него што прославите множилац. Поправљено уско грло може бити од огромног значаја, док следеће уско грло остаје тачно тамо где је било. Ако бисте радије ово прочитали него чули да га изговарам, дифф стиже у ваше пријемно сандуче сваког јутра, бесплатно на the daily diff dot dev, линк испод.

Да ли бих објавио тврдњу о уређивању тежина?

4:47 Дакле, данашња пресуда је NEEDS REVIEW. Озбиљно бих схватио поправку петље и тестирао је. Шире тврдње бих задржао до успеха изван тог начина квара. Сопствени контрапример аутора је најкориснија реченица у дифф-у. И то је дифф за данас. Ја сам Нико из Axrisi. Спајајте одговорно.

Извори

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above