Microsoft AI Frontiers: Лэнгфордтың қайта құрылымдау есебі және ортақ зерттеу желілері

Бұл бейне не туралы

• Лэнгфорд қыркүйек айының басында Microsoft AI-ға көшу оның зерттеу басымдықтарына қайшы келгенін және ол кетіп қалғанын айтады.
• Ол топтың шамамен елу адам екенін бағалады; мақалада қалған адамдар туралы айтылады және жұмыстан шығару саны көрсетілмейді.
• Оның тобы Microsoft Research ішінде монорепозиторийді бөлісті; ол кем дегенде төрт оқыту-құбыр желісін хабарлайды, қалған үшеуі MSR арқылы бөлісілетін репозиторийлерден тыс.
• Толық өткізу қабілеттілігі бар трансформатор келесі кіріске алдыңғы жасырын күйді таңдалған токенмен бірге тасымалдайды; жалпы шығындарды үнемдеу әлі анықталмаған.
• AutoGen-ның мұрағатталған README файлы Microsoft Agent Framework-ті ұсынады; мұрағат ескертуі блогтан бұрын болған және бөлек хронологиясы бар.

Аударылған транскрипция

Бастапқы ағылшын тіліндегі баяндамадан аударылған. Қолжетімді аудио және субтитрлерді YouTube басқарады.

Microsoft-тың AI Frontiers неліктен ыдырады?

0:00 Microsoft ішіндегі AI зерттеу зертханасының болашағы болуы керек. Оның негізін қалаушы AI Frontiers аяқталды және ол кетіп қалды дейді. Бұл видеода ол неге кетті? Және төрт оқыту құбырының оған қандай қатысы бар? Міне, бастапқы жауап. Джон Лэнгфорд қыркүйек айында Microsoft AI-ға көшу оның зерттеулерін жаңа басымдықтармен сәйкес келмейтін етті дейді. Ол кетті. Оның сол төрт құбыр желісі туралы есебі барлығын

0:22 бір басшыға бағындырудың әлі де мәселені жіберіп алуы мүмкін екенін түсіндіреді. Бұл жексенбі, сегізінші қараша, және бұл The Daily Diff. AI Frontiers Microsoft Research ішіндегі зерттеу тобы болды, ChatGPT келгеннен кейін құрылған. Лэнгфорд оның мөлшерін шамамен елу адам деп бағалайды. Ол агенттермен және жаңа модельдеу әдістерімен жұмыс істеді. Microsoft AI - оның есебі бойынша, ол көшірілген бөлек ұйым. Оның есебі бойынша.

0:42 Оның қарашаның алтысындағы жазбасы

ChatGPT-тен кейін неліктен зерттеу тобын ұйымдастыру керек?

0:44 зерттеушінің неге ақыры кетіп қалғанын түсіндіріп жазғаны сияқты. Ол кетпес бұрын өз адамдарын мүмкіндігінше орналастыруға тырысқанын айтады, және артта қалған адамдарға жақсылық тілейді. Бұл сөз маңызды. Бізде оның кетуі туралы есеп бар, әріптестері әлі де сонда. 2023 жылы оның шағымы жылдамдыққа қатысты болды. Жалғыз зерттеуші әлсіз салыстырулармен кеш келуі мүмкін. Топ күшті эксперименттер үшін күш біріктірді.

1:06 Сіздің жаңашылдығыңыз үшін де электр энергиясын төлей алатын бастапқы нүкте қажет. Кейбір жұмыстар әзірлеушілерге жетті. Лэнгфорд AutoGen-ді, агенттерді үйлестіруге арналған фреймворкты атайды. Сонымен қатар, оны авторлар қатарында көрсететін қоғамдық модельдер бойынша зерттеу мақалалары бар. Бұл топ өзінің миссиясымен бірге қорғауға болатын жұмыстарды шығарды. Содан кейін қайта құрылымдау келеді.

AI Frontiers Microsoft AI-ға көшкенде не өзгерді?

1:23 Лэнгфорд AI Frontiers қыркүйек айының басында Microsoft AI-ға көшкенін айтады. Бұрын Inflection-дан келген Мұстафа Сүлейман бұл ұйымды басқарады. Лэнгфорд бұрынғы Inflection басшылығымен қақтығысты сипаттайды. Бұл оның көшу туралы есебі. Лэнгфорд оны тек масштабтауға бағытталған орта деп атайды және зерттеудің қажетсіз болғанын айтады. Бұл оның сипаттамасы. Ол сонымен қатар іскерлік дәлелдерді де келтіреді.

1:43 Масштабтау белгісіз зерттеулерге қарағанда болжамды табыс әкеледі. Қаржы бөлімі болжамды көрсеткіштерді электрондық кестеге енгізе алады. Оның айтуынша, бұл тәсіл деректерді алуға және өңдеуге бағытталған. Оның мүдделері жаңа мүмкіндіктер мен модельдеудің жақсы әдістері болды. Келіспеушілік қандай эксперименттер ресурстарға лайық екендігіне қатысты болды, және қандай нәтижелер пайдалы болу мүмкіндігін алады. Бір жыл бұрын Сүлейманның суперақыл

Microsoft зерттеу аяқталды деп айта ма?

2:05 туралы хабарландыруы оның әлемдегі AI-ны зерттеуге және құруға арналған ең жақсы орынды қалайтынын айтты. Лэнгфордтың жаңа жазбасы қайта ұйымдастырудан кейінгі тәжірибесін сипаттайды. Бұл ескі амбиция осы топтың ішінде не болғанын анықтамайды. Толық өткізу қабілеттілігі бар трансформатор мақаласын алайық. Модель әр декодтау қадамында токен шығарады. Бұл дизайн сонымен қатар алдыңғы жоғарғы қабаттың жасырын күйін келесі кіріске береді. Ішкі ақпарат модель басып шығарған сөзбен бірге жүреді.

2:28 Авторлар тексерілген модельдердегі жақсартуларды хабарлайды. Лэнгфорд шығындарды екі есе азайту неге тұрарлық деп сұрайды. Бұл үнемдеу әлі анықталмаған. Параметрлер, оқыту жұмысы және қызмет көрсету шығындары GPU тапсырыстарының жартысын жойғанға дейін бөлек өлшеуді қажет етеді.

Неліктен Лэнгфорд Microsoft Research-ке оралмады?

2:42 Оның кету себебі неғұрлым дереу. Ол Microsoft AI ішінде жаңашылдықты қолданысқа енгізе алмағанын немесе тіпті елеулі түрде қарастыра алмағанын айтады. Microsoft AI ішінде. Ал Microsoft Research-ке оралу сол тосқауылға тап болғандай сезілді. Жақсырақ экспериментке мән беру қиын, егер оның келесі баратын жері басқа ішкі презентация болса. Ол сонымен қатар негізгі мәміле бұзылғанын айтады. Жақсы жұмыс істе, және жақсы нәрселер болады. Оның көзқарасы бойынша, марапат қажетсіз ауыстыру болды.

3:06 Ол басқа негізін қалаушы басшылық мүшелерінің барлығы ұқсас қорытындыға келген сияқты деп жазады. Бұл «сияқты» жұмыс істейді. Ол бізге расталған кету тізімін бермейді. AutoGen пайдаланушыларында нақты техникалық қызмет көрсету ескертуі бар. AutoGen-ның ағымдағы readme файлы жобаның мұрағатталғанын айтады. Microsoft онда қателерді түзету, қауіпсіздік түзетулері немесе қолдау көрсетпейтінін айтады. Ол қолданыстағы пайдаланушыларды Microsoft Agent Framework-ке және көшіру нұсқаулығына бағыттайды. Ескі оқулықты өндіріске енгізбес бұрын мұны тексеріңіз.

3:31 Бұл ескерту осы жазбадан бұрын репозиторийде болған.

AutoGen пайдаланушысы қазір нені тексеруі керек?

3:34 Бұл кету мұрағаттауды тудырғанын дәлелдемейді. Ал мұрагер фреймворктың қоғамдық репозиторийі әлі де бар, өндіріс үшін агентті оркестрлеуді ұсынады. Нақты жағдай зерттеу мақалаларын, мұрағатталған құралды және Microsoft ұсынған мұрагерді қамтиды. Әрқайсысының өзінің өмірлік циклі бар. Әрбір өмірлік циклды бөлек тексеріңіз. Кодқа техникалық қызмет көрсетіле ме? Көшіру жолы қайда?

3:53 Зерттеуді бағалай аласыз ба? Әйгілі компания атауы бұл сұрақтарға сізге жауап бермейді.

Сол төрт құбыр желісі қандай болды?

3:58 Бұл бізді сантехникаға қайтарады. Лэнгфорд AI Frontiers Microsoft Research арқылы әдепкі бойынша бөлісілетін монорепозиторийді сақтағанын айтады. Ол модельді алдын ала оқыту құбыр желісін қамтыды. Бұл маңызды, себебі сенімді эксперименттерді жүргізуге арналған механизмдер ақылды зерттеу идеясы кезекке келгенге дейін айтарлықтай жұмысты қажет етеді. Ол кем дегенде төрт модель құбыр желісін құру әрекеттерін біледі. Қалған үшеуі, оның айтуынша, Microsoft Research арқылы бөлісілетін репозиторийлерде болған жоқ. Оның командасының репозиторийі әдепкі бойынша бөлісілді.

4:23 Корпоративті тиімділік барлығы өз ортақ ас үйін алатын деңгейге жетті. Бұл оның есебі ашатын сәтсіздік. Зерттеушілерге қайта пайдалануға болатын инфрақұрылым және нақты өнімдерге жол қажет. Лэнгфорд оның тобы ортақ инфрақұрылымды құрғанын және ол өнім жолына сенімін жоғалтқанын айтады. өнім жолына. Қайта құрылымдау оның тобының кімге тиесілі екенін өзгертті. Ол әлі де кетті. Егер сіз мұны естігеннен гөрі оқығыңыз келсе, diff сіздің пошта жәшігіңізге

4:44 күн сайын таңертең тегін келеді daily diff dot dev сайтында, төмендегі сілтеме.

NEEDS REVIEW шешіміне не лайық?

4:47 Сонымен, бүгінгі үкім, NEEDS REVIEW. Мен бұл шоғырландыруды сәтті деп атамас бұрын зерттеуден өнімге дейінгі жолды және техникалық қызмет көрсету жоспарын қалаймын. Лэнгфордтың есебі маған екеуіне де күмән келтіруге негіз береді. Жазылыңыз, қоңырауды басыңыз және егер сіз оны басқаша басып шығарған болсаңыз, пікірлерде айтыңыз. Бүгінгі айырмашылық осы. Мен Акхрисиден Нико. Жауапкершілікпен біріктіріңіз.

Дереккөздер

1. The End of AI Frontiers — former founder's account and internal-sharing scopeJohn Langford / Machine Learning (Theory)
2. AutoGen README — archived project and successor recommendationMicrosoft / GitHub
3. Microsoft Agent Framework — public successor repositoryMicrosoft / GitHub
4. Full-bandwidth transformer — author-reported design and results, v2Xi Wang and colleagues / arXiv
5. Towards Humanist Superintelligence — November 6, 2025 ambition, no current replyMustafa Suleyman / Microsoft AI
6. Mustafa Suleyman — Microsoft AI identity and biographyMustafa Suleyman
7. Authentic Mustafa portrait — cropped, background removed, resized and unflipped; corporate identity only, no authorship, closure order, current reaction or endorsementVillage Global / Wikimedia Commons
8. Original Village Global Grove photo — November 17, 2022Village Global / Flickr
9. Portrait licence — CC BY 2.0; attribution and adaptation disclosureCreative Commons
10. Spider-Man pointing template — resized with process-commentary caption; brief transformed satire, no identical-code evidence or actual executive reaction; hosting grants no licence, legal clearance or blanket reuseImgflip / Spider-Man cartoon
11. Fantasia broom GIF — Disney/@disney uploader with Disney Tumblr provenance; silent resized short excerpt with narrator-commentary caption, broom brought to life without multiplication claim; no actual executive reaction, hosting licence, legal-clearance or blanket-reuse claimDisney / GIPHY
12. Original Disney GIF source linkDisney / Tumblr
13. Hacker News discussion — attention context, no anonymous claims used as factsHacker News
14. AutoGen README archive clarification — October 16, before Langford's postMicrosoft / GitHub
15. Full-bandwidth transformer paper v2 licence — CC BY 4.0; exact excerpt reformatted, accompanying model diagram conceptualXi Wang and colleagues / Creative Commons