Microsoft AI Frontiers: Ang kuwento ng reorg ni Langford at ang mga ibinahaging research pipeline

Ang sakop ng video na ito

• Sinabi ni Langford na ang paglipat noong unang bahagi ng Setyembre sa Microsoft AI ay sumasalungat sa kanyang mga prayoridad sa pananaliksik at umalis siya.
• Limampu ang kanyang pagtatantya sa laki ng grupo; binanggit ng artikulo na may mga taong naiwan at walang ibinigay na listahan ng mga natanggal.
• Ang kanyang grupo ay nagbahagi ng isang monorepo sa loob ng Microsoft Research; iniulat niya ang hindi bababa sa apat na pagsisikap sa training-pipeline, kasama ang iba pang tatlong labas ng mga repository na ibinahagi sa MSR.
• Dala ng Full-bandwidth transformer ang nakaraang nakatagong estado kasama ang sampled token sa susunod na input; ang kabuuang pagtitipid sa gastos ay nananatiling hindi naitatatag dito.
• Inirerekomenda ng naka-archive na README ng AutoGen ang Microsoft Agent Framework; ang babala ng archive ay nauna sa blog at may hiwalay na kronolohiya.

Isinaling transcript

Isinalin mula sa orihinal na salaysay sa English. Ang available na audio at mga caption ay kinokontrol ng YouTube.

Bakit bumagsak ang AI Frontiers ng Microsoft?

0:00 Ang isang AI research lab sa loob ng Microsoft ay dapat magkaroon ng kinabukasan. Sabi ng co-founder nito, tapos na ang AI Frontiers, at umalis na siya. Sa video na ito, bakit siya umalis? At ano ang kinalaman ng apat na training pipeline dito? Narito ang maagang sagot. Sinabi ni John Langford na ang paglipat noong Setyembre sa Microsoft AI ay naging dahilan upang ang kanyang pananaliksik ay hindi tugma sa mga bagong prayoridad. Umalis siya. Ipinaliwanag ng kanyang kuwento tungkol sa apat na pipeline kung bakit ang paglalagay ng lahat

0:22 sa ilalim ng isang boss ay maaari pa ring hindi makita ang problema. Linggo ngayon, ikawalo ng Nobyembre, at ito ang The Daily Diff. Ang AI Frontiers ay isang research group sa loob ng Microsoft Research, nabuo matapos dumating ang ChatGPT. Tinatantya ni Langford ang laki nito sa halos limampung tao. Nagtatrabaho ito sa mga ahente at mga bagong teknik ng modelo. Ang Microsoft AI ang hiwalay na organisasyon na pinaglipatan nito, ayon sa kanyang kuwento.

0:42 Ang kanyang post noong Nobyembre 6 ay parang

Bakit mag-organisa ng research group pagkatapos ng ChatGPT?

0:44 isang researcher na nagpapaliwanag kung bakit siya sa wakas umalis. Sinabi niya na sinubukan niyang ilagay ang kanyang mga tao nang maayos hangga't maaari bago umalis, at binabati ang mga taong naiwan. Mahalaga ang pananalita na iyon. Mayroon tayong kanyang kuwento ng pag-alis, kasama ang mga kasamahan na nandoon pa rin. Noong 2023, ang kanyang reklamo ay bilis. Ang isang nag-iisang researcher ay maaaring dumating nang huli na may mahinang paghahambing. Pinagsama-sama ng grupo ang pagsisikap para sa mas malakas na mga eksperimento.

1:06 Kahit ang iyong tagumpay ay nangangailangan ng batayan na kayang bayaran ang kuryente. Ang ilang trabaho ay umabot sa mga developer. Pinangalanan ni Langford ang AutoGen, ang framework para sa pagtutugma ng mga ahente. Mayroon ding mga pampublikong research paper ng modelo kasama siya sa mga may-akda. Naglabas ang grupong ito ng trabaho upang ipagtanggol kasama ang pahayag ng misyon nito. Pagkatapos ay dumating ang reorg.

Ano ang nagbago nang lumipat ang AI Frontiers sa Microsoft AI?

1:23 Sinabi ni Langford na lumipat ang AI Frontiers sa Microsoft AI noong unang bahagi ng Setyembre. Si Mustafa Suleyman, dating Inflection, ang namumuno sa organisasyong iyon. Inilarawan ni Langford ang isang pagtatalo sa dating pamunuan ng Inflection. Ito ang kanyang kuwento ng paglipat. Tinawag ito ni Langford na isang scaling-only na kapaligiran at sinabing hindi tinatanggap ang pananaliksik. Iyan ang kanyang paglalarawan. Nagbigay din siya ng argumento sa negosyo.

1:43 Nag-aalok ang scaling ng mas mahuhulaan na kita kaysa sa hindi tiyak na pananaliksik. Maaaring ilagay ng isang departamento ng pananalapi ang mahuhulaan sa isang spreadsheet. Sinabi niya na ang diskarte na iyon ay nakasentro sa pagkuha at pagpino ng data. Ang kanyang interes ay mga bagong kakayahan at mas mahusay na mga teknik ng modelo. Ang hindi pagkakasundo ay tungkol sa kung aling mga eksperimento ang nararapat na makakuha ng mapagkukunan, at kung aling mga resulta ang magkakaroon ng pagkakataong maging kapaki-pakinabang. Isang taon bago, ang pahayag ni Suleyman tungkol sa superintelligence

Sinasabi ba ng Microsoft na tapos na ang pananaliksik?

2:05 ay nagsabing gusto niya ang pinakamahusay na lugar sa mundo upang magsaliksik at bumuo ng AI. Inilalarawan ng bagong post ni Langford ang kanyang karanasan pagkatapos ng reorg. Ang mas lumang ambisyon na iyon ay hindi naitatatag kung ano ang nangyari sa loob ng grupong ito. Kunin ang papel ng Full Bandwidth Transformer. Ang isang modelo ay gumagawa ng isang token sa bawat hakbang ng decoding. Ang disenyo na ito ay nagbibigay din ng nakatagong estado ng nakaraang top layer sa susunod na input. Ang panloob na impormasyon ay naglalakbay kasama ang salitang ipinrint ng modelo.

2:28 Iniulat ng mga may-akda ang mga pagpapabuti sa mga sinubok na modelo. Tinanong ni Langford kung ano ang halaga ng paghahati ng mga gastos. Ang pagtitipid na iyon ay nananatiling hindi naitatatag dito. Ang mga parameter, trabaho sa pagsasanay at mga gastos sa paghahatid ay nangangailangan ng hiwalay na mga sukat bago kanselahin ng sinuman ang kalahati ng kanilang order ng GPU.

Bakit hindi bumalik si Langford sa Microsoft Research?

2:42 Ang dahilan na ibinigay niya sa pag-alis ay mas agaran. Sinabi niya na hindi niya maipasok ang inobasyon sa paggamit, o kahit seryosong isinasaalang-alang, sa loob ng Microsoft AI. At ang pagbabalik sa Microsoft Research ay parang pagharap sa parehong nakaharang na ruta. Ang isang mas mahusay na eksperimento ay mahirap bigyang-pansin kapag ang susunod na destinasyon nito ay isa pang panloob na presentasyon. Sinabi din niya na nasira ang batayang kasunduan. Gawin ang mabuting trabaho, at mangyayari ang mabubuting bagay. Mula sa kanyang pananaw, ang gantimpala ay isang hindi gustong paglilipat.

3:06 Sinulat niya na bawat iba pang miyembro ng founding leadership ay tila nakarating sa isang katulad na konklusyon. Ang "tila" ay gumagawa ng trabaho. Hindi niya tayo binibigyan ng na-verify na listahan ng mga umalis. Ang mga gumagamit ng AutoGen ay may konkretong babala sa pagpapanatili. Sinasabi ng kasalukuyang readme ng AutoGen na naka-archive ang proyekto. Sinasabi ng Microsoft na hindi ito nagbibigay ng mga pag-aayos ng bug, pag-aayos ng seguridad o suporta doon. Itinuturo nito ang mga kasalukuyang gumagamit sa Microsoft Agent Framework at isang gabay sa paglipat. Suriin iyon bago ilagay ang isang lumang tutorial sa produksyon.

3:31 Ang babala na iyon ay nasa repository na bago ang post na ito.

Ano ang dapat suriin ng isang user ng AutoGen ngayon?

3:34 Hindi nito pinapatunayan na ang pag-alis na ito ang sanhi ng archive. At ang pampublikong repository ng successor framework ay nandoon pa rin, nag-aalok ng agent orchestration para sa produksyon. Ang aktwal na sitwasyon ay kinabibilangan ng mga research paper, isang naka-archive na tool at ang inirerekomendang kahalili ng Microsoft. Ang bawat isa ay may sariling lifecycle. Suriin ang bawat lifecycle nang hiwalay. Pinapanatili ba ang code? Nasaan ang migration path?

3:53 Maaari mo bang suriin ang pananaliksik? Hindi sasagutin ng isang sikat na pangalan ng kumpanya ang mga tanong na iyon para sa iyo.

Ano ang apat na pagsisikap sa pipeline na iyon?

3:58 Na nagbabalik sa atin sa plumbing. Sinabi ni Langford na pinanatili ng AI Frontiers ang isang monorepo na ibinahagi bilang default sa buong Microsoft Research. Kasama dito ang isang model pretraining pipeline. Mahalaga iyan dahil ang makinarya para sa pagpapatakbo ng mga nakakumbinsi na eksperimento ay nangangailangan ng malaking trabaho, bago makakuha ng pagkakataon ang matalinong ideya sa pananaliksik. Alam niya ang hindi bababa sa apat na pagsisikap sa pagbuo ng mga model pipeline. Ang iba pang tatlo, aniya, ay wala sa mga repository na ibinahagi sa buong Microsoft Research. Ang sa kanyang koponan ay ibinahagi bilang default.

4:23 Umakyat na ang corporate efficiency sa yugto kung saan lahat ay may sariling komunal na kusina. Iyan ang kabiguan na inilalantad ng kanyang kuwento. Kailangan ng mga researcher ang magagamit muli na imprastraktura at isang ruta sa totoong mga produkto. Sinabi ni Langford na binuo ng kanyang grupo ang ibinahaging imprastraktura at nawalan siya ng tiwala sa ruta ng produkto. Binago ng reorg kung sino ang nagmamay-ari ng kanyang grupo. Umalis pa rin siya. Kung mas gusto mong basahin ito kaysa pakinggan akong sabihin, ang diff ay dumarating sa iyong inbox

4:44 araw-araw, libre sa the daily diff dot dev, link sa ibaba.

Ano ang nararapat na hatol na NEEDS REVIEW?

4:47 Kaya ang hatol ngayon, NEEDS REVIEW. Gusto ko ng isang landas mula sa pananaliksik patungo sa produkto at isang plano sa pagpapanatili bago tawaging isang tagumpay ang konsolidasyon na ito. Ang kuwento ni Langford ay nagbibigay sa akin ng mga dahilan upang pagdudahan ang pareho. Mag-subscribe, pindutin ang kampana, at sabihin sa akin sa mga komento kung nai-stamp mo ito nang iba. At iyan ang diff para sa araw na ito. Ako si Niko mula sa Axrisi. Magsama nang responsable.

Mga Pinagmulan

1. The End of AI Frontiers — former founder's account and internal-sharing scopeJohn Langford / Machine Learning (Theory)
2. AutoGen README — archived project and successor recommendationMicrosoft / GitHub
3. Microsoft Agent Framework — public successor repositoryMicrosoft / GitHub
4. Full-bandwidth transformer — author-reported design and results, v2Xi Wang and colleagues / arXiv
5. Towards Humanist Superintelligence — November 6, 2025 ambition, no current replyMustafa Suleyman / Microsoft AI
6. Mustafa Suleyman — Microsoft AI identity and biographyMustafa Suleyman
7. Authentic Mustafa portrait — cropped, background removed, resized and unflipped; corporate identity only, no authorship, closure order, current reaction or endorsementVillage Global / Wikimedia Commons
8. Original Village Global Grove photo — November 17, 2022Village Global / Flickr
9. Portrait licence — CC BY 2.0; attribution and adaptation disclosureCreative Commons
10. Spider-Man pointing template — resized with process-commentary caption; brief transformed satire, no identical-code evidence or actual executive reaction; hosting grants no licence, legal clearance or blanket reuseImgflip / Spider-Man cartoon
11. Fantasia broom GIF — Disney/@disney uploader with Disney Tumblr provenance; silent resized short excerpt with narrator-commentary caption, broom brought to life without multiplication claim; no actual executive reaction, hosting licence, legal-clearance or blanket-reuse claimDisney / GIPHY
12. Original Disney GIF source linkDisney / Tumblr
13. Hacker News discussion — attention context, no anonymous claims used as factsHacker News
14. AutoGen README archive clarification — October 16, before Langford's postMicrosoft / GitHub
15. Full-bandwidth transformer paper v2 licence — CC BY 4.0; exact excerpt reformatted, accompanying model diagram conceptualXi Wang and colleagues / Creative Commons