Microsoft AI Frontiers: Langfordovo převyprávění reorganizace a sdílené výzkumné pipeline

Co toto video pokrývá

• Langford říká, že přesun do Microsoft AI na začátku září kolidoval s jeho výzkumnými prioritami a odešel.
• Jeho odhad velikosti skupiny byl asi padesát; článek zmiňuje lidi, kteří zůstali, a neuvádí počet propuštěných.
• Jeho skupina sdílela monorepo v rámci Microsoft Research; hlásí nejméně čtyři snahy o tréninkové pipeline, přičemž další tři byly mimo repozitáře sdílené napříč MSR.
• Full-bandwidth transformer nese předchozí skrytý stav spolu se vzorkovaným tokenem do dalšího vstupu; celkové úspory nákladů zde zůstávají nepotvrzeny.
• Archivované README AutoGen doporučuje Microsoft Agent Framework; varování před archivací předchází blogu a má samostatnou chronologii.

Přeložený přepis

Přeloženo z původního anglického vyprávění. Dostupné audio a titulky jsou řízeny YouTube.

Proč se Microsoft AI Frontiers rozpadl?

0:00 Laboratoř pro výzkum umělé inteligence uvnitř Microsoftu by měla mít budoucnost. Její spoluzakladatel říká, že AI Frontiers je u konce a on odešel. V tomto videu, proč odešel? A co s tím mají společného čtyři tréninkové pipeline? Zde je první odpověď. John Langford říká, že zářijový přesun do Microsoft AI způsobil, že jeho výzkum byl neslučitelný s novými prioritami. Odešel. Jeho vyprávění o těch čtyřech pipeline vysvětluje, proč i když se všichni

0:22 dostanou pod jednoho šéfa, problém nemusí být vyřešen. Je neděle, osmý listopad, a toto je The Daily Diff. AI Frontiers byla výzkumná skupina uvnitř Microsoft Research, vzniklá po příchodu ChatGPT. Langford odhaduje její velikost na asi padesát lidí. Pracovala na agentech a nových technikách modelování. Microsoft AI je samostatná organizace, do které byla přesunuta, podle jeho vyprávění.

0:42 Jeho příspěvek ze šestého listopadu zní jako

Proč organizovat výzkumnou skupinu po ChatGPT?

0:44 výzkumník vysvětlující, proč nakonec odešel. Říká, že se snažil umístit své lidi co nejlépe, než odešel, a přeje lidem, kteří zůstali, vše nejlepší. Toto formulování je důležité. Máme jeho vyjádření o odchodu, s kolegy, kteří tam stále jsou. V roce 2023 si stěžoval na rychlost. Osamělý výzkumník mohl přijít pozdě se slabými srovnáními. Skupina sdružila úsilí pro silnější experimenty.

1:06 Dokonce i váš průlom potřebuje základnu, která si může dovolit elektřinu. Některé práce se dostaly k vývojářům. Langford zmiňuje AutoGen, framework pro koordinaci agentů. Existují také veřejné výzkumné práce s modely, kde je mezi autory. Tato skupina vydala práci, kterou obhajovala spolu se svým posláním. Pak přichází reorganizace.

Co se změnilo, když se AI Frontiers přesunul do Microsoft AI?

1:23 Langford říká, že AI Frontiers se přesunul do Microsoft AI na začátku září. Mustafa Suleyman, dříve z Inflection, vede tuto organizaci. Langford popisuje střet s bývalým vedením Inflection. Toto je jeho vyprávění o přesunu. Langford to nazývá prostředím zaměřeným pouze na škálování a říká, že výzkum nebyl vítán. To je jeho charakteristika. Poskytuje také obchodní argument.

1:43 Škálování nabízí předvídatelnější výnosy než nejistý výzkum. Finanční oddělení může předvídatelné údaje vložit do tabulky. Říká, že tento přístup se soustředí na získávání a vylepšování dat. Jeho zájmy byly nové schopnosti a lepší techniky modelování. Neshoda byla o tom, které experimenty si zaslouží zdroje, a které výsledky dostanou šanci stát se užitečnými. O rok dříve, Suleymanovo oznámení o superinteligenci

Říká Microsoft, že výzkum je u konce?

2:05 říkalo, že chtěl nejlepší místo na světě pro výzkum a budování umělé inteligence. Langfordův nový příspěvek popisuje jeho zkušenost po reorganizaci. Tato starší ambice nestanoví, co se stalo uvnitř této skupiny. Vezměme si článek Full Bandwidth Transformer. Model vytváří token v každém kroku dekódování. Tento design také přivádí skrytý stav předchozí horní vrstvy do dalšího vstupu. Interní informace cestují spolu se slovem, které model vytiskl.

2:28 Autoři hlásí zlepšení v testovaných modelech. Langford se ptá, co by mohlo stát snížení nákladů na polovinu. Tato úspora zde zůstává nepotvrzena. Parametry, tréninková práce a náklady na provoz potřebují samostatná měření, než někdo zruší polovinu své objednávky GPU.

Proč se Langford nevrátil do Microsoft Research?

2:42 Důvod, který uvádí pro odchod, je bezprostřednější. Říká, že nemohl uvést inovace do praxe, nebo je dokonce vážně zvážit, uvnitř Microsoft AI. A návrat do Microsoft Research se mu zdál jako čelí stejné zablokované cestě. Lepší experiment je těžké brát vážně, když jeho další destinací je další interní prezentace. Také říká, že základní dohoda se rozpadla. Dělej dobrou práci a dobré věci se stanou. Z jeho pohledu byla odměnou nechtěná přestavba.

3:06 Píše, že každý další zakládající člen vedení se zdá, že dospěl k podobnému závěru. To se zdá, že je funkční. Neposkytuje nám ověřený seznam odchodů. Uživatelé AutoGen mají konkrétní varování před údržbou. Aktuální readme AutoGen říká, že projekt je archivován. Microsoft říká, že tam neposkytuje žádné opravy chyb, bezpečnostní opravy ani podporu. Směruje stávající uživatele k Microsoft Agent Framework a průvodci migrací. Zkontrolujte to, než uvedete starý tutoriál do produkce.

3:31 Toto varování bylo již v repozitáři před tímto příspěvkem.

Co by měl uživatel AutoGenu nyní zkontrolovat?

3:34 Neprokazuje, že tento odchod způsobil archivaci. A veřejný repozitář nástupnického frameworku tam stále je, nabízející orchestraci agentů pro produkci. Skutečná situace zahrnuje výzkumné práce, archivovaný nástroj a Microsoftem doporučeného nástupce. Každý má svůj vlastní životní cyklus. Zkontrolujte každý životní cyklus samostatně. Je kód udržován? Kde je migrační cesta?

3:53 Můžete vyhodnotit výzkum? Slavné jméno společnosti vám na tyto otázky neodpoví.

Co byly ty čtyři snahy o pipeline?

3:58 Což nás vrací k infrastruktuře. Langford říká, že AI Frontiers udržovalo monorepo sdílené ve výchozím nastavení napříč Microsoft Research. Zahrnovalo pipeline pro předtrénování modelů. To je důležité, protože mechanismus pro provádění přesvědčivých experimentů vyžaduje značnou práci, než přijde na řadu chytrý výzkumný nápad. Ví o nejméně čtyřech snahách o budování modelových pipeline. Ostatní tři, říká, nebyly v repozitářích sdílených napříč Microsoft Research. Jeho tým byl sdílen ve výchozím nastavení.

4:23 Korporátní efektivita dosáhla fáze, kdy každý dostane svou vlastní společnou kuchyni. To je selhání, které jeho vyprávění odhaluje. Výzkumníci potřebují opakovaně použitelnou infrastrukturu a cestu do skutečných produktů. Langford říká, že jeho skupina vybudovala sdílenou infrastrukturu a on ztratil důvěru v produktovou cestu. Reorganizace změnila, kdo vlastnil jeho skupinu. Přesto odešel. Pokud si to raději přečtete, než abyste to slyšeli ode mě, diff vám přistane ve schránce

4:44 každé ráno, zdarma na the daily diff dot dev, odkaz níže.

Co si zaslouží verdikt NEEDS REVIEW?

4:47 Takže dnešní verdikt, NEEDS REVIEW. Chtěl bych cestu od výzkumu k produktu a plán údržby, než bych toto konsolidaci nazval úspěchem. Langfordovo vyprávění mi dává důvody k pochybnostem o obou. Přihlaste se k odběru, stiskněte zvoneček a řekněte mi v komentářích, zda byste to označili jinak. A to je dnešní diff. Jsem Niko z Axrisi. Spojujte zodpovědně.

Zdroje

1. The End of AI Frontiers — former founder's account and internal-sharing scopeJohn Langford / Machine Learning (Theory)
2. AutoGen README — archived project and successor recommendationMicrosoft / GitHub
3. Microsoft Agent Framework — public successor repositoryMicrosoft / GitHub
4. Full-bandwidth transformer — author-reported design and results, v2Xi Wang and colleagues / arXiv
5. Towards Humanist Superintelligence — November 6, 2025 ambition, no current replyMustafa Suleyman / Microsoft AI
6. Mustafa Suleyman — Microsoft AI identity and biographyMustafa Suleyman
7. Authentic Mustafa portrait — cropped, background removed, resized and unflipped; corporate identity only, no authorship, closure order, current reaction or endorsementVillage Global / Wikimedia Commons
8. Original Village Global Grove photo — November 17, 2022Village Global / Flickr
9. Portrait licence — CC BY 2.0; attribution and adaptation disclosureCreative Commons
10. Spider-Man pointing template — resized with process-commentary caption; brief transformed satire, no identical-code evidence or actual executive reaction; hosting grants no licence, legal clearance or blanket reuseImgflip / Spider-Man cartoon
11. Fantasia broom GIF — Disney/@disney uploader with Disney Tumblr provenance; silent resized short excerpt with narrator-commentary caption, broom brought to life without multiplication claim; no actual executive reaction, hosting licence, legal-clearance or blanket-reuse claimDisney / GIPHY
12. Original Disney GIF source linkDisney / Tumblr
13. Hacker News discussion — attention context, no anonymous claims used as factsHacker News
14. AutoGen README archive clarification — October 16, before Langford's postMicrosoft / GitHub
15. Full-bandwidth transformer paper v2 licence — CC BY 4.0; exact excerpt reformatted, accompanying model diagram conceptualXi Wang and colleagues / Creative Commons