„Microsoft AI Frontiers“: Langfordo pertvarkos aprašymas ir bendros tyrimų gairės

Kas aptariama šiame vaizdo įraše

• Langfordas teigia, kad rugsėjo pradžioje perkėlimas į „Microsoft AI“ prieštaravo jo tyrimų prioritetams, todėl jis išėjo.
• Apie penkiasdešimt buvo jo grupės dydžio įvertis; straipsnyje minimi likę žmonės ir nepateikiamas atleidimų skaičius.
• Jo grupė dalinosi monorepo saugykla „Microsoft Research“ viduje; jis praneša apie bent keturias mokymo gairių pastangas, kitos trys buvo už saugyklų, dalinamų visoje MSR.
• Viso pralaidumo transformatorius perkelia ankstesnę paslėptą būseną kartu su pavyzdžio imties tokenu į kitą įvestį; bendros sąnaudų sutaupymo galimybės čia lieka nepatvirtintos.
• „AutoGen“ archyvuotas README failas rekomenduoja „Microsoft Agent Framework“; archyvo įspėjimas atsirado anksčiau nei tinklaraščio įrašas ir turi atskirą chronologiją.

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

Kodėl sužlugo „Microsoft“ „AI Frontiers“?

0:00 Dirbtinio intelekto tyrimų laboratorija „Microsoft“ viduje turėtų turėti ateitį. Jos bendraįkūrėjas sako, kad „AI Frontiers“ baigėsi, ir jis išėjo. Šiame vaizdo įraše, kodėl jis išėjo? Ir ką su tuo turi bendro keturi mokymo gairės? Štai ankstyvas atsakymas. Johnas Langfordas sako, kad rugsėjo mėnesį perkėlus jį į „Microsoft AI“, jo tyrimai tapo nesuderinami su naujais prioritetais. Jis išėjo. Jo aprašymas apie tuos keturis gaires paaiškina, kodėl sujungus visus

0:22 po vienu viršininku, problema vis dar gali būti nepastebėta. Šiandien sekmadienis, lapkričio aštuntoji, ir tai yra „The Daily Diff“. „AI Frontiers“ buvo tyrimų grupė „Microsoft Research“ viduje, įkurta po „ChatGPT“ atsiradimo. Langfordas teigia, kad jos dydis buvo apie penkiasdešimt žmonių. Ji dirbo su agentais ir naujomis modelių technikomis. „Microsoft AI“ yra atskira organizacija, į kurią ji buvo perkelta, pasak jo aprašymo.

0:42 Jo lapkričio šeštosios įrašas skamba kaip

Kodėl kurti tyrimų grupę po „ChatGPT“?

0:44 tyrėjas, aiškinantis, kodėl galiausiai išėjo. Jis sako, kad stengėsi kuo geriau įdarbinti savo žmones prieš išeidamas, ir linki sėkmės likusiems. Šis žodžių pasirinkimas yra svarbus. Turime jo išėjimo aprašymą, su kolegomis vis dar dirbančiais ten. Dar 2023 m. jo skundas buvo greitis. Vienas tyrėjas galėjo atvykti vėluodamas su silpnais palyginimais. Grupė sutelkė pastangas stipresniems eksperimentams.

1:06 Net jūsų proveržiui reikia bazinės linijos, kuri gali sau leisti elektros energiją. Kai kurie darbai pasiekė kūrėjus. Langfordas mini „AutoGen“, agentų koordinavimo sistemą. Taip pat yra viešų modelių tyrimų darbų, kuriuose jis yra tarp autorių. Ši grupė buvo išleidusi darbus, kuriuos gynė kartu su savo misijos pareiškimu. Tada ateina pertvarka.

Kas pasikeitė, kai „AI Frontiers“ persikėlė į „Microsoft AI“?

1:23 Langfordas sako, kad „AI Frontiers“ persikėlė į „Microsoft AI“ rugsėjo pradžioje. Mustafa Suleyman, anksčiau dirbęs „Inflection“, vadovauja tai organizacijai. Langfordas aprašo konfliktą su buvusia „Inflection“ vadovybe. Tai yra jo pasakojimas apie persikėlimą. Langfordas tai vadina tik mastelio didinimo aplinka ir sako, kad tyrimai buvo nepageidaujami. Tai jo apibūdinimas. Jis taip pat pateikia verslo argumentą.

1:43 Mastelio didinimas siūlo labiau prognozuojamą grąžą nei neaiškūs tyrimai. Finansų skyrius gali įtraukti prognozuojamus skaičius į skaičiuoklę. Jis sako, kad toks požiūris yra orientuotas į duomenų gavimą ir tobulinimą. Jo interesai buvo naujos galimybės ir geresnės modelių technikos. Ginčas kilo dėl to, kurie eksperimentai nusipelno išteklių, ir kurie rezultatai turėtų galimybę tapti naudingi. Prieš metus Suleymano pranešimas apie

Ar „Microsoft“ sako, kad tyrimai baigėsi?

2:05 superintelektą sakė, kad jis nori sukurti geriausią pasaulyje vietą dirbtinio intelekto tyrimams ir kūrimui. Langfordo naujame įraše aprašoma jo patirtis po pertvarkos. Šis senesnis siekis nepatvirtina, kas įvyko šioje grupėje. Paimkime „Full Bandwidth Transformer“ straipsnį. Modelis generuoja tokeną kiekviename dekodavimo žingsnyje. Šis dizainas taip pat įveda ankstesnio aukščiausio lygio paslėptą būseną į kitą įvestį. Vidinė informacija keliauja kartu su modelio atspausdintu žodžiu.

2:28 Autoriai praneša apie patobulinimus išbandytuose modeliuose. Langfordas klausia, kiek galėtų būti vertas kaštų sumažinimas perpus. Šis sutaupymas čia lieka nepatvirtintas. Parametrai, mokymo darbas ir aptarnavimo išlaidos turi būti matuojami atskirai prieš tai, kai kas nors atšaukia pusę savo GPU užsakymo.

Kodėl Langfordas negrįžo į „Microsoft Research“?

2:42 Jo nurodyta išėjimo priežastis yra akivaizdesnė. Jis sako, kad negalėjo įdiegti inovacijų, ar net rimtai jų svarstyti, „Microsoft AI“ viduje. O grįžimas į „Microsoft Research“ atrodė kaip susidūrimas su tuo pačiu užblokuotu keliu. Geresniu eksperimentu sunku rūpintis, kai jo kitas tikslas yra dar vienas vidinis pristatymas. Jis taip pat sako, kad pagrindinis susitarimas buvo nutrauktas. Darykite gerą darbą, ir geri dalykai nutiks. Jo požiūriu, atlygis buvo nepageidaujamas perkėlimas.

3:06 Jis rašo, kad, atrodo, visi kiti steigėjai pasiekė panašią išvadą. Tas „atrodo“ atlieka darbą. Jis nepateikia patvirtinto išvykusiųjų sąrašo. „AutoGen“ naudotojai turi konkretų priežiūros įspėjimą. Dabartiniame „AutoGen“ README faile teigiama, kad projektas yra archyvuotas. „Microsoft“ teigia, kad ten neteikia klaidų pataisymų, saugumo pataisymų ar palaikymo. Jis nukreipia esamus vartotojus į „Microsoft Agent Framework“ ir migracijos vadovą. Patikrinkite tai prieš diegdami seną pamoką į gamybą.

3:31 Tas įspėjimas jau buvo saugykloje prieš šį įrašą.

Ką dabar turėtų patikrinti „AutoGen“ vartotojas?

3:34 Jis neįrodo, kad šis išvykimas sukėlė archyvavimą. Ir įpėdinio sistemos viešoji saugykla vis dar yra ten, siūlanti agentų orkestravimą gamybai. Faktinė situacija apima mokslinius straipsnius, archyvuotą įrankį ir „Microsoft“ rekomenduojamą įpėdinį. Kiekvienas turi savo gyvavimo ciklą. Patikrinkite kiekvieną gyvavimo ciklą atskirai. Ar kodas palaikomas? Kur yra migracijos kelias?

3:53 Ar galite įvertinti tyrimą? Garsios įmonės pavadinimas neatsakys į šiuos klausimus už jus.

Kokios buvo tos keturios gairių pastangos?

3:58 Tai mus grąžina prie vamzdynų. Langfordas sako, kad „AI Frontiers“ išlaikė monorepo, pagal numatytuosius nustatymus bendrinamą visoje „Microsoft“ Research. Ji apėmė modelio parengiamojo mokymo gaires. Tai svarbu, nes įrengimui, skirtam įtikinamiems eksperimentams atlikti, reikia daug darbo, kol ateina eilė protingai tyrimų idėjai. Jis žino apie bent keturias pastangas kuriant modelių gaires. Kitos trys, sako jis, nebuvo saugyklose, bendrinamose visoje „Microsoft“ Research. Jo komandos saugykla buvo bendrinama pagal numatytuosius nustatymus.

4:23 Įmonių efektyvumas pasiekė etapą, kai kiekvienas gauna savo bendrą virtuvę. Tai yra nesėkmė, kurią atskleidžia jo aprašymas. Tyrėjams reikia daugkartinio naudojimo infrastruktūros ir kelio į realius produktus. Langfordas sako, kad jo grupė sukūrė bendrą infrastruktūrą, o jis prarado pasitikėjimą produkto keliu. Pertvarka pakeitė, kas priklausė jo grupei. Jis vis tiek išėjo. Jei norėtumėte tai perskaityti, o ne išgirsti iš manęs, „diff“ kasryt atkeliauja į jūsų pašto dėžutę

4:44 nemokamai adresu „thedailydiff.dev“, nuoroda žemiau.

Kas nusipelno sprendimo „NEEDS REVIEW“?

4:47 Taigi, šiandienos verdiktas: REIKALINGAS PERŽIŪRĖJIMAS. Norėčiau, kad būtų tyrimų į produktą kelias ir priežiūros planas, prieš tai pavadindamas šią konsolidaciją sėkminga. Langfordo aprašymas suteikia man priežasčių abejoti abiem. Prenumeruokite, paspauskite varpelį ir pasakykite komentaruose, ar būtumėte tai įvertinę kitaip. Ir tai yra šiandienos skirtumas. Aš esu Niko iš „Axrisi“. Sujunkite atsakingai.

Šaltiniai

1. The End of AI Frontiers — former founder's account and internal-sharing scopeJohn Langford / Machine Learning (Theory)
2. AutoGen README — archived project and successor recommendationMicrosoft / GitHub
3. Microsoft Agent Framework — public successor repositoryMicrosoft / GitHub
4. Full-bandwidth transformer — author-reported design and results, v2Xi Wang and colleagues / arXiv
5. Towards Humanist Superintelligence — November 6, 2025 ambition, no current replyMustafa Suleyman / Microsoft AI
6. Mustafa Suleyman — Microsoft AI identity and biographyMustafa Suleyman
7. Authentic Mustafa portrait — cropped, background removed, resized and unflipped; corporate identity only, no authorship, closure order, current reaction or endorsementVillage Global / Wikimedia Commons
8. Original Village Global Grove photo — November 17, 2022Village Global / Flickr
9. Portrait licence — CC BY 2.0; attribution and adaptation disclosureCreative Commons
10. Spider-Man pointing template — resized with process-commentary caption; brief transformed satire, no identical-code evidence or actual executive reaction; hosting grants no licence, legal clearance or blanket reuseImgflip / Spider-Man cartoon
11. Fantasia broom GIF — Disney/@disney uploader with Disney Tumblr provenance; silent resized short excerpt with narrator-commentary caption, broom brought to life without multiplication claim; no actual executive reaction, hosting licence, legal-clearance or blanket-reuse claimDisney / GIPHY
12. Original Disney GIF source linkDisney / Tumblr
13. Hacker News discussion — attention context, no anonymous claims used as factsHacker News
14. AutoGen README archive clarification — October 16, before Langford's postMicrosoft / GitHub
15. Full-bandwidth transformer paper v2 licence — CC BY 4.0; exact excerpt reformatted, accompanying model diagram conceptualXi Wang and colleagues / Creative Commons