Microsoft AI Frontiers: Relacja Langforda z reorganizacji i wspólne potoki badawcze

Co obejmuje ten film

• Langford twierdzi, że przeniesienie na początku września do Microsoft AI kolidowało z jego priorytetami badawczymi i odszedł.
• Około pięćdziesięciu osób to jego szacunkowa wielkość grupy; artykuł wspomina o ludziach, którzy zostali, i nie podaje liczby zwolnień.
• Jego grupa współdzieliła monorepo w ramach Microsoft Research; zgłasza co najmniej cztery wysiłki związane z potokami szkoleniowymi, przy czym pozostałe trzy poza repozytoriami są współdzielone w całym MSR.
• Transformator Full-bandwidth przenosi poprzedni ukryty stan wraz z próbkowanym tokenem do następnego wejścia; całkowite oszczędności kosztów pozostają tutaj nieustalone.
• Zarchiwizowane README AutoGen zaleca Microsoft Agent Framework; ostrzeżenie o archiwizacji poprzedza blog i ma osobną chronologię.

Przetłumaczona transkrypcja

Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.

Dlaczego Microsoft AI Frontiers się rozpadło?

0:00 Laboratorium badawcze AI w Microsofcie powinno mieć przyszłość. Jego współzałożyciel mówi, że AI Frontiers się skończyło i on odszedł. W tym filmie, dlaczego odszedł? I co mają z tym wspólnego cztery potoki szkoleniowe? Oto wczesna odpowiedź. John Langford mówi, że przeniesienie we wrześniu do Microsoft AI sprawiło, że jego badania stały się niekompatybilne z nowymi priorytetami. Odszedł. Jego relacja o tych czterech potokach wyjaśnia, dlaczego umieszczenie wszystkich

0:22 pod jednym szefem nadal może nie rozwiązać problemu. Jest niedziela, ósmy listopada, i to jest The Daily Diff. AI Frontiers była grupą badawczą w ramach Microsoft Research, utworzoną po pojawieniu się ChatGPT. Langford szacuje jej wielkość na około pięćdziesiąt osób. Pracowała nad agentami i nowymi technikami modelowania. Microsoft AI to oddzielna organizacja, do której została przeniesiona, według jego relacji.

0:42 Jego post z szóstego listopada brzmi jak

Po co organizować grupę badawczą po ChatGPT?

0:44 badacz wyjaśniający, dlaczego w końcu odszedł. Mówi, że starał się jak najlepiej rozlokować swoich ludzi przed odejściem, i życzy powodzenia ludziom, którzy zostali. To sformułowanie ma znaczenie. Mamy jego relację z odejścia, z kolegami nadal tam. W roku dwutysięcznym dwudziestym trzecim, jego skargą była szybkość. Samotny badacz mógłby przyjść późno ze słabymi porównaniami. Grupa połączyła wysiłki dla silniejszych eksperymentów.

1:06 Nawet twój przełom potrzebuje punktu odniesienia, który może sobie pozwolić na prąd. Niektóre prace dotarły do deweloperów. Langford wymienia AutoGen, framework do koordynowania agentów. Istnieją również publiczne prace badawcze nad modelami, z nim wśród autorów. Ta grupa opublikowała prace do obrony wraz z deklaracją misji. Potem następuje reorganizacja.

Co się zmieniło, gdy AI Frontiers przeniosło się do Microsoft AI?

1:23 Langford mówi, że AI Frontiers przeniosło się do Microsoft AI na początku września. Mustafa Suleyman, wcześniej z Inflection, kieruje tą organizacją. Langford opisuje konflikt z byłym kierownictwem Inflection. To jest jego relacja z tego przeniesienia. Langford nazywa to środowiskiem tylko do skalowania i mówi, że badania były niechciane. To jest jego charakterystyka. Dostarcza również argument biznesowy.

1:43 Skalowanie oferuje bardziej przewidywalne zyski niż niepewne badania. Dział finansowy może umieścić przewidywalne w arkuszu kalkulacyjnym. Mówi, że to podejście koncentruje się na pozyskiwaniu i udoskonalaniu danych. Jego zainteresowania to nowe możliwości i lepsze techniki modelowania. Rozbieżność dotyczyła tego, które eksperymenty zasługują na zasoby, i które wyniki będą miały szansę stać się użyteczne. Rok wcześniej, ogłoszenie Suleymana o superinteligencji

Czy Microsoft twierdzi, że badania się skończyły?

2:05 mówiło, że chce on najlepszego miejsca na świecie do badań i budowania AI. Nowy post Langforda opisuje jego doświadczenia po reorganizacji. Ta wcześniejsza ambicja nie ustala, co wydarzyło się w tej grupie. Weźmy artykuł Full Bandwidth Transformer. Model produkuje token na każdym kroku dekodowania. Ta konstrukcja również podaje poprzedni ukryty stan górnej warstwy do następnego wejścia. Informacje wewnętrzne podróżują obok słowa wydrukowanego przez model.

2:28 Autorzy zgłaszają ulepszenia w testowanych modelach. Langford pyta, ile mogłoby być warte zmniejszenie kosztów o połowę. Te oszczędności pozostają tutaj nieustalone. Parametry, praca szkoleniowa i koszty obsługi wymagają oddzielnych pomiarów, zanim ktokolwiek anuluje połowę swojego zamówienia na GPU.

Dlaczego Langford nie wrócił do Microsoft Research?

2:42 Powód, który podaje za odejście, jest bardziej bezpośredni. Mówi, że nie mógł wprowadzić innowacji do użytku, ani nawet poważnie rozważyć, w ramach Microsoft AI. A powrót do Microsoft Research wydawał się stawić czoła tej samej zablokowanej drodze. Lepszy eksperyment jest trudny do zaangażowania, gdy jego następnym celem jest kolejna wewnętrzna prezentacja. Mówi również, że podstawowa umowa się zepsuła. Rób dobrą robotę, a dzieją się dobre rzeczy. Z jego perspektywy, nagrodą był niechciany transfer.

3:06 Pisze, że każdy inny członek kierownictwa założycielskiego wydaje się dojść do podobnego wniosku. To "wydaje się" wykonuje pracę. Nie podaje nam zweryfikowanej listy odejść. Użytkownicy AutoGen mają konkretne ostrzeżenie dotyczące konserwacji. Obecne readme AutoGen mówi, że projekt jest zarchiwizowany. Microsoft mówi, że nie dostarcza poprawek błędów, poprawek bezpieczeństwa ani wsparcia. Wskazuje istniejących użytkowników w kierunku Microsoft Agent Framework i przewodnika migracji. Sprawdź to, zanim wprowadzisz stary samouczek do produkcji.

3:31 To ostrzeżenie było już w repozytorium przed tym postem.

Co powinien teraz sprawdzić użytkownik AutoGen?

3:34 Nie dowodzi, że to odejście spowodowało archiwizację. A publiczne repozytorium następcy frameworka nadal tam jest, oferując orkiestrację agentów do produkcji. Rzeczywista sytuacja obejmuje prace badawcze, zarchiwizowane narzędzie i rekomendowanego przez Microsoft następcę. Każdy ma swój własny cykl życia. Sprawdź każdy cykl życia osobno. Czy kod jest utrzymywany? Gdzie jest ścieżka migracji?

3:53 Czy możesz ocenić badania? Sławna nazwa firmy nie odpowie na te pytania za ciebie.

Jakie były te cztery wysiłki związane z potokiem?

3:58 Co prowadzi nas z powrotem do infrastruktury. Langford mówi, że AI Frontiers utrzymywało monorepo domyślnie współdzielone w Microsoft Research. Obejmowało ono potok wstępnego szkolenia modeli. To ma znaczenie, ponieważ maszyny do prowadzenia przekonujących eksperymentów wymagają znacznej pracy, zanim pomysł na sprytne badania dostanie swoją kolej. Wie o co najmniej czterech wysiłkach budujących potoki modeli. Pozostałe trzy, jak mówi, nie znajdowały się w repozytoriach współdzielonych w Microsoft Research. Jego zespół był domyślnie współdzielony.

4:23 Efektywność korporacyjna osiągnęła etap, w którym każdy dostaje swoją własną wspólną kuchnię. To jest porażka, którą ujawnia jego relacja. Badacze potrzebują infrastruktury wielokrotnego użytku i drogi do prawdziwych produktów. Langford mówi, że jego grupa zbudowała współdzieloną infrastrukturę i stracił zaufanie do drogi produktowej. Reorganizacja zmieniła, kto był właścicielem jego grupy. Nadal odszedł. Jeśli wolisz to przeczytać, niż usłyszeć, jak to mówię, "The Diff" ląduje w twojej skrzynce

4:44 codziennie rano, za darmo na "thedailydiff dot dev", link poniżej.

Co zasługuje na werdykt POTRZEBUJE PRZEGLĄDU?

4:47 Więc dzisiejszy werdykt, POTRZEBUJE PRZEGLĄDU. Chciałbym mieć ścieżkę od badań do produktu i plan utrzymania, zanim nazwę tę konsolidację sukcesem. Relacja Langforda daje mi powody do kwestionowania obu. Subskrybuj, naciśnij dzwonek i powiedz mi w komentarzach, czy oceniłbyś to inaczej. I to wszystko na dzisiaj. Jestem Niko z Axrisi. Łącz odpowiedzialnie.

Źródła

1. The End of AI Frontiers — former founder's account and internal-sharing scopeJohn Langford / Machine Learning (Theory)
2. AutoGen README — archived project and successor recommendationMicrosoft / GitHub
3. Microsoft Agent Framework — public successor repositoryMicrosoft / GitHub
4. Full-bandwidth transformer — author-reported design and results, v2Xi Wang and colleagues / arXiv
5. Towards Humanist Superintelligence — November 6, 2025 ambition, no current replyMustafa Suleyman / Microsoft AI
6. Mustafa Suleyman — Microsoft AI identity and biographyMustafa Suleyman
7. Authentic Mustafa portrait — cropped, background removed, resized and unflipped; corporate identity only, no authorship, closure order, current reaction or endorsementVillage Global / Wikimedia Commons
8. Original Village Global Grove photo — November 17, 2022Village Global / Flickr
9. Portrait licence — CC BY 2.0; attribution and adaptation disclosureCreative Commons
10. Spider-Man pointing template — resized with process-commentary caption; brief transformed satire, no identical-code evidence or actual executive reaction; hosting grants no licence, legal clearance or blanket reuseImgflip / Spider-Man cartoon
11. Fantasia broom GIF — Disney/@disney uploader with Disney Tumblr provenance; silent resized short excerpt with narrator-commentary caption, broom brought to life without multiplication claim; no actual executive reaction, hosting licence, legal-clearance or blanket-reuse claimDisney / GIPHY
12. Original Disney GIF source linkDisney / Tumblr
13. Hacker News discussion — attention context, no anonymous claims used as factsHacker News
14. AutoGen README archive clarification — October 16, before Langford's postMicrosoft / GitHub
15. Full-bandwidth transformer paper v2 licence — CC BY 4.0; exact excerpt reformatted, accompanying model diagram conceptualXi Wang and colleagues / Creative Commons