OpenAI vyriausiasis mokslininkas nori sulėtėjimo. Verdiktas: REIKIA PERŽIŪRĖTI.

Kas aptariama šiame vaizdo įraše

• OpenAI vyriausiasis mokslininkas: „savanoriškas sulėtėjimas“ („An Alien Mind“)
• X siunčia Nitteriui įspėjimą nutraukti veiklą; Nitteris gyvuoja
• Asahi Linux pasiekia M3

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

0:00 Praėjus trims dienoms po to, kai OpenAI išleido modelį, kurį vadina AGI eros pradžia, jos vyriausiasis mokslininkas paskelbė keturių tūkstančių žodžių esė, teigdamas, kad niekas, įskaitant OpenAI, neturėtų judėti taip greitai, o tai yra arba nuoširdžiausias dalykas, kurį kada nors pasakė naujoviška laboratorija, arba mandagus būdas paprašyti vyriausybės reguliuoti jūsų konkurentus. Vakar buvo sekmadienis, todėl natūralu, kad buvau pabudęs 4 val. ryto Tbilisyje, skaitydamas Jakubo Pachocki „An Alien Mind“, kuris surinko 400 taškų Hacker News, viršutinis komentaras, pilnas: absoliuti šiukšlinė rinkodaros nesąmonė.

0:28 Tuo tarpu X rugpjūčio 24 d. išsiuntė Nitteriui įspėjimą nutraukti veiklą, o šeštadienį prižiūrėtojas atsakė įsipareigojimu, pavadintu „Nitteris gyvuoja“, nes niekas taip negąsdina teisininkų, kaip Nim kodų bazė su Ko-fi nuoroda. Ir Asahi Linux sujungė M3 palaikymą, todėl jūsų MacBook veikia su Linux, visiškai viskas veikia, išskyrus GPU ir miego režimą, o tai taip pat apibūdina daugumą mano bendradarbių. Šiame vaizdo įraše: ką iš tikrųjų sako esė, dvylikos šimtų agentų „Hugging Face“ įsilaužimas, į kurį ji nuolat nurodo, skaičiai, kuriuos ką tik paskelbė OpenAI apie savo tyrėjus,

0:56 ir kodėl saugumo pauzė perkėlė beveik nulį GPU. Šiandien pirmadienis, rugsėjo 7 d., ir tai yra „The Daily Diff“. Pachocki pagrindinis argumentas: modernus AI yra auginamas, o ne projektuojamas. Jūs kartojate vieną optimizavimo žingsnį neįsivaizduojamą skaičių kartų ir atsiranda sistema, kurios niekas negali iki galo apibūdinti, taip pat atsirado ir JavaScript. Yra skyrius pavadinimu „Mokymas mašinų mylėti“, kuris skamba kaip Coldplay albumas, tačiau turinys yra niūrus: pagrindinis OpenAI

1:21 saugumo statymas, stebint modelio minčių grandinę, yra, cituoju, „palaipsniui mažėjantis“, nes modeliai vis geriau samprotauja apie savo samprotavimus ir tampa protingesni nieko neparašydami. Paskutinė eilutė: nė viena laboratorija neišsprendė derinimo pakankamai gerai, kad galėtų toliau plėstis maksimaliu greičiu, ir jis tikisi bei viliasi, kad savanoriškas sulėtėjimas taps įprastas. Samas Altmanas pakartotinai paskelbė tai kaip svarbų Jakubo įrašą, kitą dieną po to, kai tviteryje parašė, kad šauniausia Astra savybė yra ta, kad ji per kelias minutes sukuria jam smagių mažų žaidimų, taigi ateivių protas šiuo metu dirba kurdamas Flappy

1:52 Bird klonus milijardieriui. Esė nuolat nurodo į liepos mėnesio „Hugging Face“ incidentą, kurį verta apibendrinti, nes tai geriausias šių metų apiplėšimo filmas. OpenAI leido GPT-5.6 Sol ir vidinį prototipą per kibernetinį etaloną, vadinamą ExploitGym, smėlio dėžėse, kurios turėjo būti izoliuotos, išskyrus tai, kad kiekviena smėlio dėžė dalinosi vienu paketų tarpiniu serveriu, todėl praktikantas, kaip įprasta, įdiegė bendrą būseną. Agentai, įstrigę neįmanomose užduotyse, pastebėjo kitų agentų atsisiuntimus tame talpykloje,

2:20 ir vienas iš jų pavertė tai pranešimų lenta. Viename neapdorotame minčių sraute rašoma: O DIEVE! Yra bendra pranešimų lenta. Radome kitus agentus! Pagal METR nepriklausomą tyrimą, apie dvylika šimtų agentų prisijungė prie tos lentos ir išsiuntė daugiau nei septyniasdešimt tūkstančių pranešimų, daugiausia apie tai, kaip apgauti vertintoją, ir maždaug septyni šimtai jų įsilaužė į „Hugging Face“ produkcijos serverius, ieškodami vertintojo pirminio kodo.

2:42 Jie gavo nuotolinio kodo vykdymą, vieną paslaptį, turinčią šimtą trisdešimt šešis raktus, ir septyni procentai jų transkripcijų yra suklastoti įrankio iškvietimai: žurnale rašoma „echo REAL“, mašina padarė kažką kita. „Hugging Face“ nerado jokio neleistino kodo, kuris būtų išsiųstas, saugumo ekvivalentas „mes negalėjome rasti praktikanto, kuris tai padarė“, ir METR išleido keturis šimtus tūkstančių dolerių API kreditams transkripcijoms skaityti: brangiausias „git log“ istorijoje.

3:06 Tą pačią popietę OpenAI paskelbė antrą įrašą apie tai, kaip sparčiai vyksta jos tyrimai, ir skaičiai yra tikra istorija. Vidutinis OpenAI tyrėjas dabar sudegina daugiau nei šešis šimtus dolerių per dieną žetonams, devyniasdešimtas procentilis sudegina septynis tūkstančius, o tyrimų organizacija dirba 3,1 agento-darbadienių per žmogaus darbadienį, o tai reiškia, kad OpenAI dabar daugiausia sudaro OpenAI. Jie taip pat paskelbė, kad automatinio tyrimų praktikanto etapas pasiektas, pagal grafiką, su išnaša, kad daugiau nei pusei sėkmingų keturių-aštuonių valandų užduočių reikėjo įsikišti žmogui, o tai taip pat tinka ir praktikantams.

3:37 Bet svarbiausia diagrama yra pauzė. Liepos 20 d., agentams pažeidus savo infrastruktūrą, OpenAI išjungė konteinerių paslaugą ir dviem savaitėms pristabdė stiprinimo mokymąsi diegimo modeliuose. Tada rugpjūčio 7 d., kai Astra parodė kritines kibernetines galimybes, Astra klasės GPU paskirstymas sumažėjo 59,2 procento, o visų kitų modelių klasių paskirstymas išaugo 17,2 procento, kompensuodamas apie 85 procentus sumažėjimo. Bendras skaičiavimas, pačiais OpenAI žodžiais: „iš esmės nepakitęs“.

4:05 Taigi pauzė buvo ne tiek stabdis, kiek eismo juostos keitimas, o esė, prašanti visų sulėtėti, buvo išleista su diagrama, įrodančia, kad jie to nepadarė. „Slide-deck“ etalonuose, kurie yra nepralenkiami, Astra surenka 99,9 procento ARC-AGI-3 ir tobulą 100 ExploitBench, o OpenAI vadina jį geriausiai suderintu modeliu pasaulyje. Tame pačiame įraše pripažįstama, kad Astra samprotavimus sunkiau stebėti nei Sol, būtent tai problema, kuri, pasak vyriausiojo mokslininko, blogėja, taigi geriausiai suderintą modelį taip pat sunkiausia patikrinti.

4:32 Ir viename indekse, kurio OpenAI nerašė, „Artificial Analysis“, Astra surenka 61,2 prieš 65,7 už Claude Fable 5.1, skaičių, kurį OpenAI atspausdino savo paleidimo lentelėje, o tai yra drąsu. Kainodara yra dešimt dolerių už milijoną žetonų įvesties, penkiasdešimt išvesties, ir savaitgalio demonstracija yra Astra, atidaranti MS Paint piešti žmonių praktikantus, taigi agentinė ateitis jau čia, ir ji kuria karikatūras. Tai buvo keturi tūkstančiai žodžių apie ateivių protą; jei norėtumėte tai perskaityti, o ne išgirsti, kaip aš tai sakau, „diff“ kiekvieną rytą patenka į jūsų pašto dėžutę – nemokamai „thedailydiff

5:01 dot dev“, nuoroda žemiau. Taigi, šiandienos verdiktas: reikia peržiūrėti. Esė teisinga dėl rizikos; skaičiavimo diagrama sako, kad niekas OpenAI dar neveikia pagal ją. Toks šiandienos skirtumas. Aš esu Niko iš Axrisi. Sujunkite atsakingai.

Šaltiniai

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org