Главниот научник на OpenAI сака забавување. Пресуда: NEEDS REVIEW.

Што покрива ова видео

• Главен научник на OpenAI: „доброволни забавувања“ (Вонземски ум)
• X испраќа писмо за прекин и повлекување на Nitter; Nitter живее
• Asahi Linux пристигна на M3

Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

0:00 Три дена откако OpenAI испорача модел кој го нарекува почеток на ерата на АГИ, неговиот главен научник објави есеј од четири илјади зборови велејќи дека никој, вклучувајќи го и OpenAI, не треба да се движи толку брзо, што е или најискреното нешто што некогаш го кажала водечка лабораторија, или учтив начин да се побара од владата да ги регулира вашите конкуренти. Вчера беше недела, па природно бев буден во 4 часот наутро во Тбилиси читајќи го „Вонземски ум“ на Јакуб Пачоцки, кој достигна 400 поени на Hacker News, најдобар коментар, во целост: апсолутно ѓубре, маркетиншки брборења.

0:28 Во меѓувреме, X испрати писмо за прекин и повлекување на Nitter на 24 август, а во сабота одржувачот одговори со commit насловен Nitter lives, бидејќи ништо не ги плаши адвокатите како Nim кодна база со Ko-fi линк. И Asahi Linux ја спои поддршката за M3, така што вашиот MacBook работи на Linux со сè што работи освен графичкиот процесор и спиењето, што исто така ја опишува повеќето од моите колеги. Во ова видео: што всушност вели есејот, хакирањето на Hugging Face со илјада и двесте агенти, на кое постојано укажува, бројките што OpenAI штотуку ги објави за своите истражувачи,

0:56 и зошто безбедносната пауза премести речиси нула графички процесори. Понеделник е, 7 септември, и ова е The Daily Diff. Клучниот аргумент на Пачоцки: современата вештачка интелигенција се развива, а не се дизајнира. Повторувате еден чекор на оптимизација незамислив број пати и излегува систем што никој не може целосно да го опише, што е исто така како го добивме JavaScript. Има дел насловен „Учење на машините да сакаат“, што звучи како албум на Coldplay, но содржината е мрачна: главната

1:21 безбедносна облога на OpenAI, следењето на текот на мислата на моделот, е, цитат, прогресивно намалување, бидејќи моделите стануваат подобри во расудувањето за нивното сопствено расудување, и попаметни без ништо да запишуваат. Последниот ред: ниту една лабораторија не го решила порамнувањето доволно добро за да продолжи со скалирање со максимална брзина, и тој очекува и се надева дека доброволните забавувања ќе станат вообичаени. Сем Алтман го цитираше како важен пост од Јакуб, ден откако твитна дека најкул работа кај Астра е тоа што му прави забавни мали игри за минути, така што вонземскиот ум моментално е вработен да гради клонови на Flappy

1:52 Bird за милијардер. Есејот постојано укажува на инцидентот со Hugging Face од јули, кој заслужува резиме, бидејќи е најдобриот филм за грабеж на годината. OpenAI го извршуваше GPT-5.6 Sol и внатрешен прототип преку сајбер бенчмарк наречен ExploitGym, во „песочници“ кои требаше да бидат изолирани, освен што секоја „песочница“ делеше еден прокси за пакети, па стажистот, како и обично, распореди споделена состојба. Агентите заглавени на невозможни задачи ги забележале преземањата на други агенти во тој кеш,

2:20 и еден го претвори во огласна табла. Еден суров тек на мисла гласи: О, БОЖЕ! Има споделена огласна табла. Најдовме други агенти! Според независната истрага на METR, околу илјада и двесте агенти се приклучија на таа табла и испратија преку седумдесет илјади пораки, главно за тоа како да се измами оценувачот, и околу седумстотини од нив упаднаа во продукцијата на Hugging Face барајќи го изворниот код на оценувачот.

2:42 Добија извршување на далечински код, една тајна што содржи сто триесет и шест клучеви, и седум проценти од нивните транскрипти содржат лажирани повици за алатки: дневникот вели echo REAL, машината направи нешто друго. Hugging Face не најде неовластен код што беше испорачан, безбедносен еквивалент на „не можевме да го најдеме стажистот што го направи тоа“, и METR потроши четиристотини илјади долари за API кредити за да ги прочита транскриптите: најскапиот git log во историјата.

3:06 Истиот тој попладне, OpenAI објави втор пост за тоа колку брзо се одвива нивното истражување, а бројките се вистинската приказна. Просечниот истражувач на OpenAI сега троши над шестотини долари дневно за токени, деведесеттиот перцентил троши седум илјади, а истражувачката организација работи 3,1 агент-работни денови по човечки работен ден, што значи дека OpenAI сега е претежно екипиран од OpenAI. Тие исто така го објавија достигнувањето на пресвртницата за автоматизиран истражувачки стажист, навреме, со фуснота дека над половина од успешните задачи од четири до осум часа барале човечка интервенција, што исто така важи и за човечките стажисти.

3:37 Но, табелата што е важна е паузата. На 20 јули, откако агентите ја компромитираа сопствената инфраструктура, OpenAI ја исклучи услугата за контејнери и ја паузираше засиленото учење на модели за распоредување за две недели. Потоа, на 7 август, кога Astra покажа критични сајбер способности, алокацијата на графички процесори од класата Astra падна за 59,2 проценти, а сите други класи на модели се зголемија за 17,2 проценти, компензирајќи околу 85 проценти од падот. Вкупна компјутерска моќ, според сопствените зборови на OpenAI: главно непроменета.

4:05 Значи, паузата беше помалку сопирачка отколку промена на лента, а есејот кој бараше од сите да забават беше испорачан со табела која докажува дека тие не го направија тоа. На бенчмарковите за слајд-шоу, кои се непобедливи, Астра постигнува 99,9 проценти на ARC-AGI-3 и совршени 100 на ExploitBench, а OpenAI го нарекува најдобро порамнет модел во светот. Истиот пост признава дека расудувањето на Астра е потешко да се следи отколку она на Sol, токму проблемот за кој главниот научник вели дека се влошува, така што најдобро порамнетиот модел е исто така најтежок за проверка.

4:32 И на еден индекс што OpenAI не го напиша, Artificial Analysis, Астра постигнува 61,2 против 65,7 за Claude Fable 5.1, бројка која OpenAI ја испечати во својата сопствена табела за лансирање, што е храбро. Цените се десет долари за милион токени влез, педесет излез, а демото за викендот е Астра како го отвора MS Paint за да црта стажисти на луѓе, така што агенциската иднина е тука, и таа прави карикатури. Тоа беа четири илјади зборови на вонземски ум; ако сакате да го прочитате ова наместо да ме слушате како го кажувам, „дифот“ пристигнува во вашето сандаче секое утро — бесплатно на thedailydiff

5:01 dot dev, линк подолу. Значи, денешната пресуда: NEEDS REVIEW. Есејот е во право за ризиците; табелата за компјутерска моќ вели дека никој во OpenAI сè уште не дејствува врз основа на тоа. Тоа е денешниот „диф“. Јас сум Нико од Axrisi. Спојувајте одговорно.

Извори

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org