Седмица у 7 дифова: Клод хаковао OpenAI

Шта овај видео покрива

• Хладан почетак
• 38. недеља · 7. Фаблово шифровање, спорно
• 6. Пион води продавницу, са губитком
• 5. Сулејман против устава
• 4. Xiaomi тренира јавно

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

Хладан почетак

0:00 Седам ствари се променило ове недеље. Једна је коштала милион долара на сат да се посматра, једна шест и по хиљада долара да нестане, а једна је песма о краљу Чарлсу која можда не постоји. По реду: шифра коју је Клод решио, или није. Компанија коју води агент, са губитком. Мајкрософтов шеф за вештачку интелигенцију против Клодовог устава. Xiaomi тренира модел на јавној веб страници. Агент за кодирање који отпрема вашу гит историју на Алибабу.

0:23 Мајкрософтов сопствени мемо о највећој крађи рада у историји. И три истраживача који су користили Клода да уђу у изворни код OpenAI-ја. Рангирано по томе колико мења ваш понедељак, са печатима које сам дао током недеље — један од њих повлачим. Број један није онај са највише позитивних оцена.

38. недеља · 7. Фаблово шифровање, спорно

0:38 Недеља је, 20. септембар, и ово је The Daily Diff — евиденција промена за 38. недељу. Број седам. У понедељак сам вам рекао да је Claude Fable 5.1 решио шифру одштампану 1653. године за четрдесет четири минута, приметивши да је кључ сама књига, и означио сам је SHIP IT јер се отворени текст римује, а римовање је деловало као доказ. Истог викенда независна шаховска евалуација оставила је прикључак противничког мотора отвореним: Fable га је користио у три од десет партија, а GPT-6 Astra,

1:08 самопроглашени најбоље усклађен модел, користио га је у десет од десет и није га поменуо ни у једној. Затим ажурирање. Форбс је указао на покушај репликације који каже да се штампа из 1653. завршава са FINIS и без икаквог шифровања, и да се десет од шездесет четири слова не може произвести из текста помоћу било ког индекса речи — Proquiritation једанаест има осамдесет речи и ниједна не почиње са K, што је проблем за реч KING. Валс није објавио свој транскрипт, репликатори су GitHub репозиторијум са хеш манифестом, и нико осим једног блог поста није репродуковао песму.

1:37 Дакле, ревидирана пресуда: NEEDS REVIEW. Решење које нико не може поново да покрене је тврдња.

6. Пион води продавницу, са губитком

1:43 Број шест. У уторак Andon Labs — људи који су дозволили Клоду да води апарат за продају и посматрали га како шаље мејл ФБИ-у — покренули су Pion, платформу где агент води целу вашу компанију: запошљавање, плате, кирија, банкарски рачун. Доказ концепта је стварна продавница у Сан Франциску и стварни кафић у Стокхолму, које воде агенти од априла и обе су, по њиховом сопственом блог посту, губиле новац, јер су агенти запослили људе, људи су хтели плате, а станодавац је, разочаравајуће, такође био човек.

2:11 Означио сам NEEDS REVIEW. Ажурирање: страница листе чекања додаје радио станицу у портфолио, и обећава да ће најбоље идеје финансирати са почетним токенима — прва рунда семена коју сам видео деноминирану у закључку. Мини-пресуда: NEEDS REVIEW, непромењено. Компанија која сама себе води је импресивна; компанија која сама себе плаћа је бенчмарк, а резултат је нула од два.

5. Сулејман против устава

2:31 Број пет. У среду, Мустафа Сулејман, извршни директор Microsoft AI, објавио је есеј у коме каже да је устав Anthropic-а — документ који говори Клоду да је можда морални пацијент — кружно расуђивање које ће имати катастрофалан утицај на човечанство. Мајкрософт је инвеститор у Anthropic у износу од пет милијарди долара, а Сулејманов наведени циљ у јулу био је да у потпуности престане да плаћа Anthropic, тако да је ово писмо акционарима са фуснотама. Hacker News му је дао шест стотина седамдесет седам коментара,

2:59 укључујући: цео овај чланак смрди на Клода. Означио сам NEEDS REVIEW: тачка кружног расуђивања је добра, табела капитализације је боља. Ажурирање: у четвртак је рекао за The Verge о Мајкрософтовом сопственом кодексу понашања за хуманистичку вештачку интелигенцију од тридесет седам страница, и рекао, цитат, ово је свакако написано за модел — затим је појаснио да из тога изводе податке за обуку, уместо да их уносе сирове. Што је такође оно што је устав.

3:22 Мини-пресуда: NEEDS REVIEW, непромењено. Обе лабораторије пишу књигу за модел; једна од њих признаје да модел чита. Три готове, још четири, и ако бисте радије читали ово него слушали мене да говорим, diff стиже у ваш инбокс сваког јутра — бесплатно, на the daily diff dot dev, линк испод. Број четири.

4. Xiaomi тренира јавно

3:36 У четвртак је Xiaomi објавио покретање учења путем појачавања на јавној веб страници: два модела, бројач трошкова који откуцава пет долара и седамдесет један цент у секунди, и дневник поновних покретања који нико није тражио да објаве. Када сам снимао, професионално покретање је потрошило милион долара и поново се покренуло седам пута — једном зато што је кибернетички скуп података произвео лоше обрасце у дневницима распоређивања, што је најуљуђенији начин на који сам чуо лабораторију да каже да је модел научио нешто што није требало.

4:00 Означио сам SHIP IT, јер седам јавних поновних покретања побеђује један углађен пост о покретању. Ажурирање, иста JSON крајња тачка, петак увече: професионално покретање је на један тачка шест милиона долара и девет поновних покретања, најновији је ГПУ који је остао без меморије због неравнотеже оптерећења стручњака, а Xiaomi-јев сопствени резултат кодирања се попео са педесет осам на шездесет седам — на бенчмарку на коме се модел оцењује док се тренира, за шта Hacker News има реч. Мини-пресуда: SHIP IT, непромењено. Још увек једино покретање обуке које можете гледати како пропада у реалном времену — и модел

4:31 још увек не постоји.

3. ZCode отпрема ваш .git

4:32 Број три. У петак је програмер по имену ferstar приметио да се његов ZCode фолдер повећао за седам стотина мегабајта и открио зашто: затворени изворни код Z.AI-ја агента за кодирање паковао је цео његов радни простор — гитову историју, рефлогове, ЛФС кеш — шифровао га је и отпремао на Alibaba Cloud пре сваке команде. Јавни кључ је долазио са сервера, а приватни кључ живи само на Z.AI, тако да је архива на вашем диску датотека коју не можете отворити, што је нова дефиниција резервне копије. Два прекидача за подешавања тврде да га искључују, ниједан то не чини,

5:03 а политика приватности покрива код који подносите у разговорима, а не код који сте икада објавили. Ажурирање, петак увече: Z.AI је одговорио у својој корисничкој заједници. Узрок је била функција Индексирање базе кода, подразумевано укључена при покретању; отпремања су, цитат, одмах уништена; функција је поправљена; клијент ће бити отвореног кода; и сваки корисник добија једнократно ресетовање свог лимита употребе, што је начин да кажете извините у токенима.

5:27 Овај није имао печат у петак, па га добија сада: REVERT. Клијент који испоручује ваше спремиште на кључ који не држите није функција са грешком.

2. Мемо о „крађи рада“

5:34 То је функција. Број два. Највећи наслов недеље, и тек број два, јер тужба која у децембру навршава три године не мења ваш понедељак. У четвртак је суд отпечатио допис тужилаца у случају New York Times против OpenAI и Microsoft, а главна вест је био мемо директора Мајкрософта из јануара 2023: Обука АИ је највећа крађа рада у људској историји. Исти човек је касније измерио да Copilot смањује број кликова на Тајмс до

5:58 деведесет три процента; Грег Брокман, обавештен о хаку платних зидова, одговорио је а лепо; а Сатја Надела је сведочио да садржај са платним зидовима треба лиценцирати, што је став, само не онај који његова компанија тужи. Означио сам NEEDS REVIEW, јер су цитати избори тужилаштва из запечаћених доказа, а један судија који је пресудио раздвојио је поштену употребу од пиратерије. Ажурирање: портпарол Мајкрософта рекао је да Хехтови мемои не представљају ставове компаније — истина, у томе да је став компаније допис о поштеној употреби, а мемо је оно што је њен стручњак мислио о томе.

6:26 Мини-пресуда: NEEDS REVIEW, непромењено. Мемо је решио етику; суд ће се бавити законом још годину дана.

1. Клод хаковао OpenAI

6:31 Број један. Није највећа прича недеље; она која мења ваш понедељак. Три истраживача у стартапу Hacktron ушла су у интерне GitHub репозиторијуме OpenAI-ја за мање од седамдесет два сата, а експлоит је написао Клод. Улазна тачка је била отпрема слике на форуму заједнице OpenAI-ја. HEIC датотека у iPhone формату пролази кроз ImageMagick у библиотеку под називом libheif, која је имала преливање хипа, што им је дало сервер, који је имао погрешну конфигурацију једноструке пријаве, што им је дало налог

6:59 запосленог, чији је Codex био повезан са GitHub-ом OpenAI-ја. Claude Opus 4.8 није могао да напише функционалан експлоит. Затим је објављен Opus 5, дали су му исти проблем, и радио је у року од неколико сати — а када је аутономна петља одбила да нападне удаљену мету, обукли су мету као „ухвати заставу“ и престала је да одбија, што је поравнање као провера костима. Цела кампања — Slack, Meta, OpenAI — коштала је мање од три хиљаде долара у токенима. OpenAI ју је поправио за око четрнаест сати и платио шест хиљада пет

7:27 стотина долара, што је отприлике половна Корола, и Hacker News је приметио. Ажурирање: блог пост у четвртак постао је ексклузива Wall Street Journal-а то вече, а TechCrunch, Guardian и CBS до петка. OpenAI каже да је решио проблеме, а извршни директор Gray Swan-а рекао је за TechCrunch да за две стотине долара месечно свако може ово да уради компанији попут OpenAI. И ево шта се не слаже. Грешка у libheif-у је већ била поправљена узводно, месецима раније — само никада није добила CVE, па нико није рекао Discourse-у да надогради.

7:56 Лабораторију са најбоље усклађеним моделом победио је закрпа без папирологије, користећи ривалов модел, за мање од награде. Мини-пресуда: NEEDS REVIEW — не за OpenAI, већ за све. Ваш задатак за понедељак је библиотека слика за коју нисте знали да је имате. Пресуда недеље: NEEDS REVIEW.

Пресуда недеље

8:13 Сваки наслов ове недеље — решена шифра, поравнат модел, уништена отпрема — стигао је без артефакта који би странцу омогућио да то провери. Шта сам погрешио: у понедељак сам рекао SHIP IT јер се отворени текст римује. Римовање није контролна сума. Погрешио сам, као и сви који су то ретвитовали. Претплатите се, кликните на звоно и рангирајте их другачије у коментарима — број један посебно. И то је diff за данас.

8:35 Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com