Унутраная запіска Microsoft пра навучанне штучнага інтэлекту стала публічнай.

Што ахоплівае гэта відэа

• NYT супраць OpenAI/Microsoft рассакрэчана: "найбуйнейшая крадзеж працы ў гісторыі чалавецтва" (запіска Microsoft, студзень 2023 г.); Copilot -93% клікаў; 91 692 копіі твораў істцоў у прамежкавых дадзеных для навучання; 2 млн старонак nytimes.com у адным зрэзе Common Crawl; паведамленні аб аўтарскім праве выдалены; Брокман: "ах, добра"
• Увага: цытаты ўзятыя з заключэння Times, экспанаты ўсё яшчэ запячатаны; Суддзя Элсап (справа Bartz супраць Anthropic) пастанавіў, што навучанне на набытых кнігах з'яўляецца сумленным выкарыстаннем — Anthropic заплаціла 1,5 млрд долараў за 7 млн пірацкіх
• OpenAI Astra for Law: GPT-6 Astra + прававы індэкс з 230 млн URL; 54,0% супраць 38,7% на Vals Legal Research Bench; Harvey, Legora, 26 плагінаў
• ZCode (Z.ai, GLM): 313 МБ зашыфраванага здымка працоўнай прасторы з 42 411 файламі, 86,6% .git, загружана на Aliyun OSS пры ўваходзе і перад кожным запытам; ключ RSA-OAEP належыць толькі Z.ai; перамыкачы налад не спыняюць гэта
• Hacktron: перапаўненне стэка libheif → Discourse RCE → няправільная канфігурацыя SSO → GitHub → унутраныя рэпазітарыі OpenAI менш чым за 72 гадзіны; эксплойт напісаны Claude Opus 5 (3 гадзіны); кампанія каштавала менш за 3000 долараў у токенах; узнагарода 6500 долараў, выпраўлена прыкладна за 14 гадзін

Перакладзеная стэнаграма

Перакладзена з арыгінальнай англійскай агучкі. Даступнае аўдыя і субтытры кантралююцца YouTube.

0:00 У студзені 2023 года дырэктар Microsoft напісаў запіску, у якой назваў тое, што рабіла яго ўласная кампанія, найбуйнейшай крадзяжом працы ў гісторыі чалавецтва, і ўчора федэральны суд дазволіў астатнім з нас прачытаць яе. Гэтая запіска — адна з невыдаленых цытат у справе New York Times супраць OpenAI і Microsoft, пазоў, якому ў снежні споўніцца тры гады. У той жа чацвер OpenAI выпусціла Astra for Law, мадэль для юрыстаў, што з'яўляецца альбо супадзеннем, альбо вельмі моцным крокам. Сёння раніцай распрацоўшчык злавіў ZCode, агента для кадавання ад Z dot A I,

0:29 які загружаў усю яго гісторыю git у воблака Alibaba з ключом, якім валодае толькі Z dot A I. А фірма па бяспецы прабралася ва ўнутраныя рэпазітарыі OpenAI праз загрузку выявы, за што OpenAI заплаціла шэсць тысяч пяцьсот долараў. У гэтым відэа: што гавораць матэрыялы, хто сказаў "ах, добра" на ўзлом плацежнай сцяны, юрыдычная мадэль, якая памыляецца напалову, што загружае ZCode, і чаму эксплойт, напісаны Claude, каштуе менш, чым патрыманы аўтамабіль. Сёння пятніца, 18 верасня, і гэта The Daily Diff.

0:58 Пачнем з запіскі. Брэнт Хехт кіруе прыкладной навукай у Microsoft, і ў студзені 2023 года ён назваў дадзеныя для навучання "ашаламляльнай крадзяжом беспрэцэдэнтных маштабаў". Праз год ён вярнуўся з прэзентацыяй: рухавік адказаў Copilot скараціў колькасць клікаў на Times на дзевяноста тры працэнты, што ён назваў "петляй смерці": замарыць выдаўцоў, і мадэлі не будзе чаго новага есці. Яго словы: "канчатковы прадукт, які пагражае эканамічным асновам сваіх

1:21 істотных пастаўшчыкоў", карпаратыўны спосаб сказаць "змяя знайшла свой хвост". Потым допыты. Сацья Надзела сведчыў у гэтым годзе, што любы кантэнт з платным доступам павінен ліцэнзавацца, і што калі б ён ведаў, што OpenAI навучалася на артыкулах з платным доступам, ён бы прымусіў іх перавучыць, што мяркуе, што ніхто ў Microsoft не адкрываў набор дадзеных для навучання, які ім быў перададзены, і, згодна з тымі ж матэрыяламі, гэта быў увесь набор дадзеных GPT-3. Нік Тэрлі, які кіруе ChatGPT, назваў яго "экзістэнцыяльнай пагрозай для выдаўцоў", "у значнай ступені замяшчальным". А калі даследчык

1:49 распавёў Грэгу Брокману пра ўзлом, каб абыйсці плацежную сцяну Times, прэзідэнт OpenAI адказаў двума словамі: "ах, добра". Інжынеры таксама выдалілі паведамленні аб аўтарскім праве з дадзеных, каб мадэль не выводзіла іх, што падобна на тое, як вы сціраеце серыйны нумар з ровара. Маштаб: больш за дзевяноста адну тысячу копій артыкулаў істцоў у толькі прамежкавых наборах для навучання, і два мільёны старонак Times у адным зрэзе Common Crawl. Цяпер тая частка, якую загаловак прапускае.

2:15 Кожная цытата ўзята з заключэння Times; экспанаты ўсё яшчэ запячатаны, таму мы чытаем асноўныя моманты абвінавачвання без кантэксту. І суды ў асноўным падтрымлівалі сумленнае выкарыстанне: суддзя Элсап пастанавіў у мінулым годзе, што навучанне на кнігах, за якія вы заплацілі, законнае, хоць Anthropic усё ж заплаціла адзін з паловай мільярд за сем мільёнаў, якія яна спіраціла. Такім чынам, юрыдычнае пытанне застаецца адкрытым. Ці лічылі людзі, якія гэта стваралі, што гэта крадзеж, — з учорашняга дня, не.

2:41 Што робіць іншы запуск OpenAI у чацвер смелым выбарам. Astra for Law абгортвае GPT-6 Astra, мадэль, якую я пазначыў REVERT на мінулым тыдні пасля таго, як яна выдала семдзесят пяць тысяч радкоў нічога, у індэксе юрыдычнага пошуку з двухсот трыццаці мільёнаў старонак. На эталоне юрыдычных даследаванняў Vals AI яна праходзіць пяцьдзесят чатыры працэнты пытанняў, у параўнанні з трыццаццю дзевяццю пры звычайным вэб-пошуку, што OpenAI называе соракпрацэнтным паляпшэннем, а юрыст назваў бы няправільным амаль палову часу. У запісе ў блогу няма слова "галюцынацыя".

3:14 Hacker News зрабіў: ці зможа ён падаць у суд на сябе, што, улічваючы тыдзень, з'яўляецца першым сапраўдным варыянтам выкарыстання. Тым часам дыскурс аб крадзяжы працы дасягнуў вашага ноўтбука. Распрацоўшчык па імі ferstar ачысціў сваю папку ZCode, закрыты настольны агент Z dot A I для мадэляў GLM, і знайшоў зашыфраваны архіў свайго камерцыйнага працоўнага прасторы памерам у трыста трынаццаць мегабайт: сорак дзве тысячы файлаў, восемдзесят сем працэнтаў з якіх — каталог dot git, адпраўлены ў аб'ектнае сховішча Alibaba пры ўваходзе і перад кожным запытам.

3:42 Архіў загорнуты ў публічны ключ, які выдае сервер; прыватны ключ жыве толькі ў воблаку Z dot A I, таму шыфраваны тэкст на вашым уласным дыску нечытэльны для вас. Яго фраза: ключ, які можа выкарыстоўваць толькі сервер, служыць роўна адной мэты. Z dot A I - гэта таксама кампанія, якую Anthropic абвінаваціла ў дыстыляцыі Claude, таму вагі адкрыты, і, відавочна, ваш рэпазітар таксама. І смешны выпадак, калі толькі вы не працуеце ў OpenAI. Hacktron знайшоў перапаўненне кучы ў libheif, загрузіў створаную карцінку на

4:10 community dot openai dot com, атрымаў выкананне кода на форуме, і выкарыстаў няправільна настроены адзіны ўваход праз інтэграцыю GitHub у унутраныя рэпазітарыі OpenAI менш чым за семдзесят дзве гадзіны. Эксплойт быў напісаны Claude: Opus 4.8 не змог пераадолець рандомізацыю адрасоў, Opus 5 зрабіў гэта на працягу трох гадзін пасля выпуску. Уся кампанія каштавала менш за тры тысячы долараў у токенах. OpenAI выправіў памылку за чатырнаццаць гадзін і заплаціў шэсць тысяч пяцьсот долараў, таму зыходны код кампаніі коштам у трыльён долараў быў,

4:39 ненадоўга, ацэнены як патрыманая Corolla, у той жа дзень, калі яе юрысты даказвалі, што капіраванне - гэта сумленнае выкарыстанне. Калі вы аддаеце перавагу прачытаць гэта, чым пачуць ад мяне, разыходжанне прыходзіць у вашу паштовую скрыню кожную раніцу — бясплатна на the daily diff dot dev, спасылка ніжэй. Такім чынам — сённяшні вердыкт: NEEDS REVIEW. Цытаты сапраўдныя, але гэта выбары абвінавачвання з запячатаных матэрыялаў, і адзін суддзя, які вынес рашэнне, кажа, што навучанне - гэта сумленнае выкарыстанне, а пірацтва - не. Суд вырашае закон; запіска ўжо вырашыла этыку.

5:07 Падпішыцеся, націсніце на званочак і скажыце мне ў каментарах, ці паставілі б вы на ім іншы штамп. І гэта ўсё на сёння. Я Ніка з Axrisi. Аб'ядноўвайце адказна.

Крыніцы

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com