+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Вътрешен меморандум на Microsoft за обучението на ИИ току-що стана публичен.

Нецензурирани досиета по делото New York Times срещу OpenAI и Microsoft: меморандум от януари 2023 г.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Нецензурирани досиета по делото New York Times срещу OpenAI и Microsoft: меморандум от януари 2023 г. на директор на Microsoft нарича данните за обучение на ИИ „най-голямата кражба на труд в човешката история“, Copilot намалява кликванията към Times с до 93% (неговата „примка на гибелта“), Надeла казва, че платеното съдържание трябва да бъде лицензирано, ръководителят на ChatGPT нарича продукта „до голяма степен заместител“, а Грег Брокман отговори на хак за заобикаляне на платена стена с „а, хубаво“. Същия ден: OpenAI пуска Astra for Law (54% верни отговори на правния тест Vals). Плюс ZCode качва целия ви .git в Aliyun с ключ, който държи само Z.ai, и Hacktron достига до вътрешните хранилища на OpenAI за награда от 6 500 долара. Присъда: НЕОБХОДИМ Е ПРЕГЛЕД.

Прочетете писменото издание (английски) ↗

Какво обхваща този видеоклип

  • NYT срещу OpenAI/Microsoft разпечатано: „най-голямата кражба на труд в човешката история“ (меморандум на Microsoft, януари 2023 г.); Copilot -93% кликвания; 91 692 копия на произведения на ищците в междинни данни за обучение; 2 милиона страници от nytimes.com в едно изрязване на Common Crawl; премахнати известия за авторски права; Брокман: „а, хубаво“
  • Забележка: цитатите идват от резюмето на Times, доказателствата все още са запечатани; съдия Алсъп (Bartz срещу Anthropic) постанови, че обучението върху закупени книги е честна употреба — Anthropic плати 1,5 милиарда долара за 7-те милиона пиратски копия
  • OpenAI Astra for Law: GPT-6 Astra + правен индекс с 230 милиона URL адреса; 54.0% срещу 38.7% на Vals Legal Research Bench; Harvey, Legora, 26 плъгина
  • ZCode (Z.ai, GLM): 313 MB криптиран моментна снимка на работно пространство с 42 411 файла, 86.6% .git, качена в Aliyun OSS при вход и преди всяка подкана; RSA-OAEP ключ, държан само от Z.ai; превключвателите за настройки не го спират
  • Hacktron: препълване на купчината libheif → Discourse RCE → неправилна конфигурация на SSO → GitHub → вътрешни хранилища на OpenAI за по-малко от 72 часа; експлойт от Claude Opus 5 (3 часа); кампания под 3000 долара в токени; награда 6500 долара, поправена за ~14 часа

Въпроси и отговори

Какво разкриха разсекретените документи по делото New York Times срещу OpenAI и Microsoft относно данните за обучение на ИИ?

Служебна бележка от директор на Microsoft от януари 2023 г. нарече данните за обучение на ИИ „най-голямата кражба на труд в човешката история“. Според TechCrunch и доклада на Times, Copilot е намалил кликванията към Times с до 93%. Всички цитати идват от доклада на Times, а доказателствата все още са запечатани, така че им липсва пълният контекст.

techcrunch.com · news.ycombinator.com

Законно ли е по американското законодателство обучението на модел на ИИ с книги, защитени с авторски права?

Въпросът все още е отворен. Съдия Алсъп постанови по делото Bartz срещу Anthropic, че обучението с книги, закупени от компания, е честна употреба. Въпреки това Anthropic плати 1,5 милиарда долара за седемте милиона пиратски книги, които е използвала. Към момента на епизода никой съд не се е произнесъл по исковете на Times срещу OpenAI и Microsoft.

en.wikipedia.org · techcrunch.com

Какво откри разработчик, че ZCode качва от компютъра му?

Разработчик на име ferstar откри, че агентът ZCode на Z.ai е качил криптиран 313 MB моментен запис на неговото работно пространство, 42 411 файла, от които 86,6% са били .git директорията, в хранилище за обекти на Aliyun. Качването е стартирало при влизане и преди всяка подкана. Ключът за декриптиране се държи само от Z.ai, а превключвателите на настройките не са го спрели.

blog.ferstar.org · news.ycombinator.com

Как изследователи по сигурността достигнаха до вътрешните хранилища на OpenAI?

Hacktron навърза четири слабости в рамките на 72 часа. Препълване на хийпа на libheif даде изпълнение на код на форум на Discourse, неправилна конфигурация на еднократно влизане отвори интеграцията с GitHub и това достигна до вътрешните хранилища на OpenAI. Claude Opus 5 написа експлойта за 3 часа, а кампанията струваше под 3000 долара в токени. OpenAI поправи проблема за около 14 часа и плати награда от 6500 долара.

www.hacktron.ai · news.ycombinator.com

Доказват ли разсекретените цитати от Microsoft, че обучението на ИИ е било кражба?

Присъдата на The Daily Diff беше NEEDS REVIEW. Цитатите са реални, но те са подбор на обвинението от запечатани доказателства. Единственият съдия, който се е произнесъл, е постановил, че обучението с закупени книги е честна употреба, докато Anthropic все още е платила за пиратските копия. Съдът решава закона, а бележката показва какво са мислили някои вътрешни лица.

techcrunch.com · en.wikipedia.org

Преведен препис

Преведено от оригиналния английски разказ. Наличните аудио и субтитри се контролират от YouTube.

0:00 През януари 2023 г. директор на Microsoft написа меморандум, наричайки това, което неговата собствена компания прави, най-голямата кражба на труд в човешката история, и вчера федерален съд позволи на останалите от нас да го прочетем. Меморандумът е един от нередактираните цитати в делото на New York Times срещу OpenAI и Microsoft, съдебно дело, което навършва три години този декември. Същия четвъртък OpenAI пусна Astra for Law, модел за адвокати, което е или съвпадение, или много силен наем. Тази сутрин разработчик хвана ZCode, кодиращия агент на Z dot A I,

0:29 да качва цялата му история на git в облака на Alibaba с ключ, който държи само Z dot A I. И фирма за сигурност влезе във вътрешните хранилища на OpenAI чрез качване на изображение, за което OpenAI плати шест хиляди и петстотин долара. В това видео: какво пише в документите, кой каза „а, хубаво“ на хак за платена стена, правният модел, който греши през половината от времето, какво качва ZCode, и защо експлойт, написан от Claude, струва по-малко от употребявана кола. Петък, 18 септември, и това е The Daily Diff.

0:58 Да започнем с меморандума. Брент Хехт ръководи приложните науки в Microsoft, и през януари 2023 г. той нарече данните за обучение удивителна кражба с безпрецедентни мащаби. Година по-късно той се завърна с презентация: двигателят за отговори на Copilot намали кликванията към Times с до деветдесет и три процента, което той нарече примка на гибелта: изгладняват издателите, а моделът няма нищо ново за ядене. Негови думи: краен продукт, който заплашва икономическите основи на своите

1:21 основни доставчици, корпоративният начин да се каже, че змията е намерила опашката си. След това депозициите. Сатя Надела свидетелства тази година, че всичко, което е зад платена стена, трябва да бъде лицензирано, и че ако е знаел, че OpenAI се е обучавал на платени статии, той би ги накарал да се преобучат, което предполага, че никой в Microsoft не е отворил набора от данни за обучение, който им е бил предоставен, а според същото досие това е целият набор от данни на GPT-3. Ник Търли, който ръководи ChatGPT, го нарече екзистенциална заплаха за издателите, до голяма степен заместител. И когато изследовател

1:49 каза на Грег Брокман за хак за заобикаляне на платената стена на Times, президентът на OpenAI отговори с две думи: „а, хубаво“. Инженерите също така премахнаха известията за авторски права от данните, за да не ги извежда моделът, поради което се премахва серийният номер от велосипед. Мащабът: повече от деветдесет и едно хиляди копия на статиите на ищците само в междинните набори за обучение, и два милиона страници на Times в едно изрязване на Common Crawl. Сега частта, която заглавието пропуска.

2:15 Всеки цитат идва от резюмето на Times; доказателствата все още са запечатани, така че четем акцентите на обвинението без контекст. И съдилищата най-вече са на страната на честната употреба: съдия Алсъп постанови миналата година, че обучението върху книги, за които сте платили, е законно, въпреки че Anthropic все пак плати един и половина милиарда за седемте милиона, които пиратизира. Така че правният въпрос е отворен. Дали хората, които го изграждаха, са смятали, че е кражба, е, към вчера, не.

2:41 Което прави другото стартиране на OpenAI в четвъртък смел избор. Astra for Law обгръща GPT-6 Astra, моделът, който аз маркирах REVERT миналата седмица, след като произведе седемдесет и пет хиляди реда нищо, в правен индекс за търсене от двеста и тридесет милиона страници. На бенчмарка за правни изследвания на Vals AI той преминава петдесет и четири процента от въпросите, нагоре от тридесет и девет с обикновено уеб търсене, което OpenAI нарича четиридесет процента подобрение, а адвокат би нарекъл грешно почти половината от времето. Блог постът не съдържа думата халюцинация.

3:14 Hacker News го направи: ще може ли да съди себе си, което, предвид седмицата, е първият истински случай на употреба. Междувременно дискурсът за кражбата на труд достигна до вашия лаптоп. Разработчик на име ferstar почисти папката си ZCode, затворения настолен агент на Z dot A I за моделите GLM, и намери триста и тринадесет мегабайта криптиран архив на своето търговско работно пространство: четиридесет и две хиляди файла, осемдесет и седем процента от които са директорията .git, изпратени до съхранението на обекти на Alibaba при вход и преди всяка подкана.

3:42 Архивът е опакован с публичен ключ, който сървърът раздава; частният ключ живее само в облака на Z dot A I, така че шифрованият текст на вашия собствен диск е нечетим за вас. Негова реплика: ключ, който само сървърът може да използва, служи точно за една цел. Z dot A I е също така компанията, която Anthropic обвини в дестилиране на Claude, така че тежестите са отворени и така, очевидно, е и вашето хранилище. И забавната, освен ако не работите в OpenAI. Hacktron откри препълване на купчината в libheif, качи изработена снимка на

4:10 community dot openai dot com, получи изпълнение на код на форума, и използва неправилно конфигуриран единичен вход чрез интеграцията с GitHub, за да влезе във вътрешните хранилища на OpenAI, за по-малко от седемдесет и два часа. Експлойтът е написан от Claude: Opus 4.8 не можа да победи рандомизацията на адреси, Opus 5 го направи в рамките на три часа от пускането си. Цялата кампания струваше по-малко от три хиляди долара в токени. OpenAI поправи грешката за четиринадесет часа и плати шест хиляди и петстотин долара, така че изходният код на компания за трилиони долари беше,

4:39 за кратко, оценен като употребявана Corolla, в същия ден, когато адвокатите й твърдяха, че копирането е честна употреба. Ако предпочитате да прочетете това, отколкото да ме чуете да го казвам, разликата пристига във вашата пощенска кутия всяка сутрин – безплатно на the daily diff dot dev, линк по-долу. И така – днешната присъда: необходим е преглед. Цитатите са истински, но те са подбор на обвинението от запечатани доказателства, и единственият съдия, който е постановил решение, казва, че обучението е честна употреба, а пиратството не е. Съдът решава закона; меморандумът вече е решил етиката.

5:07 Абонирайте се, натиснете камбанката и ми кажете в коментарите дали бихте го маркирали по различен начин. И това е разликата за днес. Аз съм Нико от Axrisi. Обединявайте отговорно.

Източници

  1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
  2. HN thread (605 pts)news.ycombinator.com
  3. Jason Kint on the unsealed motionsx.com
  4. Ed Newton-Rexx.com
  5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
  6. OpenAI: Introducing Astra for Lawopenai.com
  7. HN: Astra for Law (550 pts)news.ycombinator.com
  8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
  9. tokenstead write-uptokenstead.ai
  10. ferstar on Xx.com
  11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
  12. Hacktron: Hacking OpenAIwww.hacktron.ai
  13. HN: Hacktron (406 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Свързани видеоклипове

daily · bg · 17.11.2026 г.

Windows 11 може да записва кои агенти за кодиране стартирате: какво откри един изследовател

Изследователят по сигурността Сюшенг Ли съобщава, че една компилация на Windows 11 поддържа ежедневен флаг "да" или "не" за агенти за кодиране като Codex, Claude Code и Copilot, и го поставя на опашка

4:55 ↗