Memoriul propriu al Microsoft privind antrenarea inteligenței artificiale tocmai a devenit public.
Documente nedivulgate în procesul New York Times vs.
Documente nedivulgate în procesul New York Times vs. OpenAI & Microsoft: un memoriu din ianuarie 2023 al unui director Microsoft numește datele de antrenare a inteligenței artificiale "cel mai mare furt de muncă din istoria umanității", Copilot a redus click-through-urile către The Times cu până la 93% ("bucla sa a condamnării"), Nadella spune că conținutul cu plată ar trebui licențiat, șeful ChatGPT numește produsul "în mare măsură substitutiv", iar Greg Brockman a răspuns unui hack de paywall cu "ah nice." În aceeași zi: OpenAI lansează Astra for Law (54% corect pe banca de testare legală Vals). Plus ZCode care încarcă întregul tău .git pe Aliyun cu o cheie deținută doar de Z.ai, și Hacktron care a accesat depozitele interne ale OpenAI pentru o recompensă de 6.500 $. Verdict: NEEDS REVIEW.
Citiți ediția scrisă (engleză) ↗
Ce acoperă acest videoclip
- NYT v. OpenAI/Microsoft desecretizat: "cel mai mare furt de muncă din istoria umanității" (memoriu Microsoft, ianuarie 2023); Copilot −93% click-through-uri; 91.692 de copii ale lucrărilor reclamanților în datele de la mijlocul antrenării; 2 milioane de pagini nytimes.com într-o singură secțiune Common Crawl; notificări de copyright eliminate; Brockman: "ah nice"
- Atenție: citatele provin din memoriul Times, probele sunt încă sigilate; Judecătorul Alsup (Bartz v. Anthropic) a hotărât că antrenarea pe cărți cumpărate este utilizare echitabilă — Anthropic a plătit 1,5 miliarde $ pentru cele 7 milioane piratate
- OpenAI Astra for Law: GPT-6 Astra + un index legal de 230 de milioane de URL-uri; 54,0% vs 38,7% pe Vals Legal Research Bench; Harvey, Legora, 26 de pluginuri
- ZCode (Z.ai, GLM): instantaneu criptat de 313 MB al unui spațiu de lucru cu 42.411 fișiere, 86,6% .git, încărcat pe Aliyun OSS la logare și înainte de fiecare prompt; cheie RSA-OAEP deținută numai de Z.ai; comutatoarele de setări nu opresc acest lucru
- Hacktron: depășire de heap libheif → RCE Discourse → SSO configurat greșit → GitHub → depozite interne OpenAI în mai puțin de 72 de ore; exploit scris de Claude Opus 5 (3 ore); campanie sub 3.000 $ în token-uri; recompensă 6.500 $, patch aplicat în ~14 ore
Întrebări și răspunsuri
Ce au dezvăluit dosarele desigilate în New York Times v. OpenAI și Microsoft despre datele de antrenament AI?
O notă a unui director Microsoft din ianuarie 2023 a numit datele de antrenament AI cel mai mare furt de muncă din istoria omenirii. Potrivit TechCrunch și memoriului Times, Copilot a redus click-through-urile către Times cu până la 93%. Toate citatele provin din memoriul Times, iar exponatele sunt încă sigilate, deci le lipsește contextul complet.
Este antrenarea unui model AI pe cărți protejate prin drepturi de autor legală conform legislației americane?
Întrebarea este încă deschisă. Judecătorul Alsup a decis în Bartz v. Anthropic că antrenarea pe cărțile cumpărate de o companie este o utilizare loială. Anthropic a plătit totuși 1,5 miliarde de dolari pentru cele șapte milioane de cărți piratate pe care le-a folosit. Nicio instanță nu a decis asupra pretențiilor Times împotriva OpenAI și Microsoft la momentul episodului.
Ce a descoperit un dezvoltator că ZCode încărca de pe computerul său?
Un dezvoltator numit ferstar a descoperit că agentul ZCode al Z.ai a încărcat un instantaneu criptat de 313 MB al spațiului său de lucru, 42.411 fișiere din care 86,6% era directorul .git, către stocarea de obiecte Aliyun. Încărcarea a rulat la autentificare și înainte de fiecare prompt. Cheia de decriptare este deținută doar de Z.ai, iar comutatoarele de setări nu au oprit-o.
Cum au ajuns cercetătorii în securitate la depozitele interne ale OpenAI?
Hacktron a înlănțuit patru slăbiciuni în 72 de ore. O depășire a memoriei heap libheif a oferit execuție de cod pe un forum Discourse, o configurare greșită a autentificării unice a deschis integrarea GitHub, iar aceasta a ajuns la depozitele interne ale OpenAI. Claude Opus 5 a scris exploatarea în 3 ore, iar campania a costat sub 3.000 de dolari în tokenuri. OpenAI a aplicat patch-ul în aproximativ 14 ore și a plătit o recompensă de 6.500 de dolari.
Citatele desecretizate ale Microsoft dovedesc că antrenamentul AI a fost furt?
Verdictul The Daily Diff a fost NEEDS REVIEW. Citatele sunt reale, dar sunt selecții ale procuraturii din exponate sigilate. Singurul judecător care a decis a considerat că antrenarea pe cărți achiziționate este utilizare loială, în timp ce Anthropic a plătit totuși pentru copiile piratate. Instanța decide legea, iar memoriul arată ce gândeau unii din interior.
Transcrierea tradusă
Tradus din narațiunea originală în engleză. Audio-ul și subtitrările disponibile sunt controlate de YouTube.
0:00 În ianuarie 2023, un director Microsoft a scris un memoriu numind ceea ce propria companie făcea cel mai mare furt de muncă din istoria umanității, și ieri un tribunal federal ne-a permis restului să-l citim. Memoriul este unul dintre citatele neanulate din procesul New York Times împotriva OpenAI și Microsoft, un proces care împlinește trei ani în acest decembrie. În aceeași joi, OpenAI a lansat Astra for Law, un model pentru avocați, ceea ce este fie o coincidență, fie o angajare foarte puternică. În această dimineață, un dezvoltator a surprins ZCode, agentul de codare al Z dot A I,
0:29 încărcând întreaga sa istorie git în cloud-ul Alibaba cu o cheie pe care numai Z dot A I o deține. Și o firmă de securitate a intrat în depozitele interne ale OpenAI printr-o încărcare de imagine, pentru care OpenAI a plătit șase mii cinci sute de dolari. În acest videoclip: ce spun documentele, cine a spus "ah nice" unui hack de paywall, modelul legal care greșește jumătate din timp, ce încarcă ZCode, și de ce un exploit scris de Claude valorează mai puțin decât o mașină uzată. Este vineri, 18 septembrie, și acesta este The Daily Diff.
0:58 Începem cu memoriul. Brent Hecht conduce departamentul de științe aplicate la Microsoft, iar în ianuarie 2023 a numit datele de antrenare un furt uimitor de proporții fără precedent. Un an mai târziu, s-a întors cu o prezentare: motorul de răspuns Copilot a redus click-through-urile către Times cu până la nouăzeci și trei la sută, pe care el l-a numit o "buclă a condamnării": înfometezi editorii, iar modelul nu mai are nimic nou de "mâncat". Cuvintele sale: un produs final care amenință fundamentele economice ale
1:21 furnizorilor săi esențiali, modul corporatist de a spune că șarpele și-a găsit coada. Apoi, depunerile. Satya Nadella a depus mărturie anul acesta că orice conținut cu plată ar trebui licențiat, și că, dacă ar fi știut că OpenAI s-a antrenat pe articole cu plată, i-ar fi făcut să se antreneze din nou, ceea ce presupune că nimeni de la Microsoft nu a deschis setul de antrenare pe care l-au primit, și conform aceluiași document, acesta a fost întregul set de date GPT-3. Nick Turley, care conduce ChatGPT, l-a numit o amenințare existențială pentru editori, în mare măsură substitutiv. Și când un cercetător
1:49 i-a spus lui Greg Brockman despre un hack pentru a ocoli paywall-ul Times, președintele OpenAI a răspuns cu două cuvinte: ah nice. Inginerii au eliminat, de asemenea, notificările de copyright din date, astfel încât modelul să nu le producă, motiv pentru care ștergi numărul de serie de pe o bicicletă. Scara: peste nouăzeci și unu de mii de copii ale articolelor reclamanților în seturile de la mijlocul antrenării, și două milioane de pagini Times într-o singură secțiune Common Crawl. Acum partea pe care titlul o omite.
2:15 Fiecare citat provine din memoriul Times; probele sunt încă sigilate, așa că citim punctele cheie ale acuzării fără context. Și instanțele s-au pronunțat în mare parte în favoarea utilizării echitabile: Judecătorul Alsup a decis anul trecut că antrenarea pe cărți pentru care ai plătit este legală, deși Anthropic a plătit totuși un miliard și jumătate pentru cele șapte milioane pe care le-a piratat. Așadar, întrebarea legală este deschisă. Dacă oamenii care o construiau credeau că este furt, ei bine, începând de ieri, nu.
2:41 Ceea ce face ca cealaltă lansare OpenAI de joi să fie o alegere îndrăzneață. Astra for Law înfășoară GPT-6 Astra, modelul pe care l-am ștampilat REVERT săptămâna trecută, după ce a produs șaptezeci și cinci de mii de linii de nimic, într-un index de căutare legal de două sute treizeci de milioane de pagini. Pe benchmark-ul de cercetare legală al Vals AI, trece cincizeci și patru la sută din întrebări, în creștere de la treizeci și nouă cu o simplă căutare web, ceea ce OpenAI numește o îmbunătățire de patruzeci la sută și un avocat ar numi greșit aproape jumătate din timp. Postarea de blog nu conține cuvântul halucinație.
3:14 Hacker News a făcut-o: va fi capabil să se dea în judecată singur, ceea ce, având în vedere săptămâna, este primul caz de utilizare autentic. Între timp, discuția despre furtul de muncă a ajuns pe laptopul tău. Un dezvoltator numit ferstar și-a curățat folderul ZCode, agentul desktop închis Z dot A I pentru modelele GLM, și a găsit o arhivă criptată de trei sute treisprezece megabytes a spațiului său de lucru comercial: patruzeci și două de mii de fișiere, optzeci și șapte la sută din el directorul .git, trimisă către stocarea de obiecte a Alibaba la logare și înainte de fiecare prompt.
3:42 Arhiva este înfășurată cu o cheie publică pe care serverul o distribuie; cheia privată există doar în cloud-ul Z dot A I, deci textul cifrat de pe propriul disc este ilizibil pentru tine. Replica lui: o cheie pe care doar serverul o poate folosi servește exact unui singur scop. Z dot A I este, de asemenea, compania pe care Anthropic a acuzat-o de distilarea lui Claude, deci ponderile sunt deschise și, aparent, la fel este și depozitul tău. Și cel amuzant, dacă nu lucrezi la OpenAI. Hacktron a găsit o depășire de heap în libheif, a încărcat o imagine modificată pe
4:10 community dot openai dot com, a obținut execuție de cod pe forum, și a folosit un sistem de autentificare unică configurat greșit prin integrarea GitHub pentru a accesa depozitele interne ale OpenAI, în mai puțin de șaptezeci și două de ore. Exploit-ul a fost scris de Claude: Opus 4.8 nu a putut depăși randomizarea adresei, Opus 5 a făcut-o în trei ore de la lansare. Întreaga campanie a costat sub trei mii de dolari în token-uri. OpenAI a aplicat patch-ul în paisprezece ore și a plătit șase mii cinci sute de dolari, deci codul sursă al unei companii de un trilion de dolari a fost,
4:39 pe scurt, evaluat ca o Corolla uzată, în aceeași zi în care avocații săi au susținut că copierea este utilizare echitabilă. Dacă preferați să citiți acest lucru decât să mă auziți spunându-l, diff-ul ajunge în inbox-ul vostru în fiecare dimineață — gratuit la the daily diff dot dev, link mai jos. Deci — verdictul de astăzi: NEEDS REVIEW. Citatele sunt reale, dar sunt selecțiile acuzării din probe sigilate, și singurul judecător care s-a pronunțat spune că antrenarea este utilizare echitabilă și pirateria nu. Instanța decide legea; memoriul a decis deja etica.
5:07 Abonați-vă, apăsați clopoțelul și spuneți-mi în comentarii dacă ați fi ștampilat-o diferit. Și asta e diferența pentru azi. Sunt Niko de la Axrisi. Îmbinați responsabil.
Surse
- TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
- HN thread (605 pts)news.ycombinator.com
- Jason Kint on the unsealed motionsx.com
- Ed Newton-Rexx.com
- Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
- OpenAI: Introducing Astra for Lawopenai.com
- HN: Astra for Law (550 pts)news.ycombinator.com
- ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
- tokenstead write-uptokenstead.ai
- ferstar on Xx.com
- HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
- Hacktron: Hacking OpenAIwww.hacktron.ai
- HN: Hacktron (406 pts)news.ycombinator.com



