+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Microsoftov interni dopis o obuci AI upravo je postao javan.

Nesankcionirani podnesci u tužbi New York Timesa protiv OpenAI-a i Microsofta: dopis direktora Microsofta iz januara 2023.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Nesankcionirani podnesci u tužbi New York Timesa protiv OpenAI-a i Microsofta: dopis direktora Microsofta iz januara 2023. naziva podatke za obuku AI "najvećom krađom rada u ljudskoj historiji", Copilot je smanjio klikove na Times za do 93% (njegova "petlja propasti"), Nadella kaže da sadržaj sa pretplatom treba licencirati, šef ChatGPT-a naziva proizvod "uglavnom zamjenskim", a Greg Brockman je na hakiranje paywalla odgovorio sa "ah lijepo." Istog dana: OpenAI isporučuje Astru za pravo (54% tačnih na Vals pravnom testu). Plus ZCode koji učitava cijeli vaš .git na Aliyun s ključem koji posjeduje samo Z.ai, i Hacktron koji je došao do internih repozitorija OpenAI-a za nagradu od 6.500 dolara. Presuda: POTREBAN PREGLED.

Pročitajte pisano izdanje (engleski) ↗

Šta ovaj video pokriva

  • NYT protiv OpenAI/Microsofta je otkriven: "najveća krađa rada u ljudskoj historiji" (Microsoftov dopis, januar 2023.); Copilot –93% klikova; 91.692 kopije djela tužitelja u podacima za srednju obuku; 2M stranica nytimes.com u jednom Common Crawl isječku; obavijesti o autorskim pravima uklonjene; Brockman: "ah lijepo"
  • Upozorenje: citati dolaze iz sažetka The Timesa, dokazi su još uvijek zapečaćeni; sudija Alsup (Bartz protiv Anthropic) presudio je da je obuka na kupljenim knjigama poštena upotreba — Anthropic je platio 1,5 milijardi dolara za 7 miliona piratskih
  • OpenAI Astra za pravo: GPT-6 Astra + pravni indeks od 230 miliona URL-ova; 54,0% naspram 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 dodataka
  • ZCode (Z.ai, GLM): 313 MB šifriranog snimka radnog prostora sa 42.411 datoteka, 86,6% .git, učitano na Aliyun OSS pri prijavi i prije svakog upita; RSA-OAEP ključ posjeduje samo Z.ai; prekidači postavki to ne zaustavljaju
  • Hacktron: libheif prelivanje gomile → Discourse RCE → pogrešna konfiguracija SSO-a → GitHub → interni repozitoriji OpenAI-a za manje od 72 sata; eksploit napisao Claude Opus 5 (3 sata); kampanja ispod 3.000 dolara u tokenima; nagrada 6.500 dolara, zakrpljeno za ~14 sati

Pitanja i odgovori

Šta su zapečaćeni podnesci u slučaju New York Times protiv OpenAI i Microsofta otkrili o podacima za obuku AI?

Dopis direktora Microsofta iz januara 2023. nazvao je podatke za obuku AI najvećom krađom rada u ljudskoj istoriji. Prema TechCrunchu i sažetku Timesa, Copilot je smanjio broj klikova na Times za čak 93%. Svi citati potiču iz sažetka Timesa, a eksponati su još uvijek zapečaćeni, tako da im nedostaje puni kontekst.

techcrunch.com · news.ycombinator.com

Je li obuka AI modela na knjigama zaštićenim autorskim pravom legalna prema američkom zakonu?

Pitanje je još uvijek otvoreno. Sudija Alsup presudio je u slučaju Bartz protiv Anthropic da je obuka na knjigama koje je kompanija kupila poštena upotreba. Anthropic je ipak platio 1,5 milijardi dolara za sedam miliona piratskih knjiga koje je koristio. Nijedan sud nije presudio o tvrdnjama Timesa protiv OpenAI i Microsofta u vrijeme emitovanja epizode.

en.wikipedia.org · techcrunch.com

Šta je programer otkrio da ZCode uploaduje sa njegovog računara?

Programer po imenu ferstar otkrio je da je ZCode agent Z.ai-ja uploadovao enkriptovanu snimku njegovog radnog prostora od 313 MB, 42.411 datoteka od kojih je 86,6% bio .git direktorijum, na Aliyun skladište objekata. Upload se pokretao pri prijavi i prije svakog upita. Ključ za dešifrovanje posjeduje samo Z.ai, a prekidači postavki to nisu zaustavili.

blog.ferstar.org · news.ycombinator.com

Kako su sigurnosni istraživači došli do internih repozitorijuma OpenAI-ja?

Hacktron je u lancu povezao četiri slabosti u roku od 72 sata. Prelivanje heap-a libheif-a omogućilo je izvršavanje koda na Discourse forumu, pogrešna konfiguracija jedinstvene prijave otvorila je GitHub integraciju, i to je došlo do internih repozitorijuma OpenAI-ja. Claude Opus 5 je napisao exploit za 3 sata, a kampanja je koštala manje od 3.000 dolara u tokenima. OpenAI je zakrpio sistem za oko 14 sati i isplatio nagradu od 6.500 dolara.

www.hacktron.ai · news.ycombinator.com

Dokazuju li otpečaćeni citati Microsofta da je obuka AI bila krađa?

Presuda The Daily Diff-a je bila POTREBNA REVIZIJA. Citati su stvarni, ali su to selekcije tužilaštva iz zapečaćenih dokaza. Jedini sudija koji je presudio smatrao je da je obuka na kupljenim knjigama poštena upotreba, dok je Anthropic ipak platio piratske kopije. Sud odlučuje o zakonu, a dopis pokazuje šta su neki insajderi mislili.

techcrunch.com · en.wikipedia.org

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

0:00 U januaru 2023. direktor Microsofta napisao je dopis nazivajući ono što je njegova vlastita kompanija radila najvećom krađom rada u ljudskoj historiji, a jučer je savezni sud dozvolio svima nama da to pročitamo. Dopis je jedan od nesankcioniranih citata u tužbi New York Timesa protiv OpenAI-a i Microsofta, tužbi koja u decembru puni tri godine. Istog četvrtka, OpenAI je isporučio Astru za pravo, model za advokate, što je ili slučajnost ili vrlo snažan angažman. Jutros je programer uhvatio ZCode, Z dot A I-jevog koderskog agenta,

0:29 kako učitava cijelu svoju git historiju u Alibaba oblak s ključem koji samo Z dot A I posjeduje. A sigurnosna firma ušla je u interne repozitorije OpenAI-a putem učitavanja slike, za što je OpenAI platio šest hiljada pet stotina dolara. U ovom videu: šta kažu podnesci, ko je rekao "ah lijepo" na hakiranje paywalla, pravni model koji je pogrešan pola vremena, šta ZCode učitava, i zašto eksploit koji je napisao Claude vrijedi manje od polovnog automobila. Petak je, 18. septembar, i ovo je The Daily Diff.

0:58 Počnimo s dopisom. Brent Hecht vodi primijenjene nauke u Microsoftu, i u januaru 2023. nazvao je podatke za obuku zapanjujućom krađom neviđenih razmjera. Godinu dana kasnije vratio se s prezentacijom: Copilotov odgovor je smanjio klikove na The Times za do devedeset i tri posto, što je nazvao "petljom propasti": izgladnite izdavače, a model nema ništa novo za jelo. Njegove riječi: krajnji proizvod koji prijeti ekonomskim temeljima svojih

1:21 esencijalnih dobavljača, korporativni način da se kaže da je zmija pronašla svoj rep. Zatim izjave. Satya Nadella je ove godine svjedočio da sve što je paywalled treba biti licencirano, i da bi, da je znao da je OpenAI trenirao na paywalled člancima, natjerao ih da se preobučavaju, što pretpostavlja da niko u Microsoftu nije otvorio skup za obuku koji su dobili, a prema istom podnesku to je bio cijeli GPT-3 skup podataka. Nick Turley, koji vodi ChatGPT, nazvao ga je egzistencijalnom prijetnjom izdavačima, uglavnom zamjenskim. I kada je istraživač

1:49 rekao Gregu Brockmanu o haku za zaobilaženje Timesovog paywalla, predsjednik OpenAI-a je odgovorio s dvije riječi: ah lijepo. Inženjeri su također uklonili obavijesti o autorskim pravima iz podataka kako model ne bi ih izlazio, zbog čega se uklanja serijski broj s bicikla. Razmjera: više od devedeset i jedne hiljade kopija članaka tužitelja u samim srednjim skupovima za obuku, i dva miliona Times stranica u jednom Common Crawl isječku. Sada dio koji naslov preskače.

2:15 Svaki citat dolazi iz Timesovog podneska; dokazi su još uvijek zapečaćeni, tako da čitamo istaknute dijelove tužilaštva bez konteksta. A sudovi su se uglavnom složili s poštenom upotrebom: sudija Alsup je prošle godine presudio da je obuka na knjigama koje ste platili legalna, iako je Anthropic ipak platio milijardu i po za sedam miliona koje je piratizirao. Dakle, pravno pitanje je otvoreno. Jesu li ljudi koji su to gradili smatrali da je to krađa, jest, od jučer, nije.

2:41 Što čini četvrtakovo drugo lansiranje OpenAI-a hrabrim izborom. Astra za pravo obuhvata GPT-6 Astru, model koji sam označio REVERT prošle sedmice nakon što je proizveo sedamdeset pet hiljada redova ničega, u pravnom indeksu pretraživanja od dvjesto trideset miliona stranica. Na Vals AI-jevom testu pravnog istraživanja prolazi pedeset četiri posto pitanja, u odnosu na trideset devet s običnom web pretragom, što OpenAI naziva četrdeset postotnim poboljšanjem, a advokat bi nazvao pogrešnim skoro pola vremena. Blog post ne sadrži riječ halucinacija.

3:14 Hacker News je rekao: hoće li se moći tužiti, što, s obzirom na sedmicu, je prvi pravi slučaj upotrebe. U međuvremenu, diskurs o krađi rada stigao je do vašeg laptopa. Programer po imenu ferstar očistio je svoju ZCode mapu, zatvoreni desktop agent Z dot A I-a za GLM modele, i pronašao tristo i trinaest megabajta šifrirane arhive svog komercijalnog radnog prostora: četrdeset dvije hiljade datoteka, osamdeset sedam posto toga je .git direktorij, poslano na Alibaba-ovu pohranu objekata prilikom prijave i prije svakog upita.

3:42 Arhiva je omotana javnim ključem koji server izdaje; privatni ključ živi samo u Z dot A I-ovom oblaku, tako da je šifrirani tekst na vašem vlastitom disku nečitljiv vama. Njegova rečenica: ključ koji samo server može koristiti služi samo jednoj svrsi. Z dot A I je također kompanija koju je Anthropic optužio za destiliranje Claudea, tako da su utezi otvoreni i, očigledno, vaš repo. I onaj smiješni, osim ako ne radite u OpenAI-u. Hacktron je pronašao prelivanje gomile u libheifu, učitao izrađenu sliku na

4:10 community dot openai dot com, dobio izvršenje koda na forumu, i iskoristio pogrešno konfigurisan single sign-on kroz GitHub integraciju u interne repozitorije OpenAI-a, za manje od sedamdeset dva sata. Eksploit je napisao Claude: Opus 4.8 nije mogao pobijediti randomizaciju adresa, Opus 5 je to učinio unutar tri sata od izlaska. Cijela kampanja koštala je manje od tri hiljade dolara u tokenima. OpenAI je zakrpio za četrnaest sati i platio šest hiljada pet stotina dolara, tako da je izvorni kod trilionske kompanije bio,

4:39 ukratko, cijenjen kao polovni Corolla, istog dana kada su njegovi advokati tvrdili da kopiranje je poštena upotreba. Ako biste ovo radije pročitali nego čuli od mene, The Daily Diff stiže u vašu pristiglu poštu svako jutro — besplatno na thedaily diff dot dev, link ispod. Dakle — današnja presuda: POTREBAN PREGLED. Citati su stvarni, ali to su odabiri tužilaštva iz zapečaćenih dokaza, a jedini sudija koji je presudio kaže da je obuka poštena upotreba, a piraterija nije. Sud odlučuje o zakonu; dopis je već odlučio o etici.

5:07 Pretplatite se, pritisnite zvono i recite mi u komentarima da li biste to označili drugačije. I to je to za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

  1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
  2. HN thread (605 pts)news.ycombinator.com
  3. Jason Kint on the unsealed motionsx.com
  4. Ed Newton-Rexx.com
  5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
  6. OpenAI: Introducing Astra for Lawopenai.com
  7. HN: Astra for Law (550 pts)news.ycombinator.com
  8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
  9. tokenstead write-uptokenstead.ai
  10. ferstar on Xx.com
  11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
  12. Hacktron: Hacking OpenAIwww.hacktron.ai
  13. HN: Hacktron (406 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Povezani videozapisi