Microsoftov interni dopis o obuci umjetne inteligencije upravo je izašao u javnost.

Što ovaj video pokriva

• NYT protiv OpenAI/Microsoft otkriveno: "najveća krađa rada u ljudskoj povijesti" (Microsoftov dopis, siječanj 2023.); Copilot −93% klikova; 91.692 kopije djela tužitelja u podacima srednje faze obuke; 2M stranica nytimes.com u jednom Common Crawl isječku; obavijesti o autorskim pravima uklonjene; Brockman: "ah lijepo"
• Napomena: citati dolaze iz sažetka The Timesa, dok su dokazi još uvijek zapečaćeni; sudac Alsup (Bartz protiv Anthropic) presudio je da je obuka na kupljenim knjigama poštena upotreba — Anthropic je platio 1,5 milijardi dolara za 7 milijuna piratskih knjiga
• OpenAI Astra za pravo: GPT-6 Astra + pravni indeks od 230M URL-ova; 54,0% naspram 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 dodataka
• ZCode (Z.ai, GLM): 313 MB šifrirana snimka radnog prostora od 42.411 datoteka, 86,6% .git, učitana na Aliyun OSS pri prijavi i prije svakog upita; RSA-OAEP ključ posjeduje samo Z.ai; preklopnici postavki to ne zaustavljaju
• Hacktron: preljev hrpe libheif → Discourse RCE → SSO pogrešna konfiguracija → GitHub → OpenAI interni repozitoriji za manje od 72 sata; eksploatacija od strane Claude Opus 5 (3 sata); kampanja ispod 3.000 dolara u tokenima; nagrada 6.500 dolara, zakrpano za ~14 sati

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

0:00 U siječnju 2023. godine, direktor Microsofta napisao je dopis nazivajući ono što je njegova vlastita tvrtka radila najvećom krađom rada u ljudskoj povijesti, i jučer je savezni sud dopustio ostatku nas da ga pročitamo. Dopis je jedan od neizmijenjenih citata u tužbi New York Times protiv OpenAI-ja i Microsofta, tužbi koja u prosincu navršava tri godine. Istog četvrtka, OpenAI je lansirao Astru za pravo, model za odvjetnike, što je ili slučajnost ili vrlo snažno zapošljavanje. Jutros je programer uhvatio ZCode, Z dot A I-jevog agenta za kodiranje,

0:29 kako učitava cijelu njegovu git povijest na Alibabin oblak s ključem koji posjeduje samo Z dot A I. A sigurnosna tvrtka ušla je u interne repozitorije OpenAI-ja putem prijenosa slike, za što je OpenAI platio šest tisuća i petsto dolara. U ovom videu: što kažu podnesci, tko je rekao "ah lijepo" na hakiranje pretplatničkog zida, pravni model koji je pola vremena pogrešan, što ZCode učitava, i zašto je eksploatacija napisana od strane Claudea manje vrijedna od rabljenog automobila. Petak je, 18. rujna, i ovo je The Daily Diff.

0:58 Počnimo s dopisom. Brent Hecht vodi primijenjenu znanost u Microsoftu, i u siječnju 2023. godine nazvao je podatke za obuku zapanjujućom krađom neviđenih razmjera. Godinu dana kasnije vratio se s prezentacijom: Copilotov mehanizam za odgovore smanjio je klikove na Times za do devedeset i tri posto, što je nazvao "petljom propasti": izgladnite izdavače, a model nema ništa novo za jesti. Njegove riječi: krajnji proizvod koji ugrožava ekonomske temelje svojih

1:21 bitnih dobavljača, korporativni način da se kaže da je zmija pronašla svoj rep. Zatim depozicije. Satya Nadella svjedočio je ove godine da bi sve što je iza pretplatničkog zida trebalo biti licencirano, i da bi, da je znao da je OpenAI trenirao na člancima iza pretplatničkog zida, natjerao ih da se preobučavaju, što pretpostavlja da nitko u Microsoftu nije otvorio skup podataka za obuku koji su dobili, a prema istom podnesku to je bio cijeli GPT-3 skup podataka. Nick Turley, koji vodi ChatGPT, nazvao ga je egzistencijalnom prijetnjom izdavačima, uglavnom zamjenjivim. A kad je istraživač

1:49 rekao Gregu Brockmanu o haku za zaobilaženje pretplatničkog zida Timesa, predsjednik OpenAI-ja odgovorio je s dvije riječi: "ah lijepo." Inženjeri su također uklonili obavijesti o autorskim pravima iz podataka kako ih model ne bi izbacio, zbog čega se uklanja serijski broj s bicikla. Razmjeri: više od devedeset i jedne tisuće kopija članaka tužitelja u samo srednjim skupovima za obuku, i dva milijuna stranica Timesa u jednom Common Crawl isječku. Sada dio koji naslov preskače.

2:15 Svaki citat dolazi iz sažetka The Timesa; dokazi su još uvijek zapečaćeni, tako da čitamo istaknute dijelove tužiteljstva bez konteksta. A sudovi su se uglavnom priklonili poštenoj upotrebi: sudac Alsup presudio je prošle godine da je obuka na knjigama koje ste platili legalna, iako je Anthropic ipak platio milijardu i pol za sedam milijuna koje je piratizirao. Dakle, pravno pitanje je otvoreno. Je li se onima koji su ga gradili činilo da je to krađa, od jučer, nije.

2:41 Što četvrtkovo drugo lansiranje OpenAI-ja čini hrabrim izborom. Astra za pravo obuhvaća GPT-6 Astru, model koji sam označio REVERT prošli tjedan nakon što je proizveo sedamdeset i pet tisuća redaka ničega, u pravnom indeksu pretraživanja od dvjesto trideset milijuna stranica. Na Vals AI-ovoj pravnoj istraživačkoj klupi prolazi pedeset i četiri posto pitanja, što je porast s trideset i devet uz obično web pretraživanje, što OpenAI naziva četrdeset postotnim poboljšanjem, a odvjetnik bi nazvao pogrešnim skoro pola vremena. Blog objava ne sadrži riječ halucinacija.

3:14 Hacker News je rekao: hoće li se moći tužiti sam sebe, što, s obzirom na tjedan, predstavlja prvu istinsku primjenu. U međuvremenu je diskurs o krađi rada stigao do vašeg prijenosnog računala. Programer po imenu ferstar očistio je svoju ZCode mapu, Z dot A I-jev zatvoreni desktop agent za GLM modele, i pronašao tristo trinaest megabajta šifrirane arhive svog komercijalnog radnog prostora: četrdeset i dvije tisuće datoteka, osamdeset i sedam posto toga .git direktorij, poslano na Alibabino objektno spremište pri prijavi i prije svakog upita.

3:42 Arhiva je omotana javnim ključem koji poslužitelj dijeli; privatni ključ živi samo u Z dot A I oblaku, tako da vam je šifrirani tekst na vašem disku nečitljiv. Njegova izjava: ključ koji može koristiti samo poslužitelj služi točno jednoj svrsi. Z dot A I je također tvrtka koju je Anthropic optužio za destiliranje Claudea, tako da su težine otvorene i, očigledno, vaš repo. I ona smiješna, osim ako ne radite u OpenAI-ju. Hacktron je pronašao preljev hrpe u libheif-u, prenio je modificiranu sliku na

4:10 community dot openai dot com, dobio je izvršenje koda na forumu, i putem pogrešno konfiguriranog jedinstvenog prijavljivanja kroz GitHub integraciju ušao u OpenAI-jeve interne repozitorije, za manje od sedamdeset i dva sata. Eksploitaciju je napisao Claude: Opus 4.8 nije mogao pobijediti randomizaciju adresa, Opus 5 je to učinio unutar tri sata od izlaska. Cijela kampanja koštala je manje od tri tisuće dolara u tokenima. OpenAI je zakrpao za četrnaest sati i platio šest tisuća i petsto dolara, tako da je izvorni kod tvrtke vrijedne bilijun dolara bio,

4:39 ukratko, cijenjen kao rabljena Corolla, istog dana kada su njeni odvjetnici tvrdili da kopiranje je poštena upotreba. Ako biste ovo radije pročitali nego čuli, "diff" vam stiže u inbox svakog jutra — besplatno na thedaily diff dot dev, poveznica ispod. Dakle — današnja presuda: NEEDS REVIEW. Citati su stvarni, ali to su odabiri tužiteljstva iz zapečaćenih dokaza, a jedini sudac koji je presudio kaže da je obuka poštena upotreba, a piratstvo nije. Sud odlučuje o zakonu; dopis je već odlučio o etici.

5:07 Pretplatite se, pritisnite zvono i recite mi u komentarima biste li to označili drugačije. I to je "diff" za danas. Ja sam Niko iz Axrisija. SHIP IT odgovorno.

Izvori

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com