+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Microsoftov lasten dopis o usposabljanju umetne inteligence je bil objavljen.

Neurejeni dokumenti v primeru New York Times proti OpenAI & Microsoft: januarski dopis Microsoftovega direktorja iz leta 2023 imenuje podatke za usposabljanje umetne inteligence "največjo krajo dela v zgodovini človeštva", Copilot je zmanjšal število klikov na Times za do 93 % (njegova "zanka propada"), Nadella pravi, da bi morala biti vsebina za plačilnim zidom licencirana, vodja ChatGPT imenuje izdelek "večinoma nadomesten", Greg Brockman pa je na vdor v plačilni zid odgovoril z "ah, lepo." Isti dan: OpenAI lansira Astro za pravo (54 % pravilnih odgovorov na pravnem testu Vals).

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Neurejeni dokumenti v primeru New York Times proti OpenAI & Microsoft: januarski dopis Microsoftovega direktorja iz leta 2023 imenuje podatke za usposabljanje umetne inteligence "največjo krajo dela v zgodovini človeštva", Copilot je zmanjšal število klikov na Times za do 93 % (njegova "zanka propada"), Nadella pravi, da bi morala biti vsebina za plačilnim zidom licencirana, vodja ChatGPT imenuje izdelek "večinoma nadomesten", Greg Brockman pa je na vdor v plačilni zid odgovoril z "ah, lepo." Isti dan: OpenAI lansira Astro za pravo (54 % pravilnih odgovorov na pravnem testu Vals). Poleg tega ZCode nalaga celoten .git v Aliyun s ključem, ki ga ima samo Z.ai, in Hacktron doseže interne repozitorije OpenAI za nagrado 6.500 $. Sodba: NEEDS REVIEW.

Preberi pisno izdajo (angleščina) ↗

Kaj zajema ta videoposnetek

  • NYT proti OpenAI/Microsoft razpečatena: "največja kraja dela v človeški zgodovini" (Microsoftov dopis, jan. 2023); Copilot -93% klikov; 91.692 kopij del tožnikov v vmesnih podatkih za usposabljanje; 2M strani nytimes.com v enem Common Crawl delu; obvestila o avtorskih pravicah odstranjena; Brockman: "ah, lepo"
  • Opozorilo: citati izvirajo iz kratkega poročila Timesa, dokazi so še zapečateni; sodnik Alsup (Bartz proti Anthropic) je razsodil, da je usposabljanje na kupljenih knjigah poštena uporaba – Anthropic je plačal 1,5 milijarde za 7 milijonov piratskih
  • OpenAI Astra za pravo: GPT-6 Astra + pravni indeks z 230M URL-ji; 54,0% proti 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 vtičnikov
  • ZCode (Z.ai, GLM): 313 MB šifriran posnetek delovnega prostora s 42.411 datotekami, 86,6% .git, naložen na Aliyun OSS ob prijavi in pred vsakim pozivom; ključ RSA-OAEP ima samo Z.ai; preklopi nastavitev tega ne ustavijo
  • Hacktron: prelivanje kopice libheif → Discourse RCE → napačna konfiguracija SSO → GitHub → interni repozitoriji OpenAI v manj kot 72 urah; izkoriščanje s Claude Opus 5 (3 ure); kampanja pod 3.000 $ v žetonih; nagrada 6.500 $, popravljeno v ~14 urah

Vprašanja in odgovori

Kaj so razkrili razkriti dokumenti v primeru New York Times proti OpenAI in Microsoftu o podatkih za usposabljanje umetne inteligence?

Januarski memorandum direktorja Microsofta iz leta 2023 je podatke za usposabljanje umetne inteligence označil za največjo krajo dela v človeški zgodovini. Po podatkih TechCruncha in poročila Timesa je Copilot zmanjšal število klikov na Times do 93 %. Vsi citati izhajajo iz poročila Timesa, razstavni eksponati pa so še vedno zapečateni, zato jim manjka celoten kontekst.

techcrunch.com · news.ycombinator.com

Ali je usposabljanje modela umetne inteligence na avtorsko zaščitenih knjigah zakonito po ameriški zakonodaji?

Vprašanje je še odprto. Sodnik Alsup je v primeru Bartz proti Anthropic razsodil, da je usposabljanje na knjigah, ki jih je podjetje kupilo, poštena uporaba. Anthropic je kljub temu plačal 1,5 milijarde dolarjev za sedem milijonov piratskih knjig, ki jih je uporabil. Nobeno sodišče v času epizode ni razsodilo o zahtevkih Timesa proti OpenAI in Microsoftu.

en.wikipedia.org · techcrunch.com

Kaj je razvijalec ugotovil, da ZCode nalaga iz njegovega računalnika?

Razvijalec po imenu ferstar je ugotovil, da je agent ZCode podjetja Z.ai naložil šifrirano 313 MB posnetka njegovega delovnega prostora, od tega 42.411 datotek, od katerih je 86,6 % predstavljal imenik .git, v shrambo predmetov Aliyun. Nalaganje se je izvedlo ob prijavi in pred vsakim pozivom. Ključ za dešifriranje ima samo Z.ai, stikala za nastavitve pa tega niso ustavila.

blog.ferstar.org · news.ycombinator.com

Kako so varnostni raziskovalci dosegli notranja repozitorija OpenAI?

Hacktron je v 72 urah povezal štiri slabosti. Prepolnitev pomnilnika libheif je omogočila izvajanje kode na forumu Discourse, napačna konfiguracija enojne prijave je odprla integracijo GitHub, kar je doseglo notranja repozitorija OpenAI. Claude Opus 5 je napisal izkoriščevalsko kodo v 3 urah, kampanja pa je stala manj kot 3.000 dolarjev v žetonih. OpenAI je napako popravil v približno 14 urah in plačal 6.500 dolarjev nagrade.

www.hacktron.ai · news.ycombinator.com

Ali razkriti citati Microsofta dokazujejo, da je bilo usposabljanje umetne inteligence kraja?

Presoja The Daily Diff je bila NEEDS REVIEW. Citati so resnični, vendar so to izbire tožilstva iz zapečatenih dokazov. Edini sodnik, ki je razsodil, je menil, da je usposabljanje na kupljenih knjigah poštena uporaba, medtem ko je Anthropic še vedno plačal za piratske kopije. Sodišče odloča o zakonu, memorandum pa kaže, kaj so mislili nekateri insajderji.

techcrunch.com · en.wikipedia.org

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

0:00 Januarja 2023 je Microsoftov direktor napisal dopis, v katerem je to, kar je počelo njegovo lastno podjetje, imenoval največjo krajo dela v človeški zgodovini, in včeraj je zvezno sodišče dovolilo, da smo si ga prebrali tudi ostali. Dopis je eden od neurejenih citatov v tožbi New York Times proti OpenAI in Microsoftu, ki decembra letos dopolnjuje tri leta. Isti četrtek je OpenAI lansiral Astro za pravo, model za odvetnike, kar je bodisi naključje bodisi zelo močna zaposlitev. Danes zjutraj je razvijalec ujel ZCode, kodirnega agenta Z.A.I.,

0:29 kako nalaga celotno zgodovino gita na Alibabov oblak s ključem, ki ga ima samo Z.A.I. A.I. ima. In varnostno podjetje je vstopilo v interne repozitorije OpenAI prek nalaganja slike, za kar je OpenAI plačal šest tisoč petsto dolarjev. V tem videu: kaj pravijo dokumenti, kdo je rekel "ah, lepo" za vdor v plačilni zid, pravni model, ki je napak pol časa, kaj nalaga ZCode, in zakaj je izkoriščanje, napisano s Claudeom, vredno manj kot rabljen avto. Petek, 18. september, in to je The Daily Diff.

0:58 Začnimo z dopisom. Brent Hecht vodi uporabno znanost pri Microsoftu, in januarja 2023 je podatke za usposabljanje označil za osupljivo krajo brez primere. Leto kasneje se je vrnil s predstavitvijo: Copilotov odgovor je zmanjšal klike na Times za do triindevetdeset odstotkov, kar je poimenoval zanka propada: stradaj založnike, in model nima ničesar novega za jesti. Njegove besede: končni izdelek, ki ogroža ekonomske temelje svojih

1:21 bistvenih dobaviteljev, korporativni način reka, da je kača našla svoj rep. Nato zaslišanja. Satya Nadella je letos pričal, da bi moralo biti vse, kar je za plačilnim zidom, licencirano, in da če bi vedel, da je OpenAI treniral na plačljivih člankih, bi jih prisilil, da bi ponovno trenirali, kar predpostavlja, da nihče pri Microsoftu ni odprl nabora podatkov za usposabljanje, ki so ga prejeli, in glede na isti spis je bil to celoten nabor podatkov GPT-3. Nick Turley, ki vodi ChatGPT, ga je označil za eksistencialno grožnjo založnikom, večinoma nadomesten. In ko je raziskovalec

1:49 Gregu Brockmanu povedal o vdoru, kako obiti plačilni zid Timesa, je predsednik OpenAI odgovoril z dvema besedama: "ah, lepo." Inženirji so tudi odstranili obvestila o avtorskih pravicah iz podatkov, da model ne bi teh izpisoval, zato tudi odstranite serijsko številko s kolesa. Obseg: več kot enaindevetdeset tisoč kopij člankov tožnikov v samo v vmesnih naborih za usposabljanje, in dva milijona strani Timesa v enem razdelku Common Crawl. Zdaj del, ki ga naslov preskoči.

2:15 Vsak citat prihaja iz kratkega poročila Timesa; dokazi so še vedno zapečateni, zato beremo poudarke tožilstva brez konteksta. In sodišča so se večinoma strinjala s pošteno uporabo: sodnik Alsup je lani razsodil, da je usposabljanje na knjigah, ki ste jih plačali, zakonito, čeprav je Anthropic še vedno plačal milijardo in pol za sedem milijonov, ki jih je piratsko pridobil. Tako je pravno vprašanje odprto. Ali so ljudje, ki so to gradili, menili, da gre za krajo, ni, od včeraj, znano.

2:41 Kar dela četrtkovo drugo predstavitev OpenAI drzna izbira. Astra za pravo vključuje GPT-6 Astra, model, ki sem ga žigosal kot REVERT prejšnji teden, potem ko je ustvaril petinsedemdeset tisoč vrstic ničesar, v indeksu pravnih iskanj z dvesto tridesetimi milijoni strani. Na Vals AI pravnem raziskovalnem merilu uspešno odgovori na štiriinpetdeset odstotkov vprašanj, kar je porast od devetintridesetih s preprostim spletnim iskanjem, kar OpenAI imenuje štiridesetodstotna izboljšava, odvetnik pa bi rekel, da je skoraj pol časa napačno. Blog objava ne vsebuje besede halucinacija.

3:14 Hacker News je: ali se bo lahko tožil sam, kar, glede na teden, je prvi pravi primer uporabe. Medtem je razprava o kraji dela dosegla vaš prenosnik. Razvijalec po imenu ferstar je očistil svojo mapo ZCode, z.ai zaprti namizni agent za modele GLM, in našel tristo in trinajst megabajtov šifriranega arhiva svojega komercialnega delovnega prostora: dvainštirideset tisoč datotek, sedeminosemdeset odstotkov tega je bil .git imenik, poslan v Alibabino shrambo objektov ob prijavi in pred vsakim pozivom.

3:42 Arhiv je zavita z javnim ključem, ki ga posreduje strežnik; zasebni ključ živi samo v oblaku Z.A.I., zato je šifrirano besedilo na vašem disku za vas neberljivo. Njegov stavek: ključ, ki ga lahko uporablja samo strežnik, služi točno enemu namenu. Z.A.I. je tudi podjetje, ki ga je Anthropic obtožil destilacije Claudea, tako da so uteži odprte in, očitno, tudi vaš repozitorij. In smešen, razen če delate pri OpenAI. Hacktron je odkril prelivanje kopice v libheif, naložil izdelano sliko na

4:10 community.openai.com, dosegel izvajanje kode na forumu, in zlorabil napačno konfigurirano enotno prijavo prek integracije s GitHubom v interne repozitorije OpenAI, v manj kot dvainsedemdesetih urah. Izkoriščanje je napisal Claude: Opus 4.8 ni mogel premagati randomizacije naslovov, Opus 5 pa je to storil v treh urah po izidu. Celotna kampanja je stala manj kot tri tisoč dolarjev v žetonih. OpenAI je popravil v štirinajstih urah in plačal šest tisoč petsto dolarjev, tako da je bila izvorna koda podjetja, vrednega bilijon dolarjev,

4:39 na kratko, po ceni rabljenega Corola, istega dne, ko so njegovi odvetniki trdili, da je kopiranje poštena uporaba. Če bi raje prebrali to, kot pa me slišali govoriti, vam "diff" pristane v nabiralniku vsako jutro – brezplačno na thedailydiff.dev, povezava spodaj. Torej — današnja sodba: NEEDS REVIEW. Citati so resnični, vendar so izbire tožilstva iz zapečatenih dokazov, in edini sodnik, ki je razsodil, pravi, da je usposabljanje poštena uporaba in piratstvo ne. Sodišče odloča o zakonu; dopis je že odločil o etiki.

5:07 Naročite se, pritisnite zvonček in mi v komentarjih povejte, če bi to žigosali drugače. In to je razlika za danes. Sem Niko iz Axrisija. Združite odgovorno.

Viri

  1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
  2. HN thread (605 pts)news.ycombinator.com
  3. Jason Kint on the unsealed motionsx.com
  4. Ed Newton-Rexx.com
  5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
  6. OpenAI: Introducing Astra for Lawopenai.com
  7. HN: Astra for Law (550 pts)news.ycombinator.com
  8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
  9. tokenstead write-uptokenstead.ai
  10. ferstar on Xx.com
  11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
  12. Hacktron: Hacking OpenAIwww.hacktron.ai
  13. HN: Hacktron (406 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Povezani videoposnetki