Microsoftov lasten dopis o usposabljanju umetne inteligence je bil objavljen.

Kaj zajema ta videoposnetek

• NYT proti OpenAI/Microsoft razpečatena: "največja kraja dela v človeški zgodovini" (Microsoftov dopis, jan. 2023); Copilot -93% klikov; 91.692 kopij del tožnikov v vmesnih podatkih za usposabljanje; 2M strani nytimes.com v enem Common Crawl delu; obvestila o avtorskih pravicah odstranjena; Brockman: "ah, lepo"
• Opozorilo: citati izvirajo iz kratkega poročila Timesa, dokazi so še zapečateni; sodnik Alsup (Bartz proti Anthropic) je razsodil, da je usposabljanje na kupljenih knjigah poštena uporaba – Anthropic je plačal 1,5 milijarde za 7 milijonov piratskih
• OpenAI Astra za pravo: GPT-6 Astra + pravni indeks z 230M URL-ji; 54,0% proti 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 vtičnikov
• ZCode (Z.ai, GLM): 313 MB šifriran posnetek delovnega prostora s 42.411 datotekami, 86,6% .git, naložen na Aliyun OSS ob prijavi in pred vsakim pozivom; ključ RSA-OAEP ima samo Z.ai; preklopi nastavitev tega ne ustavijo
• Hacktron: prelivanje kopice libheif → Discourse RCE → napačna konfiguracija SSO → GitHub → interni repozitoriji OpenAI v manj kot 72 urah; izkoriščanje s Claude Opus 5 (3 ure); kampanja pod 3.000 $ v žetonih; nagrada 6.500 $, popravljeno v ~14 urah

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

0:00 Januarja 2023 je Microsoftov direktor napisal dopis, v katerem je to, kar je počelo njegovo lastno podjetje, imenoval največjo krajo dela v človeški zgodovini, in včeraj je zvezno sodišče dovolilo, da smo si ga prebrali tudi ostali. Dopis je eden od neurejenih citatov v tožbi New York Times proti OpenAI in Microsoftu, ki decembra letos dopolnjuje tri leta. Isti četrtek je OpenAI lansiral Astro za pravo, model za odvetnike, kar je bodisi naključje bodisi zelo močna zaposlitev. Danes zjutraj je razvijalec ujel ZCode, kodirnega agenta Z.A.I.,

0:29 kako nalaga celotno zgodovino gita na Alibabov oblak s ključem, ki ga ima samo Z.A.I. A.I. ima. In varnostno podjetje je vstopilo v interne repozitorije OpenAI prek nalaganja slike, za kar je OpenAI plačal šest tisoč petsto dolarjev. V tem videu: kaj pravijo dokumenti, kdo je rekel "ah, lepo" za vdor v plačilni zid, pravni model, ki je napak pol časa, kaj nalaga ZCode, in zakaj je izkoriščanje, napisano s Claudeom, vredno manj kot rabljen avto. Petek, 18. september, in to je The Daily Diff.

0:58 Začnimo z dopisom. Brent Hecht vodi uporabno znanost pri Microsoftu, in januarja 2023 je podatke za usposabljanje označil za osupljivo krajo brez primere. Leto kasneje se je vrnil s predstavitvijo: Copilotov odgovor je zmanjšal klike na Times za do triindevetdeset odstotkov, kar je poimenoval zanka propada: stradaj založnike, in model nima ničesar novega za jesti. Njegove besede: končni izdelek, ki ogroža ekonomske temelje svojih

1:21 bistvenih dobaviteljev, korporativni način reka, da je kača našla svoj rep. Nato zaslišanja. Satya Nadella je letos pričal, da bi moralo biti vse, kar je za plačilnim zidom, licencirano, in da če bi vedel, da je OpenAI treniral na plačljivih člankih, bi jih prisilil, da bi ponovno trenirali, kar predpostavlja, da nihče pri Microsoftu ni odprl nabora podatkov za usposabljanje, ki so ga prejeli, in glede na isti spis je bil to celoten nabor podatkov GPT-3. Nick Turley, ki vodi ChatGPT, ga je označil za eksistencialno grožnjo založnikom, večinoma nadomesten. In ko je raziskovalec

1:49 Gregu Brockmanu povedal o vdoru, kako obiti plačilni zid Timesa, je predsednik OpenAI odgovoril z dvema besedama: "ah, lepo." Inženirji so tudi odstranili obvestila o avtorskih pravicah iz podatkov, da model ne bi teh izpisoval, zato tudi odstranite serijsko številko s kolesa. Obseg: več kot enaindevetdeset tisoč kopij člankov tožnikov v samo v vmesnih naborih za usposabljanje, in dva milijona strani Timesa v enem razdelku Common Crawl. Zdaj del, ki ga naslov preskoči.

2:15 Vsak citat prihaja iz kratkega poročila Timesa; dokazi so še vedno zapečateni, zato beremo poudarke tožilstva brez konteksta. In sodišča so se večinoma strinjala s pošteno uporabo: sodnik Alsup je lani razsodil, da je usposabljanje na knjigah, ki ste jih plačali, zakonito, čeprav je Anthropic še vedno plačal milijardo in pol za sedem milijonov, ki jih je piratsko pridobil. Tako je pravno vprašanje odprto. Ali so ljudje, ki so to gradili, menili, da gre za krajo, ni, od včeraj, znano.

2:41 Kar dela četrtkovo drugo predstavitev OpenAI drzna izbira. Astra za pravo vključuje GPT-6 Astra, model, ki sem ga žigosal kot REVERT prejšnji teden, potem ko je ustvaril petinsedemdeset tisoč vrstic ničesar, v indeksu pravnih iskanj z dvesto tridesetimi milijoni strani. Na Vals AI pravnem raziskovalnem merilu uspešno odgovori na štiriinpetdeset odstotkov vprašanj, kar je porast od devetintridesetih s preprostim spletnim iskanjem, kar OpenAI imenuje štiridesetodstotna izboljšava, odvetnik pa bi rekel, da je skoraj pol časa napačno. Blog objava ne vsebuje besede halucinacija.

3:14 Hacker News je: ali se bo lahko tožil sam, kar, glede na teden, je prvi pravi primer uporabe. Medtem je razprava o kraji dela dosegla vaš prenosnik. Razvijalec po imenu ferstar je očistil svojo mapo ZCode, z.ai zaprti namizni agent za modele GLM, in našel tristo in trinajst megabajtov šifriranega arhiva svojega komercialnega delovnega prostora: dvainštirideset tisoč datotek, sedeminosemdeset odstotkov tega je bil .git imenik, poslan v Alibabino shrambo objektov ob prijavi in pred vsakim pozivom.

3:42 Arhiv je zavita z javnim ključem, ki ga posreduje strežnik; zasebni ključ živi samo v oblaku Z.A.I., zato je šifrirano besedilo na vašem disku za vas neberljivo. Njegov stavek: ključ, ki ga lahko uporablja samo strežnik, služi točno enemu namenu. Z.A.I. je tudi podjetje, ki ga je Anthropic obtožil destilacije Claudea, tako da so uteži odprte in, očitno, tudi vaš repozitorij. In smešen, razen če delate pri OpenAI. Hacktron je odkril prelivanje kopice v libheif, naložil izdelano sliko na

4:10 community.openai.com, dosegel izvajanje kode na forumu, in zlorabil napačno konfigurirano enotno prijavo prek integracije s GitHubom v interne repozitorije OpenAI, v manj kot dvainsedemdesetih urah. Izkoriščanje je napisal Claude: Opus 4.8 ni mogel premagati randomizacije naslovov, Opus 5 pa je to storil v treh urah po izidu. Celotna kampanja je stala manj kot tri tisoč dolarjev v žetonih. OpenAI je popravil v štirinajstih urah in plačal šest tisoč petsto dolarjev, tako da je bila izvorna koda podjetja, vrednega bilijon dolarjev,

4:39 na kratko, po ceni rabljenega Corola, istega dne, ko so njegovi odvetniki trdili, da je kopiranje poštena uporaba. Če bi raje prebrali to, kot pa me slišali govoriti, vam "diff" pristane v nabiralniku vsako jutro – brezplačno na thedailydiff.dev, povezava spodaj. Torej — današnja sodba: NEEDS REVIEW. Citati so resnični, vendar so izbire tožilstva iz zapečatenih dokazov, in edini sodnik, ki je razsodil, pravi, da je usposabljanje poštena uporaba in piratstvo ne. Sodišče odloča o zakonu; dopis je že odločil o etiki.

5:07 Naročite se, pritisnite zvonček in mi v komentarjih povejte, če bi to žigosali drugače. In to je razlika za danes. Sem Niko iz Axrisija. Združite odgovorno.

Viri

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com