Viešai paskelbta „Microsoft“ atmintinė apie dirbtinio intelekto mokymus.

Kas aptariama šiame vaizdo įraše

• NYT prieš OpenAI/Microsoft atskleista: „didžiausia darbo vagystė žmonijos istorijoje“ (Microsoft atmintinė, 2023 m. sausis); Copilot -93 % paspaudimų; 91 692 ieškovų darbų kopijos mokymo vidurio duomenyse; 2 mln. nytimes.com puslapių viename Common Crawl fragmente; autorių teisių pranešimai pašalinti; Brockmanas: „oi, puiku“
• Pastaba: citatos paimtos iš „Times“ teisinės bylos, eksponatai vis dar užplombuoti; teisėjas Alsupas (Bartz prieš Anthropic) nusprendė, kad mokymas naudojant nupirktas knygas yra sąžiningas naudojimas – „Anthropic“ sumokėjo 1,5 mlrd. USD už 7 mln. piratinių knygų
• OpenAI Astra for Law: GPT-6 Astra + 230 mln. URL teisinio indekso; 54,0 % prieš 38,7 % Vals teisinių tyrimų teste; Harvey, Legora, 26 papildiniai
• ZCode (Z.ai, GLM): 313 MB užšifruotas 42 411 failų darbo vietos momentinės nuotraukos, 86,6 % .git, įkelta į Aliyun OSS prisijungiant ir prieš kiekvieną užklausą; RSA-OAEP raktas, kurį turi tik Z.ai; nustatymų perjungikliai to nesustoja
• Hacktron: libheif krūvos perpildymas → Discourse RCE → SSO netinkama konfigūracija → GitHub → OpenAI vidinės saugyklos per mažiau nei 72 val.; išnaudojimas atliktas Claude Opus 5 (3 val.); kampanija kainavo mažiau nei 3 000 USD žetonais; atlygis 6 500 USD, pataisyta per ~14 val.

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

0:00 2023 m. sausį „Microsoft“ direktorius parašė atmintinę, pavadindamas tai, ką daro jo paties įmonė, didžiausia darbo vagyste žmonijos istorijoje, ir vakar federalinis teismas leido mums visiems tai perskaityti. Atmintinė yra viena iš neredaguotų citatų byloje „New York Times“ prieš „OpenAI“ ir „Microsoft“, ieškinys, kuriam šį gruodį sukanka treji metai. Tą patį ketvirtadienį „OpenAI“ išleido „Astra for Law“ – modelį teisininkams, kas yra arba atsitiktinumas, arba labai stiprus samdymas. Šį rytą kūrėjas pagavo „ZCode“, Z.A.I. kodavimo agentą,

0:29 įkeliantį visą jo „git“ istoriją į „Alibaba“ debesį su raktu, kurį turi tik Z .A.I. Ir saugumo įmonė per paveikslėlio įkėlimą pateko į „OpenAI“ vidines saugyklas, už ką „OpenAI“ sumokėjo šešis tūkstančius penkis šimtus dolerių. Šiame vaizdo įraše: ką sako dokumentai, kas pasakė „oi, puiku“ apie mokamos sienos nulaužimą, teisinių paslaugų modelis, kuris pusę laiko klysta, ką įkelia „ZCode“, ir kodėl „Claude“ parašytas išnaudojimas kainuoja mažiau nei naudotas automobilis. Penktadienis, rugsėjo 18 d., ir tai yra „The Daily Diff“.

0:58 Pradėkime nuo atmintinės. Brentas Hechtas vadovauja taikomiesiems mokslams „Microsoft“, ir 2023 m. sausį jis pavadino mokymo duomenis stulbinama precedento neturinčių proporcijų vagyste. Po metų jis sugrįžo su skaidrių paketu: „Copilot“ atsakymų variklis sumažino spustelėjimų skaičių „Times“ leidinyje iki devyniasdešimt trijų procentų, ką jis pavadino „pražūties kilpa“: išbadinus leidėjus, modelis neturi nieko naujo valgyti. Jo žodžiais: galutinis produktas, kuris kelia grėsmę esminių tiekėjų ekonominiams pagrindams,

1:21 korporacinis būdas pasakyti, kad gyvatė rado savo uodegą. Tada apklausos. Satya Nadella šiais metais liudijo, kad bet koks mokamas turinys turėtų būti licencijuojamas, ir kad jei jis būtų žinojęs, kad „OpenAI“ mokėsi iš mokamų straipsnių, jis būtų liepęs jiems persimokyti, o tai reiškia, kad niekas „Microsoft“ neatidarė jiems pateikto mokymo rinkinio, o pagal tą patį dokumentą tai buvo visas GPT-3 duomenų rinkinys. Nickas Turley, kuris vadovauja „ChatGPT“, pavadino tai egzistencine grėsme leidėjams, daugiausia pakaitalu. Ir kai tyrėjas

1:49 papasakojo Gregui Brockmanui apie nulaužimą, kaip apeiti „Times“ mokamos sienos, prezidentas „OpenAI“ atsakė dviem žodžiais: „oi, puiku“. Inžinieriai taip pat pašalino autorių teisių pranešimus iš duomenų, kad modelis jų neišvestų, todėl ir nudildinate dviračio serijos numerį. Mastas: daugiau nei devyniasdešimt vienas tūkstantis ieškovų straipsnių kopijų vien tik mokymo vidurio rinkiniuose ir du milijonai „Times“ puslapių viename „Common Crawl“ fragmente. Dabar dalis, kurią praleidžia antraštė.

2:15 Kiekviena citata paimta iš „Times“ teisinės bylos; eksponatai vis dar užplombuoti, todėl skaitome prokuratūros išryškintus dalykus be konteksto. Ir teismai dažniausiai palaikė sąžiningą naudojimą: teisėjas Alsupas pernai nusprendė, kad mokymasis iš knygų, už kurias sumokėjote, yra teisėtas, nors „Anthropic“ vis tiek sumokėjo pusantro milijardo už septynis milijonus, kuriuos piratavo. Taigi teisinis klausimas lieka atviras. Ar žmonės, kurie tai kūrė, manė, kad tai yra vagystė, yra, nuo vakar, ne.

2:41 Dėl to ketvirtadienio kitas „OpenAI“ pristatymas yra drąsus pasirinkimas. „Astra for Law“ apima GPT-6 Astra – modelį, kurį aš pažymėjau REVERT praėjusią savaitę po to, kai jis sukūrė septyniasdešimt penkis tūkstančius nieko eilučių, teisės aktų paieškos indekse, kuriame yra du šimtai trisdešimt milijonų puslapių. „Vals AI“ teisės aktų tyrimų testuose jis atsako teisingai į penkiasdešimt keturis procentus klausimų, palyginti su trisdešimt devyniais procentais naudojant paprastą internetinę paiešką, ką „OpenAI“ vadina keturiasdešimties procentų pagerėjimu, o teisininkas pavadintų neteisingu beveik pusę laiko. Tinklaraščio įraše nėra žodžio „haliucinacija“.

3:14 „Hacker News“ turėjo: ar jis galės paduoti save į teismą, o tai, atsižvelgiant į savaitę, yra pirmasis tikras naudojimo atvejis. Tuo tarpu darbo vagystės diskursas pasiekė jūsų nešiojamąjį kompiuterį. Kūrėjas, pavadintas „ferstar“, išvalė savo „ZCode“ aplanką, Z.A.I. uždarą darbalaukio agentą GLM modeliams, ir rado tris šimtus trylika megabaitų užšifruotą savo komercinės darbo vietos archyvą: keturiasdešimt du tūkstančiai failų, aštuoniasdešimt septyni procentai iš jų – .git katalogas, išsiųsta į „Alibaba“ objektų saugyklą prisijungiant ir prieš kiekvieną užklausą.

3:42 Archyvas yra apvyniotas viešuoju raktu, kurį platina serveris; privatus raktas gyvena tik Z.A.I. debesyje, todėl šifruotas tekstas jūsų diske jums yra neperskaitomas. Jo citata: raktas, kurį gali naudoti tik serveris, tarnauja lygiai vienam tikslui. Z.A.I. taip pat yra įmonė, kurią „Anthropic“ apkaltino „Claude“ distiliavimu, taigi svoriai yra atviri, ir, atrodo, jūsų saugykla taip pat. Ir juokingasis, nebent dirbate „OpenAI“. „Hacktron“ aptiko „libheif“ krūvos perpildymą, įkėlė sukurtą paveikslėlį į

4:10 community.openai.com, gavo kodo vykdymą forume, ir per netinkamai sukonfigūruotą vienkartinį prisijungimą per „GitHub“ integraciją pateko į „OpenAI“ vidines saugyklas per mažiau nei septyniasdešimt dvi valandas. Išnaudojimą parašė „Claude“: „Opus 4.8“ negalėjo įveikti adreso randomizacijos, „Opus 5“ tai padarė per tris valandas nuo išleidimo. Visa kampanija kainavo mažiau nei tris tūkstančius dolerių žetonais. „OpenAI“ pataisė per keturiolika valandų ir sumokėjo šešis tūkstančius penkis šimtus dolerių, taigi trilijono dolerių vertės įmonės šaltinio kodas buvo,

4:39 trumpai tariant, įkainotas kaip naudota „Corolla“, tą pačią dieną, kai jos teisininkai tvirtino, kad kopijavimas yra sąžiningas naudojimas. Jei norite tai perskaityti, o ne išgirsti iš manęs, „The Daily Diff“ kas rytą atkeliauja į jūsų pašto dėžutę – nemokamai svetainėje thedailydiff.dev, nuoroda žemiau. kiekvieną rytą – nemokamai thedaily diff.dev, nuoroda žemiau. Taigi – šiandienos verdiktas: reikia peržiūrėti. Citatas yra tikros, tačiau jos yra prokuratūros pasirinkimas iš užplombuotų eksponatų, ir vienintelis teisėjas, kuris priėmė sprendimą, teigia, kad mokymas yra sąžiningas naudojimas, o piratavimas – ne. Teismas sprendžia įstatymą; atmintinė jau nusprendė etiką.

5:07 Prenumeruokite, paspauskite varpelį ir pasakykite man komentaruose, ar būtumėte pažymėję tai kitaip. Ir tai yra šiandienos skirtumas. Aš esu Niko iš Axrisi. Sujunkite atsakingai.

Šaltiniai

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com