Microsofts eget notat om AI-træning er netop blevet offentliggjort.

Hvad denne video dækker

• NYT mod OpenAI/Microsoft offentliggjort: "største tyveri af arbejdskraft i menneskets historie" (Microsoft-notat, jan 2023); Copilot −93% klikrater; 91.692 kopier af sagsøgernes værker i midt-træningsdata; 2M nytimes.com-sider i et Common Crawl-udsnit; copyright-meddelelser fjernet; Brockman: "ah nice"
• Forbehold: citater kommer fra Times' indlæg, udstillinger stadig forseglede; Dommer Alsup (Bartz mod Anthropic) afgjorde, at træning på købte bøger er fair use — Anthropic betalte $1,5 mia. for de 7 mio. piratkopierede
• OpenAI Astra for Law: GPT-6 Astra + et juridisk indeks med 230M URL'er; 54,0% mod 38,7% på Vals Legal Research Bench; Harvey, Legora, 26 plugins
• ZCode (Z.ai, GLM): 313 MB krypteret snapshot af et arbejdsområde med 42.411 filer, 86,6% .git, uploadet til Aliyun OSS ved login og før hver prompt; RSA-OAEP-nøgle holdes kun af Z.ai; indstillingsskift stopper det ikke
• Hacktron: libheif heap overflow → Discourse RCE → SSO miskonfiguration → GitHub → OpenAIs interne repositories på under 72 timer; exploit af Claude Opus 5 (3 timer); kampagne under $3.000 i tokens; dusør $6.500, patchet på ~14 timer

Oversat udskrift

Oversat fra den originale engelske fortælling. Tilgængelig lyd og undertekster styres af YouTube.

0:00 I januar 2023 skrev en Microsoft-direktør et notat, hvori han kaldte det, hans egen virksomhed gjorde, for det største tyveri af arbejdskraft i menneskets historie, og i går lod en føderal domstol resten af os læse det. Notatet er et af de uredigerede citater i New York Times mod OpenAI og Microsoft, en retssag, der fylder tre år til december. Samme torsdag lancerede OpenAI Astra for Law, en model til advokater, hvilket enten er en tilfældighed eller en meget stærk ansættelse. Her til morgen fangede en udvikler ZCode, Z dot A I's kodningsagent,

0:29 der uploadede hele hans git-historik til Alibabas cloud med en nøgle, som kun Z dot A I ejer. Og et sikkerhedsfirma kom ind i OpenAIs interne repositories via en billedupload, som OpenAI betalte seks tusind fem hundrede dollars for. I denne video: hvad dokumenterne siger, hvem der sagde "ah nice" til et betalingsmur-hack, den juridiske model, der er forkert halvdelen af tiden, hvad ZCode uploader, og hvorfor en Claude-skrevet exploit er mindre værd end en brugt bil. Det er fredag den 18. september, og dette er The Daily Diff.

0:58 Start med notatet. Brent Hecht leder anvendt videnskab hos Microsoft, og i januar 2023 kaldte han træningsdataene for et forbløffende tyveri af hidtil usete proportioner. Et år senere var han tilbage med en lysbilledserie: Copilots svar-motor reducerede klikrater til Times med op til treoghalvfems procent, hvilket han kaldte en dommedagssløjfe: sult udgiverne, og modellen har intet nyt at spise. Hans ord: et slutprodukt, der truer de økonomiske grundlag for dets

1:21 væsentlige leverandører, den virksomhedsmæssige måde at sige, at slangen har fundet sin hale. Så vidneudsagnene. Satya Nadella vidnede i år om, at alt bag en betalingsmur skulle licenseres, og at hvis han havde vidst, at OpenAI trænede på artikler bag betalingsmur, ville han have fået dem til at gentræne, hvilket forudsætter, at ingen hos Microsoft åbnede det træningssæt, de fik udleveret, og ifølge samme anmeldelse var det hele GPT-3 datasættet. Nick Turley, som leder ChatGPT, kaldte det en eksistentiel trussel mod udgivere, stort set substituerende. Og da en forsker

1:49 fortalte Greg Brockman om et hack til at komme uden om Times' betalingsmur, svarede præsidenten for OpenAI med to ord: ah nice. Ingeniører fjernede også copyright-meddelelser fra dataene, så modellen ikke ville udskrive dem, hvilket er grunden til, at man fjerner stelnummeret fra en cykel. Omfanget: mere end enoghalvfems tusind kopier af sagsøgernes artikler i træningssættene alene, og to millioner Times-sider i et Common Crawl udsnit. Nu den del, overskriften springer over.

2:15 Hvert citat kommer fra Times' indlæg; udstillingerne er stadig forseglede, så vi læser anklagemyndighedens højdepunkter uden kontekst. Og domstolene har for det meste støttet fair use: Dommer Alsup afgjorde sidste år, at træning på bøger, man har betalt for, er lovligt, selvom Anthropic stadig betalte halvanden milliard for de syv millioner, den piratkopierede. Så det juridiske spørgsmål er åbent. Om de mennesker, der byggede det, troede, det var tyveri, er, pr. i går, ikke.

2:41 Hvilket gør torsdagens anden OpenAI-lancering til et dristigt valg. Astra for Law omfatter GPT-6 Astra, den model, jeg stemplede REVERT sidste uge, efter at den producerede femoghalvfjerds tusind linjer med intet, i et juridisk søgeindeks på to hundrede og tredive millioner sider. På Vals AI's juridiske forskningsbenchmark bestod den fireoghalvtreds procent af spørgsmålene, op fra niogtredive med almindelig websøgning, hvilket OpenAI kalder en fyrre procents forbedring, og en advokat ville kalde forkert næsten halvdelen af tiden. Blogindlægget indeholder ikke ordet hallucination.

3:14 Hacker News gjorde: vil den kunne sagsøge sig selv, hvilket, i betragtning af ugen, er det første ægte anvendelsestilfælde. Imens nåede tyveri-af-arbejdskraft-diskursen din bærbare computer. En udvikler ved navn ferstar ryddede sin ZCode-mappe, Z dot A I's lukkede desktop-agent for GLM-modellerne, og fandt et tre hundrede og tretten megabyte krypteret arkiv af hans kommercielle arbejdsområde: toogfyrre tusind filer, syvoghalvfirs procent af det .git-mappen, sendt til Alibabas objektlagring ved login og før hver prompt.

3:42 Arkivet er pakket med en offentlig nøgle, serveren udleverer; den private nøgle lever kun i Z dot A I's sky, så ciphertexten på din egen disk er ulæselig for dig. Hans pointe: en nøgle, som kun serveren kan bruge, tjener præcis ét formål. Z dot A I er også virksomheden, Anthropic beskyldte for at destillere Claude, så vægtene er åbne, og det er åbenbart også dit repo. Og den sjove, medmindre du arbejder hos OpenAI. Hacktron fandt en heap overflow i libheif, uploadede et manipuleret billede til

4:10 community dot openai dot com, opnåede kodeudførelse på forummet, og red en fejlkonfigureret single sign-on gennem GitHub-integrationen ind i OpenAIs interne repositories på under tooghalvfjerds timer. Exploitet blev skrevet af Claude: Opus 4.8 kunne ikke slå adresse- randomisering, Opus 5 gjorde det inden for tre timer efter udgivelsen. Hele kampagnen kostede under tre tusind dollars i tokens. OpenAI patchede inden for fjorten timer og betalte seks tusind fem hundrede dollars, så kildekoden til en billion-dollar virksomhed var,

4:39 kort sagt, prissat som en brugt Corolla, samme dag som dets advokater argumenterede for, at kopiering er fair use. Hvis du hellere vil læse dette end høre mig sige det, lander "diff" i din indbakke hver morgen — gratis på the daily diff dot dev, link nedenfor. Så — dagens dom: SKAL GENNEMGÅS. Citaterne er ægte, men de er anklagemyndighedens udvalg fra forseglede beviser, og den ene dommer, der har afsagt dom, siger, at træning er fair use, og piratkopiering er det ikke. Domstolen bestemmer loven; notatet har allerede afgjort etikken.

5:07 Abonner, tryk på klokken, og fortæl mig i kommentarerne, om du ville have stemplet det anderledes. Og det var "diff" for i dag. Jeg er Niko fra Axrisi. Flet ansvarligt.

Kilder

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com