+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Microsofts eget notat om AI-træning er netop blevet offentliggjort.

Ucensurerede dokumenter i New York Times mod OpenAI & Microsoft: et Microsoft-direktørnotat fra januar 2023 kalder AI-træningsdata "det største tyveri af arbejdskraft i menneskets historie", Copilot reducerede klikrater til Times med op til 93% (hans "dommedagssløjfe"), Nadella siger, at indhold bag betalingsmur skal licenseres, ChatGPT's chef kalder produktet "stort set substituerende", og Greg Brockman svarede på et hack af betalingsmuren med "ah nice." Samme dag: OpenAI lancerer Astra for Law (54% korrekt på Vals juridiske benchmark).

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Ucensurerede dokumenter i New York Times mod OpenAI & Microsoft: et Microsoft-direktørnotat fra januar 2023 kalder AI-træningsdata "det største tyveri af arbejdskraft i menneskets historie", Copilot reducerede klikrater til Times med op til 93% (hans "dommedagssløjfe"), Nadella siger, at indhold bag betalingsmur skal licenseres, ChatGPT's chef kalder produktet "stort set substituerende", og Greg Brockman svarede på et hack af betalingsmuren med "ah nice." Samme dag: OpenAI lancerer Astra for Law (54% korrekt på Vals juridiske benchmark). Plus ZCode, der uploader hele din .git til Aliyun med en nøgle, som kun Z.ai ejer, og Hacktron, der nåede OpenAIs interne repositories for en dusør på $6.500. Dom: SKAL GENNEMGÅS.

Læs den skriftlige udgave (engelsk) ↗

Hvad denne video dækker

  • NYT mod OpenAI/Microsoft offentliggjort: "største tyveri af arbejdskraft i menneskets historie" (Microsoft-notat, jan 2023); Copilot −93% klikrater; 91.692 kopier af sagsøgernes værker i midt-træningsdata; 2M nytimes.com-sider i et Common Crawl-udsnit; copyright-meddelelser fjernet; Brockman: "ah nice"
  • Forbehold: citater kommer fra Times' indlæg, udstillinger stadig forseglede; Dommer Alsup (Bartz mod Anthropic) afgjorde, at træning på købte bøger er fair use — Anthropic betalte $1,5 mia. for de 7 mio. piratkopierede
  • OpenAI Astra for Law: GPT-6 Astra + et juridisk indeks med 230M URL'er; 54,0% mod 38,7% på Vals Legal Research Bench; Harvey, Legora, 26 plugins
  • ZCode (Z.ai, GLM): 313 MB krypteret snapshot af et arbejdsområde med 42.411 filer, 86,6% .git, uploadet til Aliyun OSS ved login og før hver prompt; RSA-OAEP-nøgle holdes kun af Z.ai; indstillingsskift stopper det ikke
  • Hacktron: libheif heap overflow → Discourse RCE → SSO miskonfiguration → GitHub → OpenAIs interne repositories på under 72 timer; exploit af Claude Opus 5 (3 timer); kampagne under $3.000 i tokens; dusør $6.500, patchet på ~14 timer

Spørgsmål og svar

Hvad afslørede de uforseglede dokumenter i New York Times mod OpenAI og Microsoft om AI-træningsdata?

En direktør fra Microsofts notat fra januar 2023 kaldte AI-træningsdata for den største tyveri af arbejdskraft i menneskehedens historie. Ifølge TechCrunch og Times' korte udtalelse reducerede Copilot klikfrekvensen til Times med op til 93%. Alle citater kommer fra Times' korte udtalelse, og udstillingsgenstandene er stadig forseglet, så de mangler deres fulde kontekst.

techcrunch.com · news.ycombinator.com

Er det lovligt i henhold til amerikansk lov at træne en AI-model på ophavsretligt beskyttede bøger?

Spørgsmålet er stadig åbent. Dommer Alsup afgjorde i Bartz mod Anthropic, at træning på bøger, en virksomhed har købt, er fair use. Anthropic betalte ikke desto mindre 1,5 milliarder dollars for de syv millioner piratkopierede bøger, de havde brugt. Ingen domstol havde afgjort Times' krav mod OpenAI og Microsoft på tidspunktet for episoden.

en.wikipedia.org · techcrunch.com

Hvad fandt en udvikler ud af, at ZCode uploadede fra hans computer?

En udvikler ved navn ferstar fandt ud af, at Z.ais ZCode-agent uploadede et krypteret 313 MB øjebliksbillede af hans arbejdsområde, hvoraf 42.411 filer, 86,6% var .git-mappen, til Aliyun objektlager. Uploadet kørte ved login og før hver prompt. Dekrypteringsnøglen opbevares kun af Z.ai, og indstillingsknapperne stoppede det ikke.

blog.ferstar.org · news.ycombinator.com

Hvordan nåede sikkerhedsforskere frem til OpenAIs interne lagre?

Hacktron kædede fire svagheder sammen inden for 72 timer. En libheif heap overflow gav kodeeksekvering på et Discourse-forum, en enkelt log-on-fejlkonfiguration åbnede GitHub-integrationen, og det nåede OpenAIs interne repos. Claude Opus 5 skrev udnyttelsen på 3 timer, og kampagnen kostede under 3.000 dollars i tokens. OpenAI patchede på omkring 14 timer og betalte en dusør på 6.500 dollars.

www.hacktron.ai · news.ycombinator.com

Beviser de uforseglede Microsoft-citater, at AI-træning var tyveri?

The Daily Diffs dom var BEHOV FOR GENNEMGANG. Citaterne er ægte, men de er anklagemyndighedens udvalg fra forseglede udstillingsgenstande. Den ene dommer, der har afgjort, mente, at træning på købte bøger er fair use, mens Anthropic stadig betalte for de piratkopierede eksemplarer. Retten afgør loven, og notatet viser, hvad nogle insidere mente.

techcrunch.com · en.wikipedia.org

Oversat udskrift

Oversat fra den originale engelske fortælling. Tilgængelig lyd og undertekster styres af YouTube.

0:00 I januar 2023 skrev en Microsoft-direktør et notat, hvori han kaldte det, hans egen virksomhed gjorde, for det største tyveri af arbejdskraft i menneskets historie, og i går lod en føderal domstol resten af os læse det. Notatet er et af de uredigerede citater i New York Times mod OpenAI og Microsoft, en retssag, der fylder tre år til december. Samme torsdag lancerede OpenAI Astra for Law, en model til advokater, hvilket enten er en tilfældighed eller en meget stærk ansættelse. Her til morgen fangede en udvikler ZCode, Z dot A I's kodningsagent,

0:29 der uploadede hele hans git-historik til Alibabas cloud med en nøgle, som kun Z dot A I ejer. Og et sikkerhedsfirma kom ind i OpenAIs interne repositories via en billedupload, som OpenAI betalte seks tusind fem hundrede dollars for. I denne video: hvad dokumenterne siger, hvem der sagde "ah nice" til et betalingsmur-hack, den juridiske model, der er forkert halvdelen af tiden, hvad ZCode uploader, og hvorfor en Claude-skrevet exploit er mindre værd end en brugt bil. Det er fredag den 18. september, og dette er The Daily Diff.

0:58 Start med notatet. Brent Hecht leder anvendt videnskab hos Microsoft, og i januar 2023 kaldte han træningsdataene for et forbløffende tyveri af hidtil usete proportioner. Et år senere var han tilbage med en lysbilledserie: Copilots svar-motor reducerede klikrater til Times med op til treoghalvfems procent, hvilket han kaldte en dommedagssløjfe: sult udgiverne, og modellen har intet nyt at spise. Hans ord: et slutprodukt, der truer de økonomiske grundlag for dets

1:21 væsentlige leverandører, den virksomhedsmæssige måde at sige, at slangen har fundet sin hale. Så vidneudsagnene. Satya Nadella vidnede i år om, at alt bag en betalingsmur skulle licenseres, og at hvis han havde vidst, at OpenAI trænede på artikler bag betalingsmur, ville han have fået dem til at gentræne, hvilket forudsætter, at ingen hos Microsoft åbnede det træningssæt, de fik udleveret, og ifølge samme anmeldelse var det hele GPT-3 datasættet. Nick Turley, som leder ChatGPT, kaldte det en eksistentiel trussel mod udgivere, stort set substituerende. Og da en forsker

1:49 fortalte Greg Brockman om et hack til at komme uden om Times' betalingsmur, svarede præsidenten for OpenAI med to ord: ah nice. Ingeniører fjernede også copyright-meddelelser fra dataene, så modellen ikke ville udskrive dem, hvilket er grunden til, at man fjerner stelnummeret fra en cykel. Omfanget: mere end enoghalvfems tusind kopier af sagsøgernes artikler i træningssættene alene, og to millioner Times-sider i et Common Crawl udsnit. Nu den del, overskriften springer over.

2:15 Hvert citat kommer fra Times' indlæg; udstillingerne er stadig forseglede, så vi læser anklagemyndighedens højdepunkter uden kontekst. Og domstolene har for det meste støttet fair use: Dommer Alsup afgjorde sidste år, at træning på bøger, man har betalt for, er lovligt, selvom Anthropic stadig betalte halvanden milliard for de syv millioner, den piratkopierede. Så det juridiske spørgsmål er åbent. Om de mennesker, der byggede det, troede, det var tyveri, er, pr. i går, ikke.

2:41 Hvilket gør torsdagens anden OpenAI-lancering til et dristigt valg. Astra for Law omfatter GPT-6 Astra, den model, jeg stemplede REVERT sidste uge, efter at den producerede femoghalvfjerds tusind linjer med intet, i et juridisk søgeindeks på to hundrede og tredive millioner sider. På Vals AI's juridiske forskningsbenchmark bestod den fireoghalvtreds procent af spørgsmålene, op fra niogtredive med almindelig websøgning, hvilket OpenAI kalder en fyrre procents forbedring, og en advokat ville kalde forkert næsten halvdelen af tiden. Blogindlægget indeholder ikke ordet hallucination.

3:14 Hacker News gjorde: vil den kunne sagsøge sig selv, hvilket, i betragtning af ugen, er det første ægte anvendelsestilfælde. Imens nåede tyveri-af-arbejdskraft-diskursen din bærbare computer. En udvikler ved navn ferstar ryddede sin ZCode-mappe, Z dot A I's lukkede desktop-agent for GLM-modellerne, og fandt et tre hundrede og tretten megabyte krypteret arkiv af hans kommercielle arbejdsområde: toogfyrre tusind filer, syvoghalvfirs procent af det .git-mappen, sendt til Alibabas objektlagring ved login og før hver prompt.

3:42 Arkivet er pakket med en offentlig nøgle, serveren udleverer; den private nøgle lever kun i Z dot A I's sky, så ciphertexten på din egen disk er ulæselig for dig. Hans pointe: en nøgle, som kun serveren kan bruge, tjener præcis ét formål. Z dot A I er også virksomheden, Anthropic beskyldte for at destillere Claude, så vægtene er åbne, og det er åbenbart også dit repo. Og den sjove, medmindre du arbejder hos OpenAI. Hacktron fandt en heap overflow i libheif, uploadede et manipuleret billede til

4:10 community dot openai dot com, opnåede kodeudførelse på forummet, og red en fejlkonfigureret single sign-on gennem GitHub-integrationen ind i OpenAIs interne repositories på under tooghalvfjerds timer. Exploitet blev skrevet af Claude: Opus 4.8 kunne ikke slå adresse- randomisering, Opus 5 gjorde det inden for tre timer efter udgivelsen. Hele kampagnen kostede under tre tusind dollars i tokens. OpenAI patchede inden for fjorten timer og betalte seks tusind fem hundrede dollars, så kildekoden til en billion-dollar virksomhed var,

4:39 kort sagt, prissat som en brugt Corolla, samme dag som dets advokater argumenterede for, at kopiering er fair use. Hvis du hellere vil læse dette end høre mig sige det, lander "diff" i din indbakke hver morgen — gratis på the daily diff dot dev, link nedenfor. Så — dagens dom: SKAL GENNEMGÅS. Citaterne er ægte, men de er anklagemyndighedens udvalg fra forseglede beviser, og den ene dommer, der har afsagt dom, siger, at træning er fair use, og piratkopiering er det ikke. Domstolen bestemmer loven; notatet har allerede afgjort etikken.

5:07 Abonner, tryk på klokken, og fortæl mig i kommentarerne, om du ville have stemplet det anderledes. Og det var "diff" for i dag. Jeg er Niko fra Axrisi. Flet ansvarligt.

Kilder

  1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
  2. HN thread (605 pts)news.ycombinator.com
  3. Jason Kint on the unsealed motionsx.com
  4. Ed Newton-Rexx.com
  5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
  6. OpenAI: Introducing Astra for Lawopenai.com
  7. HN: Astra for Law (550 pts)news.ycombinator.com
  8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
  9. tokenstead write-uptokenstead.ai
  10. ferstar on Xx.com
  11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
  12. Hacktron: Hacking OpenAIwww.hacktron.ai
  13. HN: Hacktron (406 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Relaterede videoer