Microsofts eget PM om AI-träning har just blivit offentligt.

Vad den här videon täcker

• NYT vs. OpenAI/Microsoft offentliggjordes: "största stölden av arbetskraft i mänsklighetens historia" (Microsoft-memo, jan 2023); Copilot −93% klickfrekvens; 91 692 kopior av kärandenas verk i mid-träningsdata; 2M nytimes.com-sidor i en Common Crawl-del; upphovsrättsmeddelanden borttagna; Brockman: "ah nice"
• Varning: citat kommer från Times' inlagor, bilagor fortfarande hemligstämplade; Domare Alsup (Bartz mot Anthropic) beslutade att träning på köpta böcker är fair use – Anthropic betalade 1,5 miljarder dollar för de 7 miljoner piratkopierade
• OpenAI Astra for Law: GPT-6 Astra + ett juridiskt index med 230M-URL:er; 54,0 % mot 38,7 % på Vals Legal Research Bench; Harvey, Legora, 26 plugins
• ZCode (Z.ai, GLM): 313 MB krypterad ögonblicksbild av en arbetsyta med 42 411 filer, 86,6 % .git, uppladdad till Aliyun OSS vid inloggning och före varje prompt; RSA-OAEP-nyckel innehas endast av Z.ai; inställningsväxlar stoppar det inte
• Hacktron: libheif heap overflow → Discourse RCE → SSO-felkonfiguration → GitHub → OpenAIs interna repos på under 72 timmar; exploit skriven av Claude Opus 5 (3 h); kampanj under 3 000 dollar i tokens; belöning 6 500 dollar, patchad på ~14 h

Översatt transkription

Översatt från den ursprungliga engelska berättelsen. Tillgängligt ljud och undertexter styrs av YouTube.

0:00 I januari 2023 skrev en Microsoft-direktör ett memo där han kallade det hans eget företag gjorde den största stölden av arbetskraft i mänsklighetens historia, och igår lät en federal domstol oss andra läsa det. Memot är ett av de oredigerade citaten i New York Times mot OpenAI och Microsoft, en stämningsansökan som fyller tre år i december. Samma torsdag lanserade OpenAI Astra for Law, en modell för jurister, vilket antingen är en tillfällighet eller en mycket stark rekrytering. I morse upptäckte en utvecklare ZCode, Z.ai:s kodningsagent,

0:29 som laddade upp hela hans git-historik till Alibabas moln med en nyckel som endast Z .ai innehar. Och ett säkerhetsföretag tog sig in i OpenAIs interna förråd via en bilduppladdning, för vilken OpenAI betalade sex tusen fem hundra dollar. I den här videon: vad handlingarna säger, vem som sade 'ah nice' till en paywall-hack, juristmodellen som har fel halva tiden, vad ZCode laddar upp, och varför en Claude-skriven exploit är värd mindre än en begagnad bil. Det är fredag, den 18 september, och detta är The Daily Diff.

0:58 Börja med memot. Brent Hecht driver tillämpad vetenskap på Microsoft, och i januari 2023 kallade han träningsdata en förbluffande stöld av oöverträffade proportioner. Ett år senare var han tillbaka med en bildpresentation: Copilots svarande motor minskade klickfrekvensen till Times med upp till nittiotre procent, vilket han kallade en domedagsslinga: svält ut förläggarna, och modellen har inget nytt att äta. Hans ord: en slutprodukt som hotar de ekonomiska grunderna för dess

1:21 viktiga leverantörer, det företagsmässiga sättet att säga att ormen har hittat sin svans. Sedan vittnesmålen. Satya Nadella vittnade i år att allt bakom betalvägg borde licensieras, och att om han hade vetat att OpenAI tränade på artiklar bakom betalvägg skulle han ha fått dem att träna om, vilket förutsätter att ingen på Microsoft öppnade den träningsdatauppsättning de fick, och enligt samma handling var det hela GPT-3-datasetet. Nick Turley, som driver ChatGPT, kallade det ett existentiellt hot mot förläggare, till stor del substituerande. Och när en forskare

1:49 berättade för Greg Brockman om ett hack för att komma runt Times betalvägg, svarade presidenten för OpenAI med två ord: ah trevligt. Ingenjörer tog också bort upphovsrättsmeddelanden från datan så att modellen inte skulle mata ut dem, vilket är anledningen till att man filar bort serienumret på en cykel. Omfattningen: mer än nittiotusen kopior av kärandenas artiklar i endast mellanliggande träningsuppsättningar, och två miljoner Times-sidor i en Common Crawl bit. Nu den del som rubriken hoppar över.

2:15 Varje citat kommer från Times' inlagor; utställningsföremålen är fortfarande hemligstämplade, så vi läser åklagarens höjdpunkter utan sammanhang. Och domstolarna har mestadels ställt sig på fair use: Domare Alsup slog fast förra året att träning på böcker du betalat för är lagligt, även om Anthropic ändå betalade en och en halv miljard för de sju miljoner den piratkopierade. Så den juridiska frågan är öppen. Huruvida människorna som byggde den ansåg att det var stöld är, sedan igår, inte.

2:41 Vilket gör torsdagens andra OpenAI-lansering till ett djärvt val. Astra for Law omsluter GPT-6 Astra, modellen jag stämplade REVERT förra veckan efter att den producerade sjuttiotusen rader av ingenting, i ett juridiskt sökindex med tvåhundratrettio miljoner sidor. På Vals AI:s juridiskt forskningsriktmärke klarar den femtiofyra procent av frågorna, upp från trettionio med vanlig webbsökning, vilket OpenAI kallar en fyrtioprocentig förbättring och en advokat skulle kalla fel nästan halva tiden. Blogginlägget innehåller inte ordet hallucination.

3:14 Hacker News gjorde det: kommer den att kunna stämma sig själv, vilket, med tanke på veckan, är det första genuint användbara fallet. Under tiden nådde diskussionen om arbetskraftsstöld din laptop. En utvecklare vid namn ferstar tömde sin ZCode-mapp, Z.ai:s stängda skrivbordsagent för GLM-modellerna, och hittade ett trehundra tretton megabyte krypterat arkiv av sin kommersiella arbetsyta: fyrtiotvå tusen filer, åttiosju procent av det .git-katalogen, skickat till Alibabas objektlagring vid inloggning och före varje prompt.

3:42 Arkivet är krypterat med en publik nyckel som servern delar ut; den privata nyckeln finns endast i Z.ai:s moln, så krypteringen på din egen disk är oläsbar för dig. Hans slutsats: en nyckel som bara servern kan använda tjänar exakt ett syfte. Z.ai är också företaget som Anthropic anklagade för att destillera Claude, så vikterna är öppna och så, tydligen, är ditt repo. Och den roliga, om du inte jobbar på OpenAI. Hacktron hittade en heap overflow i libheif, laddade upp en manipulerad bild till

4:10 community.openai.com, fick kodexekvering på forumet, och använde en felkonfigurerad single sign-on via GitHub-integrationen till OpenAIs interna arkiv, på under sjuttiotvå timmar. Exploiten skrevs av Claude: Opus 4.8 kunde inte slå adress slumpmässighet, Opus 5 gjorde det inom tre timmar efter lanseringen. Hela kampanjen kostade under tretusen dollar i tokens. OpenAI patchade inom fjorton timmar och betalade sextusen femhundra dollar, så källkoden till ett biljon-dollar-företag var,

4:39 kort sagt, prissatt som en begagnad Corolla, samma dag som dess advokater argumenterade för att kopiering är fair use. Om du hellre vill läsa detta än höra mig säga det, landar diffen i din inkorg varje morgon – gratis på thedailydiff.dev, länk nedan. Så – dagens dom: behöver granskas. Citaten är verkliga, men de är åklagarens val från hemligstämplade bevis, och den enda domare som har dömt säger att träning är fair use och piratkopiering är det inte. Domstolen beslutar om lagen; PM:et har redan beslutat om etiken.

5:07 Prenumerera, tryck på klockan och berätta i kommentarerna om du skulle ha stämplat det annorlunda. Och det är diffen för idag. Jag är Niko från Axrisi. Slå samman ansvarsfullt.

Källor

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com