Interní zpráva Microsoftu o trénování AI se stala veřejnou.

Co toto video pokrývá

• NYT vs. OpenAI/Microsoft zveřejněno: „největší krádež práce v lidské historii“ (zpráva Microsoftu, leden 2023); Copilot −93 % prokliků; 91 692 kopií děl žalobců v datech pro střední trénink; 2 miliony stránek nytimes.com v jednom řezu Common Crawl; odstraněná upozornění na autorská práva; Brockman: „ah nice“
• Upozornění: citace pocházejí z podání The Times, důkazy jsou stále zapečetěny; soudce Alsup (Bartz vs. Anthropic) rozhodl, že trénování na zakoupených knihách je fair use – Anthropic zaplatil 1,5 miliardy dolarů za 7 milionů pirátských knih
• OpenAI Astra for Law: GPT-6 Astra + právní index s 230 miliony URL; 54,0 % vs. 38,7 % na Vals Legal Research Bench; Harvey, Legora, 26 pluginů
• ZCode (Z.ai, GLM): 313 MB šifrovaného snímku pracovního prostoru s 42 411 soubory, 86,6 % .git, nahráno na Aliyun OSS při přihlášení a před každým dotazem; klíč RSA-OAEP drží pouze Z.ai; přepínače nastavení to nezastaví
• Hacktron: přetečení haldy libheif → Discourse RCE → špatně nakonfigurované SSO → GitHub → interní repozitáře OpenAI za méně než 72 h; exploit napsán Claude Opus 5 (3 h); kampaň za méně než 3 000 $ v tokenech; odměna 6 500 $, opraveno za ~14 h

Přeložený přepis

Přeloženo z původního anglického vyprávění. Dostupné audio a titulky jsou řízeny YouTube.

0:00 V lednu 2023 napsal ředitel Microsoftu zprávu, ve které to, co jeho vlastní společnost dělala, nazval největší krádeží práce v lidské historii, a včera nám to federální soud umožnil přečíst. Zpráva je jednou z nezredigovaných citací v žalobě New York Times versus OpenAI a Microsoft, soudním sporu, který letos v prosinci dosáhne tří let. Téhož čtvrtka OpenAI uvedla Astra for Law, model pro právníky, což je buď náhoda, nebo velmi silná investice. Dnes ráno vývojář přistihl ZCode, kódovacího agenta Z dot A I,

0:29 jak nahrává celou jeho historii gitu do cloudu Alibaba s klíčem, který drží pouze Z dot A I. A bezpečnostní firma se dostala do interních repozitářů OpenAI přes nahrávání obrázků, za což OpenAI zaplatila šest tisíc pět set dolarů. V tomto videu: co říkají spisy, kdo řekl „ah nice“ na hack platební brány, právní model, který je polovina času špatně, co nahrává ZCode, a proč exploit napsaný Claudem stojí méně než ojeté auto. Je pátek, 18. září, a toto je The Daily Diff.

0:58 Začněme zprávou. Brent Hecht vede aplikovanou vědu v Microsoftu, a v lednu 2023 nazval trénovací data ohromující krádeží nebývalých rozměrů. O rok později se vrátil s prezentací: Copilotův engine pro odpovědi snížil prokliky na The Times až o devadesát tři procent, což nazval smyčkou zkázy: vyhladovět vydavatele a model nebude mít nic nového k jídlu. Jeho slova: konečný produkt, který ohrožuje ekonomické základy svých

1:21 zásadních dodavatelů, korporátní způsob, jak říci, že had našel svůj ocas. Pak výslechy. Satya Nadella letos svědčil, že cokoli s platební bránou by mělo být licencováno, a že kdyby věděl, že OpenAI trénuje na článcích s platební bránou, nechal by je přetrénovat, což předpokládá, že nikdo v Microsoftu neotevřel trénovací sadu, kterou jim předali, a podle stejného podání to byla celá datová sada GPT-3. Nick Turley, který řídí ChatGPT, to nazval existenční hrozbou pro vydavatele, z velké části substituční. A když vědec

1:49 řekl Gregu Brockmanovi o hacku, jak obejít platební bránu The Times, prezident OpenAI odpověděl dvěma slovy: ah nice. Inženýři také odstranili upozornění na autorská práva z dat, aby je model nevytvářel, což je důvod, proč se odstraňuje výrobní číslo z jízdního kola. Rozsah: více než devadesát jedna tisíc kopií článků žalobců v pouze ve středních trénovacích sadách a dva miliony stránek The Times v jednom řezu Common Crawl. Nyní ta část, kterou nadpis vynechává.

2:15 Každá citace pochází z podání The Times; důkazy jsou stále zapečetěny, takže čteme hlavní body obžaloby bez kontextu. A soudy se většinou přiklonily k fair use: soudce Alsup rozhodl loni, že trénování na knihách, za které jste zaplatili, je legální, ačkoli Anthropic stále zaplatil jednu a půl miliardy za sedm milionů, které pirátsky získal. Takže právní otázka je otevřená. Zda si lidé, kteří to stavěli, mysleli, že je to krádež, je, od včerejška, ne.

2:41 Což činí čtvrteční spuštění dalšího produktu OpenAI odvážnou volbou. Astra for Law zahrnuje GPT-6 Astra, model, který jsem označil REVERT minulý týden poté, co vygeneroval sedmdesát pět tisíc řádků ničeho, v právním vyhledávacím indexu o dvou stech třiceti milionech stránek. Na právním výzkumném benchmarku Vals AI odpovídá správně na padesát čtyři procent otázek, oproti třiceti devíti s běžným webovým vyhledáváním, což OpenAI nazývá čtyřicetiprocentním zlepšením a právník by to nazval špatně téměř polovinu času. Blogový příspěvek neobsahuje slovo halucinace.

3:14 Hacker News ano: bude se moci žalovat, což, vzhledem k týdnu, je první skutečný případ použití. Mezitím se diskuse o krádeži práce dostala k vašemu laptopu. Vývojář jménem ferstar vyčistil svou složku ZCode, uzavřeného desktopového agenta Z dot A I pro modely GLM, a našel tři sta třináct megabajtů šifrovaného archivu svého komerčního pracovního prostoru: čtyřicet dva tisíc souborů, osmdesát sedm procent z toho adresář dot git, odeslaných do úložiště objektů Alibaba při přihlášení a před každým dotazem.

3:42 Archiv je zabalen veřejným klíčem, který server rozdává; soukromý klíč žije pouze v cloudu Z dot A I, takže šifrovaný text na vašem vlastním disku je pro vás nečitelný. Jeho věta: klíč, který může použít pouze server, slouží přesně k jednomu účelu. Z dot A I je také společnost, kterou Anthropic obvinil z destilace Claude, takže váhy jsou otevřené a tak, zřejmě, i vaše repo. A ten zábavný, pokud nepracujete v OpenAI. Hacktron našel přetečení haldy v libheif, nahrál upravený obrázek na

4:10 community dot openai dot com, získal spuštění kódu na fóru, a projel špatně nakonfigurovaným single sign-on přes integraci GitHub do interních repozitářů OpenAI, za méně než sedmdesát dva hodin. Exploit napsal Claude: Opus 4.8 nedokázal porazit náhodnou adresaci, Opus 5 to zvládl do tří hodin od vydání. Celá kampaň stála méně než tři tisíce dolarů v tokenech. OpenAI opravila chybu za čtrnáct hodin a zaplatila šest tisíc pět set dolarů, takže zdrojový kód bilionové společnosti byl,

4:39 krátce, oceněn jako ojetá Corolla, ve stejný den, kdy její právníci argumentovali, že kopírování je fair use. Pokud byste si to raději přečetli, než abyste mě slyšeli, diff vám přistane do schránky každé ráno – zdarma na the daily diff dot dev, odkaz níže. Takže – dnešní verdikt: NEEDS REVIEW. Citace jsou skutečné, ale jsou to výběry obžaloby ze zapečetěných důkazů, a jediný soudce, který rozhodl, říká, že trénování je fair use a pirátství není. Soud rozhoduje o právu; zpráva již rozhodla o etice.

5:07 Přihlaste se k odběru, stiskněte zvoneček a řekněte mi v komentářích, zda byste to označili jinak. A to je dnešní diff. Jsem Niko z Axrisi. Sloučení s odpovědností.

Zdroje

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com