Microsoftin oma muistio tekoälykoulutuksesta julkistettiin.

Mitä tämä video käsittelee

• NYT v. OpenAI/Microsoft julkistettu: "suurin työvoiman varkaus ihmiskunnan historiassa" (Microsoftin muistio, tammikuu 2023); Copilot –93 % klikkauksia; 91 692 kopiota kantajien teoksista keski-koulutusdatassa; 2 miljoonaa nytimes.com-sivua yhdessä Common Crawl -osiossa; tekijänoikeusilmoitukset poistettu; Brockman: "ah kiva"
• Varoitus: lainaukset ovat peräisin Timesin tiedonannosta, näyttelyt ovat edelleen sinetöityjä; tuomari Alsup (Bartz v. Anthropic) päätti, että ostetuilla kirjoilla kouluttaminen on reilua käyttöä – Anthropic maksoi 1,5 miljardia dollaria 7 miljoonasta piraattikappaleesta
• OpenAI Astra for Law: GPT-6 Astra + 230 miljoonan URL-osoitteen oikeudellinen indeksi; 54,0 % vs. 38,7 % Vals Legal Research Benchissä; Harvey, Legora, 26 laajennusta
• ZCode (Z.ai, GLM): 313 Mt salattu tilannekuva 42 411 tiedoston työtilasta, 86,6 % .git, ladattu Aliyun OSS:ään kirjautumisen yhteydessä ja ennen jokaista kehotetta; RSA-OAEP-avain, jonka vain Z.ai omistaa; asetusten vaihtaminen ei pysäytä sitä
• Hacktron: libheif-keon ylivuoto → Discourse RCE → SSO-virhekonfigurointi → GitHub → OpenAI:n sisäiset repositoriot alle 72 tunnissa; hyväksikäyttö Claude Opus 5:n toimesta (3 h); kampanja alle 3 000 dollarin tokeneissa; palkkio 6 500 dollaria, paikattu ~14 tunnissa

Käännetty transkriptio

Käännetty alkuperäisestä englanninkielisestä selostuksesta. Käytettävissä olevan äänen ja tekstitysten hallinta tapahtuu YouTuben kautta.

0:00 Tammikuussa 2023 Microsoftin johtaja kirjoitti muistion, jossa hän kutsui sitä, mitä hänen oma yrityksensä oli tekemässä, suurimmaksi työvoiman varkaudeksi ihmiskunnan historiassa, ja eilen liittovaltion tuomioistuin antoi meidän muiden lukea sen. Muistio on yksi sensuroimattomista lainauksista New York Times vastaan OpenAI ja Microsoft, oikeusjutussa, joka täyttää kolme vuotta joulukuussa. Samana torstaina OpenAI julkaisi Astra for Law'n, mallin lakimiehille, mikä on joko sattumaa tai erittäin vahva rekrytointi. Tänä aamuna kehittäjä havaitsi ZCoden, Z.ai:n koodausagentin,

0:29 lataavan koko git-historiansa Alibaban pilveen avaimella, jonka vain Z.ai omistaa. Ja tietoturvayritys pääsi OpenAI:n sisäisiin arkistoihin kuvan latauksen kautta, josta OpenAI maksoi kuusi tuhatta viisisataa dollaria. Tässä videossa: mitä tiedoissa sanotaan, kuka sanoi 'ah kiva' maksumuurin ohitukseen, lakimalli, joka on väärässä puolet ajasta, mitä ZCode lataa, ja miksi Clauden kirjoittama hyväksikäyttö on vähemmän arvokas kuin käytetty auto. On perjantai, syyskuun 18. päivä, ja tämä on The Daily Diff.

0:58 Aloitetaan muistiosta. Brent Hecht johtaa sovellettua tiedettä Microsoftilla, ja tammikuussa 2023 hän kutsui koulutusdataa hämmästyttäväksi ja ennennäkemättömäksi varkaudeksi. Vuotta myöhemmin hän palasi diojen kera: Copilotin vastausmoottori leikkasi klikkausmääriä Timesiin jopa 93 prosenttia, mitä hän kutsui tuhoa vieväksi silmukaksi: nälkäännytä julkaisijat, ja mallilla ei ole mitään uutta syötävää. Hänen sanansa: lopputuote, joka uhkaa sen

1:21 olennaisten toimittajien taloudellisia perusteita, yrityksen tapa sanoa, että käärme on löytänyt häntänsä. Sitten kuulustelut. Satya Nadella todisti tänä vuonna, että kaikki maksumuurin takana oleva pitäisi lisensoida, ja että jos hän olisi tiennyt OpenAI:n kouluttavan maksumuurin takana olevilla artikkeleilla, hän olisi saanut heidät kouluttamaan uudelleen, mikä olettaa, ettei kukaan Microsoftilla avannut heille annettua koulutusaineistoa, ja saman tiedonannon mukaan se oli koko GPT-3-tietoaineisto. Nick Turley, joka johtaa ChatGPT:tä, kutsui sitä eksistentiaaliseksi uhaksi julkaisijoille, suurelta osin korvaavaksi. Ja kun tutkija

1:49 kertoi Greg Brockmanille hakkeroinnista Timesin maksumuurin ohittamiseksi, OpenAI:n presidentti vastasi kahdella sanalla: ah kiva. Insinöörit myös poistivat tekijänoikeusilmoitukset datasta, jotta malli ei tuottaisi niitä, minkä vuoksi polkupyörästä poistetaan sarjanumero. Laajuus: yli yhdeksänkymmentäyksi tuhatta kopiota kantajien artikkeleista pelkästään keskitason koulutusjoukoissa, ja kaksi miljoonaa Times-sivua yhdessä Common Crawl osiossa. Nyt se osa, jonka otsikko jättää väliin.

2:15 Jokainen lainaus tulee Timesin tiedonannosta; todisteet ovat edelleen sinetöityjä, joten luemme syyttäjän kohokohdat ilman kontekstia. Ja tuomioistuimet ovat enimmäkseen puoltaneet kohtuullista käyttöä: tuomari Alsup päätti viime vuonna, että ostamillaan kirjoilla kouluttaminen on laillista, vaikka Anthropic maksoikin silti puolitoista miljardia niistä seitsemästä miljoonasta, jotka se piratoi. Joten oikeudellinen kysymys on avoin. Se, pitivätkö sitä rakentaneet ihmiset sitä varkautena, ei ole ollut eilisestä lähtien.

2:41 Mikä tekee torstain toisesta OpenAI-julkaisusta rohkean valinnan. Astra for Law käärii GPT-6 Astran, mallin, jonka leimasin REVERT viime viikolla, kun se tuotti seitsemänkymmentäviisi tuhatta riviä tyhjää, 230 miljoonan sivun lakihakuindeksiin. Vals AI:n oikeudellisen tutkimuksen vertailutestissä se läpäisee viisikymmentäneljä prosenttia kysymyksistä, lisäys 39 prosentista tavallisella verkkohaukuilla, jota OpenAI kutsuu 40 prosentin parannukseksi ja lakimies kutsuisi lähes puolet ajasta vääräksi. Blogikirjoitus ei sisällä sanaa harha.

3:14 Hacker Newsissa oli: pystyykö se haastamaan itsensä oikeuteen, mikä, ottaen huomioon viikon, on ensimmäinen aito käyttötapaus. Sillä välin "työvoiman varkaus"-keskustelu saavutti kannettavan tietokoneesi. Kehittäjä nimeltä ferstar puhdisti ZCode-kansionsa, Z.ai:n suljetun työpöytäagentin GLM-malleille, ja löysi kolmesataakolmetoista megatavun salatun arkiston kaupallisesta työtilastaan: neljäkymmentäkaksi tuhatta tiedostoa, joista kahdeksankymmentäseitsemän prosenttia oli .git-hakemisto, lähetetty Alibaban objektitallennukseen kirjautumisen yhteydessä ja ennen jokaista kehotetta.

3:42 Arkisto on kääritty julkisella avaimella, jonka palvelin jakaa; yksityinen avain elää vain Z.ai:n pilvessä, joten omalla levylläsi oleva salattu teksti on sinulle lukukelvoton. Hänen sanansa: avaimella, jota vain palvelin voi käyttää, on täsmälleen yksi tarkoitus. Z.ai on myös yritys, jota Anthropic syytti Clauden tiivistämisestä, joten painot ovat avoimia ja niin, ilmeisesti, on myös repositoriosi. Ja hauska juttu, ellei työskentele OpenAI:ssa. Hacktron löysi libheifissä muistialueen ylivuodon, latasi käsityönä tehdyn kuvan

4:10 community.openai.comiin, sai koodin suorituksen foorumilla, ja ajoi väärin konfiguroidun kertakirjautumisen GitHub-integraation kautta OpenAI:n sisäisiin arkistoihin alle seitsemässäkymmenessäkahdessa tunnissa. Hyödyntäminen kirjoitettiin Clauden toimesta: Opus 4.8 ei pystynyt voittamaan osoitteen satunnaistamista, Opus 5 teki sen kolmen tunnin sisällä julkaisusta. Koko kampanja maksoi alle kolme tuhatta dollaria tokeneina. OpenAI korjasi sen neljässätoista tunnissa ja maksoi kuusi tuhatta viisisataa dollaria, joten triljoonan dollarin yrityksen lähdekoodi oli,

4:39 lyhyesti, hinnoiteltu kuin käytetty Corolla, samana päivänä, kun sen lakimiehet väittivät, että kopiointi on kohtuullista käyttöä. Jos haluat mieluummin lukea tämän kuin kuulla minun sanovan sen, "the diff" laskeutuu postilaatikkoosi joka aamu – ilmaiseksi osoitteessa thedailydiff.dev, linkki alla. Joten – tämän päivän tuomio: TARVITSEE ARVIOINTIA. Lainaukset ovat aitoja, mutta ne ovat syyttäjän valintoja sinetöityistä todisteista, ja ainoa tuomari, joka on tehnyt päätöksen, sanoo, että koulutus on kohtuullista käyttöä, mutta piratismi ei. Tuomioistuin päättää lain; muistio päätti jo etiikan.

5:07 Tilaa, paina kelloa ja kerro kommenteissa, olisitko leimannut sen eri tavalla. Ja tämä on tämän päivän ero. Olen Niko Axrisista. Yhdistä vastuullisesti.

Lähteet

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com