Mambo ya ndani ya Microsoft kuhusu mafunzo ya AI yafichuka hadharani.

Nini video hii inashughulikia

• NYT dhidi ya OpenAI/Microsoft yafichuliwa: "wizi mkubwa zaidi wa kazi katika historia ya binadamu" (memo ya Microsoft, Jan 2023); Copilot −93% ya mibofyo; nakala 91,692 za kazi za walalamikaji katika data ya kati ya mafunzo; kurasa milioni 2 za nytimes.com katika sehemu moja ya Common Crawl; matangazo ya hakimiliki yaliondolewa; Brockman: "ah nice"
• Tahadhari: nukuu zinatokana na barua ya Times; ushahidi bado haujafichuliwa; Jaji Alsup (Bartz dhidi ya Anthropic) aliamua kuwa mafunzo ya vitabu vilivyonunuliwa ni matumizi halali — Anthropic ililipa $1.5B kwa vile milioni 7 vilivyoibiwa
• OpenAI Astra for Law: GPT-6 Astra + index ya kisheria ya URL milioni 230; 54.0% dhidi ya 38.7% kwenye Vals Legal Research Bench; Harvey, Legora, programu-jalizi 26
• ZCode (Z.ai, GLM): nakala iliyosimbwa ya 313 MB ya nafasi ya kazi ya faili 42,411, 86.6% .git, ilipakizwa kwenye Aliyun OSS wakati wa kuingia na kabla ya kila amri; ufunguo wa RSA-OAEP unashikiliwa na Z.ai pekee; swichi za mipangilio haziwezi kuizuia
• Hacktron: libheif heap overflow → Discourse RCE → SSO misconfig → GitHub → hifadhi za ndani za OpenAI chini ya saa 72; shambulio na Claude Opus 5 (saa 3); kampeni chini ya $3,000 kwa tokeni; zawadi $6,500, iliyorekebishwa kwa ~saa 14

Nakala iliyotafsiriwa

Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.

0:00 Mnamo Januari 2023, mkurugenzi wa Microsoft aliandika memo akiiita kile ambacho kampuni yake ilikuwa ikifanya wizi mkubwa zaidi wa kazi katika historia ya wanadamu, na jana mahakama ya shirikisho iliruhusu sisi wengine kuisoma. Memo hiyo ni moja ya nukuu zisizofichuliwa katika New York Times dhidi ya OpenAI na Microsoft, kesi iliyofikisha miaka mitatu Desemba hii. Alhamisi hiyo hiyo, OpenAI ilizindua Astra for Law, modeli kwa wanasheria, ambayo ama ni bahati mbaya au ajira nzuri sana. Asubuhi ya leo msanidi programu alimnasa ZCode, ajenti wa uandishi wa programu wa Z dot A I,

0:29 akapaki historia yake yote ya git kwenye wingu la Alibaba na ufunguo ambao Z dot A I pekee anao. Na kampuni ya usalama iliingia kwenye hifadhi za ndani za OpenAI kupitia upakiaji wa picha, ambapo OpenAI ililipa dola elfu sita mia tano. Katika video hii: nyaraka zinasema nini, nani alisema ah nice kwa udanganyifu wa ukuta wa malipo, modeli ya sheria ambayo inakosea nusu ya wakati, nini ZCode inapakia, na kwa nini shambulio lililoandikwa na Claude lina thamani ndogo kuliko gari lililotumika. Ni Ijumaa, Septemba 18, na huu ni The Daily Diff.

0:58 Anza na memo. Brent Hecht anaendesha sayansi inayotumika huko Microsoft, na mnamo Januari 2023 aliita data ya mafunzo wizi wa kushangaza wa vipimo visivyo na kifani. Mwaka mmoja baadaye alirudi na mada ya slaidi: injini ya majibu ya Copilot ilipunguza mabofyo ya Times kwa hadi asilimia tisini na tatu, ambayo aliiita kitanzi cha maangamizi: walishe wachapishaji, na modeli haina kitu kipya cha kula. Maneno yake: bidhaa ya mwisho inayotishia misingi ya kiuchumi ya wasambazaji wake

1:21 muhimu, njia ya shirika ya kusema nyoka amepata mkia wake. Kisha ushahidi wa mdomo. Satya Nadella alishuhudia mwaka huu kwamba chochote chenye ukuta wa malipo kinapaswa kupewa leseni, na kwamba kama angejua OpenAI ilifanya mafunzo kwa makala zenye ukuta wa malipo angekuwa amewafanya wafanye mafunzo upya, ambayo inadhani hakuna mtu katika Microsoft alifungua seti ya mafunzo waliyo walipewa, na kwa mujibu wa nyaraka hizo hiyo ilikuwa seti nzima ya data ya GPT-3. Nick Turley, ambaye anaendesha ChatGPT, aliiita tishio la kimaisha kwa wachapishaji, kubadilisha sana. Na wakati mtafiti

1:49 alimwambia Greg Brockman kuhusu udukuzi wa kuzunguka ukuta wa malipo wa Times, rais wa OpenAI alijibu kwa maneno mawili: ah nzuri. Wahandisi pia waliondoa matangazo ya hakimiliki kutoka kwenye data ili modeli isingeyatoa, ndiyo maana unafuta namba ya serial kwenye baiskeli. Kiwango: zaidi ya nakala elfu tisini na moja za makala za walalamikaji katika seti za kati za mafunzo pekee, na kurasa milioni mbili za Times katika sehemu moja ya Common Crawl sasa sehemu ambayo kichwa cha habari kinairuka.

2:15 Kila nukuu inatoka kwenye muhtasari wa Times; vielelezo bado vimefungwa, kwa hivyo tunasoma mambo muhimu ya upande wa mashtaka bila muktadha. Na mahakama zimeunga mkono matumizi halali: Jaji Alsup aliamua mwaka jana kwamba kufanya mafunzo kwa vitabu ulivyolipa ni halali, ingawa Anthropic bado ililipa bilioni moja na nusu kwa milioni saba iliyo ibiwa. Kwa hivyo swali la kisheria liko wazi. Iwapo watu wanaoujenga walidhani ni wizi ni, kama jana, sivyo.

2:41 Ambayo inafanya uzinduzi mwingine wa OpenAI wa Alhamisi kuwa chaguo jasiri. Astra for Law inafunga GPT-6 Astra, modeli niliyoiwekea muhuri REVERT wiki iliyopita baada ya kutoa mistari elfu sabini na tano ya chochote, katika faharisi ya utafiti wa kisheria ya kurasa milioni mia mbili na thelathini. Kwenye benchi la utafiti wa kisheria la Vals AI inajibu asilimia hamsini na nne ya maswali, ikiwa imeongezeka kutoka asilimia thelathini na tisa na utafutaji wa kawaida wa wavuti, ambayo OpenAI inaiita uboreshaji wa asilimia arobaini na mwanasheria angeiita kukosea karibu nusu ya wakati. Chapisho la blogu halina neno "udanganyifu" (hallucination).

3:14 Hacker News ilikuwa na: je, itaweza kujishitaki yenyewe, ambayo, kutokana na wiki, ndiyo kesi halisi ya kwanza ya matumizi. Wakati huo huo, mjadala wa wizi wa kazi ulifika kwenye kompyuta yako. Msanidi programu aliyeitwa ferstar alifuta folda yake ya ZCode, Ajenti wa mezani wa Z dot A I aliyefungwa kwa mifano ya GLM, na akapata kumbukumbu ya megabyte mia tatu na kumi na tatu iliyosimbwa ya nafasi yake ya kazi ya kibiashara: faili elfu arobaini na mbili, asilimia themanini na saba yake ikiwa saraka ya dot git, iliyosafirishwa kwenda hifadhi ya kitu cha Alibaba wakati wa kuingia na kabla ya kila amri.

3:42 Kumbukumbu hiyo imefungwa na ufunguo wa umma ambao seva inatoa; ufunguo wa faragha upo tu kwenye wingu la Z dot A I, kwa hivyo maandishi yaliyosimbwa kwenye diski yako mwenyewe hayawezi kusomeka kwako. Mstari wake: ufunguo ambao seva pekee inaweza kutumia una kusudi moja tu. Z dot A I pia ni kampuni ambayo Anthropic iliishutumu kwa kutoa Claude, kwa hivyo uzito uko wazi na vivyo hivyo, inaonekana, hifadhi yako. Na ile ya kuchekesha, isipokuwa kama unafanya kazi OpenAI. Hacktron alipata heap overflow katika libheif, akapandisha picha iliyotengenezwa kwa

4:10 community dot openai dot com, akapata utekelezaji wa msimbo kwenye jukwaa, na akaendesha mfumo wa kuingia mara moja usio sahihi kupitia ushirikiano wa GitHub hadi hifadhi za ndani za OpenAI, chini ya saa sabini na mbili. Shambulio hilo liliandikwa na Claude: Opus 4.8 haikuweza kushinda anwani randomization, Opus 5 ilifanya ndani ya masaa matatu ya kutolewa. Kampeni nzima iligharimu chini ya dola elfu tatu kwa tokeni. OpenAI ilirekebisha ndani ya masaa kumi na nne na kulipa dola elfu sita mia tano, hivyo nambari ya chanzo ya kampuni yenye thamani ya trilioni ya dola ilikuwa,

4:39 kwa ufupi, bei kama Corolla iliyotumika, siku hiyo hiyo mawakili wake walibishana kwamba kunakili ni matumizi halali. Kama ungependa kusoma hili badala ya kunisikia nikisema, diff inatua kwenye kikasha chako kila asubuhi — bure kwenye the daily diff dot dev, kiungo hapa chini. Hivyo — hukumu ya leo: inahitaji kupitiwa. Nukuu ni za kweli, lakini ni chaguo za upande wa mashtaka kutoka kwenye ushahidi uliowekwa siri, na jaji mmoja aliyetoa uamuzi anasema mafunzo ni matumizi halali na uharamia siyo. Mahakama inaamua sheria; memo tayari imeamua maadili.

5:07 Jisajili, bonyeza kengele, na uniambie kwenye maoni kama ungedhamini tofauti. Na hiyo ndiyo diff kwa leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.

Vyanzo

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com