Майкрософт компанийн хиймэл оюун сургах тухай санамж бичиг олон нийтэд ил боллоо.

Энэ видео юуг хамардаг

• NYT v. OpenAI/Microsoft ил болгосон: "хүний түүхэн дэх хамгийн том хөдөлмөрийн хулгай" (Майкрософтын санамж бичиг, 2023 оны 1-р сар); Copilot −93% дарж нэвтрэх; сургалтын дунд үеийн өгөгдөлд нэхэмжлэгчдийн бүтээлийн 91,692 хуулбар; нэг Common Crawl хэсэгт 2М nytimes.com хуудас; зохиогчийн эрхийн тэмдэглэгээг хассан; Брокман: "аан сайхан"
• Анхааруулга: ишлэлүүд нь Times-ийн товч мэдээллээс авсан бөгөөд нотлох баримтууд битүүмжлэгдсэн хэвээр байна; Шүүгч Алсап (Бартз Эмнэлэгт холбогдох хэрэгт) худалдаж авсан номуудаар сургах нь шударга хэрэглээ гэж шийдвэрлэсэн - Эмнэлэгт холбогдох нь хулгайлагдсан 7М-ийг 1.5 тэрбум доллараар төлсөн
• OpenAI Astra for Law: GPT-6 Astra + 230М URL-ийн хуулийн индекс; Vals Legal Research Bench дээр 38.7%-иас 54.0%
• ZCode (Z.ai, GLM): 42,411 файлын ажлын талбарын 313 МБ хэмжээтэй нууцлагдсан хуулбар, 86.6% нь .git, Aliyun OSS руу нэвтрэх үед болон тушаал өгөх бүрийн өмнө байршуулсан; RSA-OAEP түлхүүрийг зөвхөн Z.ai эзэмшдэг; тохиргооны товчлуурууд үүнийг зогсоохгүй
• Hacktron: libheif-ийн хэт их санах ой → Discourse RCE → SSO-ийн буруу тохиргоо → GitHub → OpenAI-ийн дотоод репозиторууд руу 72 цагийн дотор; Claude Opus 5-ээр ашигласан (3 цаг); кампанит ажил 3,000 доллараас бага токен зарцуулсан; шагнал 6,500 доллар, 14 цагийн дотор засварлагдсан

Орчуулсан бичлэг

Англи хэл дээрх эх хувилбараас орчуулсан. Боломжтой дуу болон хадмал орчуулгыг YouTube хянадаг.

0:00 2023 оны 1-р сард Майкрософтын захирал санамж бичиг бичиж, өөрийн компанийн хийж буй зүйлийг хүний түүхэн дэх хамгийн том хөдөлмөрийн хулгай гэж нэрлэсэн. Өчигдөр холбооны шүүх бид бүгдийг үүнийг уншихыг зөвшөөрсөн. Энэхүү санамж бичиг нь Нью-Йорк Таймс ОпенАИ болон Майкрософт компанийн эсрэг шүүх хэргийн ил болсон ишлэлүүдийн нэг бөгөөд энэ жил гурван жил болж байна. Яг тэр пүрэв гарагт ОпенАИ хуульчдад зориулсан Astra for Law загварыг гаргасан. Энэ нь санамсаргүй тохиолдол эсвэл маш хүчтэй хөлслөлт юм. Өнөө өглөө нэгэн хөгжүүлэгч ZCode буюу Z.AI-ийн кодын агентийг

0:29 бүх git түүхээ Алибабагийн үүлэн тооцоололд зөвхөн Z.AI-д хадгалагдах түлхүүрээр байршуулж байсныг олж илрүүлжээ. эзэмшдэг. Мөн нэгэн аюулгүй байдлын компани зургийн байршуулалтаар дамжуулан ОпенАИ-ийн дотоод репозиторууд руу нэвтэрсэн бөгөөд үүний төлөө ОпенАИ зургаан мянга таван зуун доллар төлсөн. зургаан мянга таван зуун доллар төлсөн. Энэ видеонд: баримтууд юу гэж хэлж байна, төлбөртэй хандалтыг давах хакердалтад хэн "аан сайхан" гэж хэлсэн, хагас хувь нь буруу байдаг хуулийн загвар, ZCode юу байршуулдаг, мөн яагаад Claude-ээр бичигдсэн эксплоит нь хуучин машинаас хямд байдаг вэ. Баасан гараг, 9-р сарын 18, энэ бол The Daily Diff.

0:58 Санамж бичгээс эхэлье. Брент Хехт Майкрософт компанид хэрэглээний шинжлэх ухааныг удирддаг. Тэрээр 2023 оны 1-р сард сургалтын өгөгдлийг урьд өмнө байгаагүй хэмжээний гайхалтай хулгай гэж нэрлэсэн. Жилийн дараа тэрээр слайд шоутай эргэж ирсэн: Copilot-ийн хариултын хөдөлгүүр нь Times руу орох хүмүүсийн тоог ерэн гурав хүртэлх хувиар бууруулсан. Тэрээр үүнийг сүйрлийн гогцоо гэж нэрлэсэн: хэвлэн нийтлэгчдийг өлсгөхөд загвар нь идэх шинэ зүйлгүй болно. Түүний үгс: үндсэн ханган нийлүүлэгчдийнхээ эдийн засгийн суурийг хохироосон эцсийн бүтээгдэхүүн.

1:21 энэ нь корпорацийн хувьд могой сүүлээ олсон гэсэн үг юм. Дараа нь гэрчлэлийн мэдүүлгүүд. Сатя Наделла энэ жил төлбөртэй бүх контентыг лицензлэх ёстой гэж гэрчилсэн. Хэрэв тэрээр ОпенАИ төлбөртэй нийтлэлүүдээр сургалт явуулсныг мэдсэн бол тэднийг дахин сургах байсан гэж хэлсэн бөгөөд энэ нь Майкрософт дахь хэн ч өгөгдсөн сургалтын багцыг нээгээгүй гэсэн үг юм. мөн ижил баримт бичигт дурдсанаар энэ нь бүх GPT-3 өгөгдлийн багц байсан. ChatGPT-ийг удирддаг Ник Турли үүнийг хэвлэн нийтлэгчдэд учирч буй оршин тогтнох аюул гэж нэрлэсэн. ихэвчлэн орлуулах чадвартай. Мөн нэгэн судлаач

1:49 Грег Брокманд хакердах аргын тухай хэлэхэд Таймс сонины төлбөртэй хандалтыг тойрч гарахын тулд ОпенАИ-ийн ерөнхийлөгч ерөнхийлөгч хоёр үгээр хариулсан: аан сайхан. Инженерүүд мөн өгөгдлөөс зохиогчийн эрхийн тэмдэглэгээг хасчээ. Загвар нь тэдгээрийг гаргахгүйн тулд, энэ нь та яагаад дугуйнаас серийн дугаарыг хуулж авдагтай адил юм. Хэмжээ: зөвхөн дунд үеийн сургалтын багцад нэхэмжлэгчдийн нийтлэлүүдийн ерэн нэгэн мянга гаруй хуулбар, нэг Common Crawl хэсэгт хоёр сая Times хуудас. Одоо гарчиг орхигдсон хэсэг. Одоо гарчигт алгассан хэсэг.

2:15 Бүх ишлэлүүд Times-ийн товч мэдээллээс авсан; нотлох баримтууд битүүмжлэгдсэн хэвээр байгаа тул бид яллах талын онцлох мэдээллийг контекстгүйгээр уншиж байна. Шүүхүүд ихэвчлэн шударга хэрэглээний талд байсан: Шүүгч Алсап өнгөрсөн Жилдээ төлсөн номуудаар сургалт явуулах нь хууль ёсны гэж шийдвэрлэсэн, хэдийгээр Anthropic нь хулгайлсан долоон саяын төлөө нэг тэрбум хагас төлсөн ч. Тиймээс хуулийн асуудал нээлттэй байна. Үүнийг бүтээж буй хүмүүс үүнийг хулгай гэж үзсэн эсэх нь өчигдрийг хүртэл, үгүй.

2:41 Энэ нь пүрэв гарагийн ОпенАИ-ийн өөр нэг нээлтийг зоригтой сонголт болгож байна. Astra for Law нь GPT-6 Astra-г агуулж байна, энэ загварыг би өнгөрсөн долоо хоногт долоон арван таван мянган мөр юу ч биш зүйл гаргасны дараа REVERT гэж тэмдэглэсэн. хоёр зуун гучин сая хуудасны хуулийн хайлтын индексийн дотор. Vals AI-ийн хуулийн судалгааны жишиг дээр энэ нь асуултуудын тавин дөрвөн хувийг давдаг. энгийн вэб хайлтаас гучин есөн хувиар өссөн нь ОпенАИ дөчин хувийн сайжруулалт гэж нэрлэдэг. Мөн хуульч үүнийг бараг тал хувь нь буруу гэж нэрлэх байсан. Блог нийтлэлд "хийсвэрлэл" гэдэг үг ороогүй байна.

3:14 Hacker News бол: энэ нь өөрийгөө шүүх боломжтой юу, энэ нь тухайн долоо хоногт өгөгдсөн, хамгийн анхны жинхэнэ хэрэглээний тохиолдол юм. Энэ хооронд хөдөлмөрийн хулгайн талаарх яриа таны зөөврийн компьютерт хүрчээ. Ferstar хэмээх хөгжүүлэгч ZCode хавтасаа цэвэрлэж, Z.AI-ийн GLM загваруудад зориулсан хаалттай ширээний агентийг олж, гурван зуун арван гурван мегабайт нууцлагдсан, түүний арилжааны ажлын талбарын архивыг олсон: дөчин хоёр мянган файл, үүний наян долоон хувь нь .git директори. Алибабагийн объектын хадгалах санд нэвтрэх үед болон тушаал өгөх бүрийн өмнө илгээгдсэн.

3:42 Архив нь серверийн олгодог нэг нийтийн түлхүүрээр боогдсон; хувийн түлхүүр зөвхөн Z.AI-ийн үүлэнд байдаг тул таны дискэн дээрх нууц текст танд унших боломжгүй. Түүний хэлсэн үг: зөвхөн сервер ашиглаж болох түлхүүр нь яг нэг зорилгод үйлчилдэг. Z.AI нь мөн Anthropic компанийг Claude-ийг нэрлэж буй компани юм. Тиймээс жин нь нээлттэй бөгөөд таны репо мөн нээлттэй бололтой. ОпенАИ-д ажилладаггүй бол хөгжилтэй нэг нь. Hacktron libheif-д heap overflow олж, өөрчилсөн зургийг байршуулсан.

4:10 community.openai.com руу, форум дээр код гүйцэтгэх эрх авсан, мөн буруу тохируулсан нэг удаагийн нэвтрэлтийг GitHub-ийн нэгдлээр дамжуулан ОпенАИ-ийн дотоод репозиторууд руу, далан хоёр цагийн дотор. Эксплоитыг Claude бичсэн: Opus 4.8 хаягийн санамсаргүй байдлыг даван туулж чадаагүй, Opus 5 гаргасан цагаасаа хойш гурван цагийн дотор үүнийг хийсэн. Бүх кампанит ажил гурван мянган доллараас бага токен зарцуулсан. ОпенАИ арван дөрвөн цагийн дотор засварлаж, зургаан мянга таван зуун доллар төлсөн. Тиймээс их наяд долларын компанийн эх кодыг

4:39 богино хугацаанд, хуучин Corolla шиг үнэлсэн, яг тэр өдөр хуульчид нь хуулбарлах нь шударга хэрэглээ гэж маргаж байсан. Хэрэв та үүнийг сонсохоос илүү уншихыг хүсвэл, ялгаа нь өглөө бүр таны имэйл хайрцагт ирдэг. the daily diff.dev дээр үнэгүй, холбоос доор байна. Тэгэхээр - өнөөдрийн дүгнэлт: ШИНЭЭР ХЯНАХ ШААРДЛАГАТАЙ. Ишлэлүүд нь бодит боловч тэдгээр нь битүүмжлэгдсэн нотлох баримтуудаас яллах талын сонголтууд юм. мөн шийдвэр гаргасан нэг шүүгч нь сургалт нь шударга хэрэглээ бөгөөд хулгай биш гэж хэлсэн. Шүүх хуулийг шийдвэрлэнэ; санамж бичиг ёс зүйг аль хэдийн шийдвэрлэчихсэн.

5:07 Бүртгүүлж, хонхыг дарж, хэрэв та өөрөөр тамгалсан бол сэтгэгдэл хэсэгт надад хэлээрэй. өөрөөр. Энэ бол өнөөдрийн ялгаа юм. Би Аккрисигээс Нико байна. Хариуцлагатай нэгтгэнэ үү.

Эх сурвалжууд

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com