บันทึกภายในของ Microsoft เกี่ยวกับการฝึกอบรม AI เพิ่งถูกเปิดเผยต่อสาธารณะ

วิดีโอนี้ครอบคลุมอะไรบ้าง

• NYT v. OpenAI/Microsoft ถูกเปิดผนึก: "การขโมยแรงงานที่ใหญ่ที่สุดในประวัติศาสตร์มนุษยชาติ" (บันทึกของ Microsoft, ม.ค. 2023); Copilot ลดการคลิก −93%; สำเนาผลงานของผู้ฟ้องร้อง 91,692 ชุดในข้อมูลระหว่างการฝึกอบรม; หน้า nytimes.com 2 ล้านหน้าใน Common Crawl ส่วนหนึ่ง; การแจ้งเตือนลิขสิทธิ์ถูกลบ; Brockman: "ah nice"
• ข้อควรระวัง: คำพูดมาจากคำฟ้องของ Times, หลักฐานยังคงถูกปิดผนึก; ผู้พิพากษา Alsup (Bartz v. Anthropic) ตัดสินว่าการฝึกอบรมจากหนังสือที่ซื้อมาเป็นการใช้งานโดยชอบธรรม — Anthropic จ่าย $1.5 พันล้านสำหรับหนังสือละเมิดลิขสิทธิ์ 7 ล้านเล่ม
• OpenAI Astra for Law: GPT-6 Astra + ดัชนีกฎหมาย 230 ล้าน URL; 54.0% เทียบกับ 38.7% ใน Vals Legal Research Bench; Harvey, Legora, 26 ปลั๊กอิน
• ZCode (Z.ai, GLM): สแน็ปช็อตที่เข้ารหัส 313 MB ของเวิร์กสเปซที่มี 42,411 ไฟล์, 86.6% เป็น .git, อัปโหลดไปยัง Aliyun OSS เมื่อเข้าสู่ระบบและก่อนทุกคำสั่ง; คีย์ RSA-OAEP ที่ Z.ai เท่านั้นที่ถือ; การตั้งค่าสลับไม่ได้หยุดมัน
• Hacktron: libheif heap overflow → Discourse RCE → SSO misconfig → GitHub → คลังภายในของ OpenAI ภายใน 72 ชั่วโมง; การโจมตีโดย Claude Opus 5 (3 ชั่วโมง); แคมเปญใช้โทเค็นไม่ถึง $3,000; รางวัล $6,500, แก้ไขภายใน ~14 ชั่วโมง

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

0:00 ในเดือนมกราคม 2023 กรรมการของ Microsoft ได้เขียนบันทึกที่เรียกสิ่งที่ บริษัทของเขากำลังทำอยู่ว่าเป็นการขโมยแรงงานครั้งใหญ่ที่สุดในประวัติศาสตร์มนุษยชาติ และเมื่อวานนี้ศาลรัฐบาลกลางได้อนุญาตให้พวกเราที่เหลืออ่านได้ บันทึกดังกล่าวเป็นหนึ่งในคำพูดที่ไม่ได้แก้ไขในคดี New York Times เทียบกับ OpenAI และ Microsoft ซึ่งเป็นคดีที่ดำเนินมาถึงสามปีในเดือนธันวาคมนี้ ในวันพฤหัสบดีเดียวกัน OpenAI ได้เปิดตัว Astra for Law ซึ่งเป็นโมเดลสำหรับทนายความ ซึ่งอาจเป็นเรื่องบังเอิญหรือเป็นการจ้างงานที่แข็งแกร่งมาก เช้านี้มีนักพัฒนาท่านหนึ่งพบว่า ZCode ซึ่งเป็นเอเจนต์การเขียนโค้ดของ Z.AI

0:29 กำลังอัปโหลดประวัติ Git ทั้งหมดของเขาไปยังคลาวด์ของ Alibaba ด้วยคีย์ที่ Z dot AI เท่านั้นที่ถือ และบริษัทด้านความปลอดภัยได้เข้าถึงคลังภายในของ OpenAI ผ่านการอัปโหลดรูปภาพ ซึ่ง OpenAI จ่ายเงินไปหกพันห้าร้อยดอลลาร์ ในวิดีโอนี้: สิ่งที่เอกสารระบุ ใครพูดว่า "ah nice" กับการแฮกกำแพงกั้น โมเดลกฎหมายที่ผิดพลาดเกือบครึ่งหนึ่ง สิ่งที่ ZCode อัปโหลด และเหตุใดการโจมตีที่เขียนโดย Claude จึงมีค่าน้อยกว่ารถมือสอง วันนี้วันศุกร์ที่ 18 กันยายน และนี่คือ The Daily Diff

0:58 มาเริ่มกันที่บันทึก Brent Hecht เป็นผู้ดูแลวิทยาศาสตร์ประยุกต์ที่ Microsoft และในเดือนมกราคม 2023 เขาเรียก ข้อมูลการฝึกอบรมว่าเป็นการขโมยที่น่าตกใจในสัดส่วนที่ไม่เคยมีมาก่อน หนึ่งปีต่อมาเขากลับมาพร้อมกับสไลด์: เอ็นจินตอบคำถามของ Copilot ลด การคลิกเข้าสู่ Times ลงถึงเก้าสิบสามเปอร์เซ็นต์ ซึ่งเขาเรียกว่าวงจรอุบาทว์: ทำให้ผู้เผยแพร่ขาดแคลน และโมเดลก็ไม่มีอะไรใหม่ ที่จะกิน ตามคำพูดของเขา: ผลิตภัณฑ์สุดท้ายที่คุกคามรากฐานทางเศรษฐกิจของ

1:21 ซัพพลายเออร์ที่จำเป็น ซึ่งเป็นวิธีที่บริษัทพูดว่างูกำลังกัดหางตัวเอง จากนั้นก็เป็นการให้ถ้อยคำ Satya Nadella ให้การในปีนี้ว่าสิ่งใดก็ตามที่มีกำแพงกั้นควรได้รับอนุญาต และหากเขารู้ว่า OpenAI ฝึกอบรมจากบทความที่มีกำแพงกั้น เขาคงจะให้ พวกเขาฝึกอบรมใหม่ ซึ่งสันนิษฐานว่าไม่มีใครที่ Microsoft เปิดชุดข้อมูลการฝึกอบรมที่ พวกเขาได้รับ และตามเอกสารเดียวกันนั้นคือชุดข้อมูล GPT-3 ทั้งหมด Nick Turley ผู้ดูแล ChatGPT เรียกมันว่าเป็นภัยคุกคามต่อผู้เผยแพร่ โดยส่วนใหญ่เป็นการทดแทนกันได้ และเมื่อนักวิจัย

1:49 บอก Greg Brockman เกี่ยวกับการแฮกเพื่อ หลีกเลี่ยงกำแพงกั้นของ Times ประธาน ของ OpenAI ตอบกลับด้วยสองคำ: ah nice. วิศวกรยังได้ลบประกาศลิขสิทธิ์ออกจากข้อมูลเพื่อให้โมเดล ไม่แสดงผลออกมา ซึ่งเป็นเหตุผลที่คุณขูดหมายเลขประจำเครื่องออกจากจักรยาน ขนาด: สำเนาบทความของผู้ฟ้องร้องมากกว่าเก้าหมื่นหนึ่งพันฉบับใน ชุดข้อมูลระหว่างการฝึกอบรมเพียงอย่างเดียว และสองล้านหน้าของ Times ใน Common Crawl ส่วนเดียว ทีนี้มาถึงส่วนที่พาดหัวข่าวข้ามไป

2:15 ทุกคำพูดมาจากคำฟ้องของ Times; หลักฐานยังคงถูกปิดผนึก ดังนั้นเราจึงกำลังอ่านจุดเด่นของฝ่ายโจทก์โดยไม่มีบริบท และศาลส่วนใหญ่ตัดสินเข้าข้างการใช้งานโดยชอบธรรม: ผู้พิพากษา Alsup ตัดสินเมื่อ ปีที่แล้วว่าการฝึกอบรมจากหนังสือที่คุณจ่ายเงินซื้อนั้นถูกกฎหมาย แม้ว่า Anthropic ยังคงจ่ายเงินหนึ่งพันห้าร้อยล้านสำหรับหนังสือเจ็ดล้านเล่มที่ ละเมิดลิขสิทธิ์ ดังนั้นคำถามทางกฎหมายยังคงเปิดอยู่ ไม่ว่าคนที่สร้างมันจะคิดว่าเป็นการขโมยหรือไม่นั้น เมื่อวานนี้ไม่ใช่

2:41 ซึ่งทำให้การเปิดตัว OpenAI อีกอย่างในวันพฤหัสบดีเป็นทางเลือกที่กล้าหาญ Astra for Law ห่อหุ้ม GPT-6 Astra ซึ่งเป็นโมเดลที่ฉันประทับว่า REVERT เมื่อสัปดาห์ที่แล้วหลังจากที่มันสร้างบรรทัดว่างเปล่าเจ็ดหมื่นห้าพันบรรทัด ในดัชนีการค้นหาทางกฎหมายจำนวนสองร้อยสามสิบล้านหน้า ในการทดสอบการวิจัยทางกฎหมายของ Vals AI มันผ่านคำถามห้าสิบสี่เปอร์เซ็นต์ เพิ่มขึ้นจากสามสิบเก้าเปอร์เซ็นต์ด้วยการค้นหาเว็บธรรมดา ซึ่ง OpenAI เรียกมันว่าการปรับปรุงสี่สิบเปอร์เซ็นต์ และทนายความจะเรียกว่าผิดพลาดเกือบครึ่งหนึ่งของเวลา บล็อกโพสต์ไม่มีคำว่าภาพหลอน

3:14 Hacker News มี: มันจะสามารถฟ้องตัวเองได้หรือไม่ เมื่อพิจารณาจากสัปดาห์นี้ นี่คือกรณีการใช้งานที่แท้จริงครั้งแรก ในขณะเดียวกัน การอภิปรายเรื่องการขโมยแรงงานก็มาถึงแล็ปท็อปของคุณ นักพัฒนาชื่อ ferstar ล้างโฟลเดอร์ ZCode ของเขา เอเจนต์เดสก์ท็อปแบบปิดของ Z.AI สำหรับโมเดล GLM และพบไฟล์เก็บถาวรที่เข้ารหัสขนาดสามร้อย สิบสามเมกะไบต์ของพื้นที่ทำงานเชิงพาณิชย์ของเขา: สี่หมื่นสอง พันไฟล์ แปดสิบเจ็ดเปอร์เซ็นต์เป็นไดเรกทอรี .git จัดส่งไปยัง Alibaba's object storage เมื่อเข้าสู่ระบบและก่อนทุกคำสั่ง

3:42 ไฟล์เก็บถาวรถูกห่อหุ้มด้วยคีย์สาธารณะที่เซิร์ฟเวอร์แจกจ่าย; คีย์ส่วนตัว อยู่เฉพาะในคลาวด์ของ Z.AI ดังนั้นข้อความเข้ารหัสบนดิสก์ของคุณจึง อ่านไม่ออกสำหรับคุณ คำพูดของเขา: คีย์ที่เซิร์ฟเวอร์เท่านั้นที่สามารถใช้ได้มีวัตถุประสงค์เดียวเท่านั้น Z.AI ยังเป็นบริษัทที่ Anthropic กล่าวหาว่ากลั่นกรอง Claude ดังนั้นน้ำหนักจึงเปิดเผย และคลังของคุณก็เช่นกัน และเรื่องตลก ยกเว้นว่าคุณทำงานที่ OpenAI Hacktron พบ heap overflow ใน libheif อัปโหลดรูปภาพที่สร้างขึ้นไปยัง

4:10 community.openai.com ได้รับการเรียกใช้โค้ดบนฟอรัม และใช้การกำหนดค่า Single Sign-On ที่ผิดพลาดผ่านการรวม GitHub เข้าสู่ คลังภายในของ OpenAI ภายในไม่ถึงเจ็ดสิบสองชั่วโมง การโจมตีนี้เขียนโดย Claude: Opus 4.8 ไม่สามารถเอาชนะการสุ่มที่อยู่ Opus 5 ทำได้ภายในสามชั่วโมงหลังจากการเปิดตัว แคมเปญทั้งหมดมีค่าใช้จ่ายโทเค็นไม่ถึงสามพันดอลลาร์ OpenAI แก้ไขภายในสิบสี่ชั่วโมงและจ่ายเงินหกพันห้าร้อยดอลลาร์ ดังนั้นซอร์สโค้ดของบริษัทที่มีมูลค่าล้านล้านดอลลาร์จึง

4:39 ในระยะสั้น มีราคาเท่ากับ Corolla มือสอง ในวันเดียวกับที่ทนายความของพวกเขาโต้แย้งว่า การคัดลอกเป็นการใช้งานโดยชอบธรรม หากคุณต้องการอ่านสิ่งนี้มากกว่าฟังฉันพูด The Daily Diff จะส่งถึงกล่องจดหมายของคุณ ทุกเช้า – ฟรีที่ thedailydiff.dev ลิงก์ด้านล่าง ดังนั้น – คำตัดสินวันนี้: NEEDS REVIEW. คำพูดเป็นเรื่องจริง แต่เป็นสิ่งที่ฝ่ายโจทก์เลือกมาจากหลักฐานที่ถูกปิดผนึก และผู้พิพากษาคนเดียวที่ตัดสินแล้วกล่าวว่าการฝึกอบรมเป็นการใช้งานโดยชอบธรรมและการละเมิดลิขสิทธิ์ไม่ใช่ ศาลเป็นผู้ตัดสินกฎหมาย บันทึกได้ตัดสินเรื่องจริยธรรมไปแล้ว

5:07 สมัครสมาชิก กดกระดิ่ง และบอกฉันในความคิดเห็นว่าคุณจะประทับมัน แตกต่างกันหรือไม่ และนั่นคือ The Daily Diff สำหรับวันนี้ ฉันคือ Niko จาก Axrisi รวมโค้ดอย่างมีความรับผิดชอบ

แหล่งที่มา

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com