Bản ghi nhớ của Microsoft về huấn luyện AI vừa được công khai.
Các hồ sơ không bị biên tập trong vụ kiện New York Times kiện OpenAI & Microsoft: một bản ghi nhớ tháng 1 năm 2023 của giám đốc Microsoft gọi dữ liệu huấn luyện AI là "vụ trộm lao động lớn nhất trong lịch sử nhân loại", Copilot đã cắt giảm lượt nhấp qua đến The Times tới 93% (cái mà ông gọi là "vòng lặp chết chóc"), Nadella nói rằng nội dung có tường phí phải được cấp phép, người đứng đầu ChatGPT gọi sản phẩm là "phần lớn mang tính thay thế", và Greg Brockman đã trả lời một vụ hack tường phí bằng "ah nice." Cùng ngày: OpenAI ra mắt Astra for Law (đúng 54% trên Vals legal bench).
Các hồ sơ không bị biên tập trong vụ kiện New York Times kiện OpenAI & Microsoft: một bản ghi nhớ tháng 1 năm 2023 của giám đốc Microsoft gọi dữ liệu huấn luyện AI là "vụ trộm lao động lớn nhất trong lịch sử nhân loại", Copilot đã cắt giảm lượt nhấp qua đến The Times tới 93% (cái mà ông gọi là "vòng lặp chết chóc"), Nadella nói rằng nội dung có tường phí phải được cấp phép, người đứng đầu ChatGPT gọi sản phẩm là "phần lớn mang tính thay thế", và Greg Brockman đã trả lời một vụ hack tường phí bằng "ah nice." Cùng ngày: OpenAI ra mắt Astra for Law (đúng 54% trên Vals legal bench). Cộng với ZCode tải toàn bộ .git của bạn lên Aliyun với một khóa chỉ Z.ai giữ, và Hacktron xâm nhập các kho lưu trữ nội bộ của OpenAI để nhận khoản thưởng 6.500 USD. Phán quyết: CẦN XEM XÉT LẠI.
Đọc phiên bản viết (tiếng Anh) ↗
Nội dung video này đề cập
- NYT kiện OpenAI/Microsoft được công bố: "vụ trộm lao động lớn nhất trong lịch sử nhân loại" (bản ghi nhớ Microsoft, tháng 1 năm 2023); Copilot −93% lượt nhấp qua; 91.692 bản sao tác phẩm của nguyên đơn trong dữ liệu giữa quá trình huấn luyện; 2 triệu trang nytimes.com trong một Common Crawl slice; thông báo bản quyền bị xóa; Brockman: "ah nice"
- Cảnh báo: các trích dẫn đến từ bản tóm tắt của The Times, các bằng chứng vẫn còn niêm phong; Thẩm phán Alsup (Bartz kiện Anthropic) đã phán quyết việc huấn luyện trên các sách đã mua là sử dụng hợp pháp — Anthropic đã trả 1,5 tỷ USD cho 7 triệu bản bị vi phạm bản quyền
- OpenAI Astra for Law: GPT-6 Astra + một chỉ mục pháp lý 230 triệu URL; 54,0% so với 38,7% trên Vals Legal Research Bench; Harvey, Legora, 26 plugin
- ZCode (Z.ai, GLM): bản chụp mã hóa 313 MB của một không gian làm việc 42.411 tệp, 86,6% là .git, được tải lên Aliyun OSS khi đăng nhập và trước mỗi lời nhắc; khóa RSA-OAEP chỉ do Z.ai giữ; các cài đặt không ngăn chặn được việc này
- Hacktron: tràn bộ nhớ heap libheif → Discourse RCE → sai cấu hình SSO → GitHub → các kho lưu trữ nội bộ của OpenAI trong vòng chưa đầy 72 giờ; khai thác bởi Claude Opus 5 (3 giờ); chiến dịch dưới 3.000 USD token; tiền thưởng 6.500 USD, được vá trong khoảng 14 giờ
Câu hỏi và trả lời
Những hồ sơ chưa niêm phong trong vụ New York Times kiện OpenAI và Microsoft tiết lộ điều gì về dữ liệu đào tạo AI?
Một bản ghi nhớ của giám đốc Microsoft vào tháng 1 năm 2023 gọi dữ liệu đào tạo AI là vụ trộm lao động lớn nhất trong lịch sử nhân loại. Theo TechCrunch và bản tóm tắt của Times, Copilot đã cắt giảm lượng nhấp chuột vào Times tới 93%. Tất cả các trích dẫn đều đến từ bản tóm tắt của Times, và các tài liệu vẫn được niêm phong, vì vậy chúng thiếu ngữ cảnh đầy đủ của chúng.
Việc đào tạo một mô hình AI bằng sách có bản quyền có hợp pháp theo luật pháp Hoa Kỳ không?
Câu hỏi vẫn còn bỏ ngỏ. Thẩm phán Alsup đã phán quyết trong vụ Bartz kiện Anthropic rằng việc đào tạo bằng sách mà một công ty đã mua là sử dụng hợp lý. Anthropic tuy nhiên đã trả 1,5 tỷ đô la cho bảy triệu cuốn sách lậu mà họ đã sử dụng. Không có tòa án nào phán quyết về các yêu cầu của Times chống lại OpenAI và Microsoft vào thời điểm xảy ra vụ việc.
Một nhà phát triển đã tìm thấy ZCode tải gì lên từ máy tính của anh ấy?
Một nhà phát triển tên là ferstar đã phát hiện ra rằng tác nhân ZCode của Z.ai đã tải lên một ảnh chụp nhanh được mã hóa dung lượng 313 MB của không gian làm việc của anh ấy, 42.411 tệp trong đó 86,6% là thư mục .git, lên bộ lưu trữ đối tượng Aliyun. Việc tải lên chạy khi đăng nhập và trước mỗi lời nhắc. Khóa giải mã chỉ do Z.ai giữ, và các nút cài đặt không ngăn chặn được nó.
Các nhà nghiên cứu bảo mật đã tiếp cận các kho lưu trữ nội bộ của OpenAI như thế nào?
Hacktron đã xâu chuỗi bốn điểm yếu trong vòng 72 giờ. Lỗi tràn bộ đệm libheif đã cung cấp khả năng thực thi mã trên một diễn đàn Discourse, một cấu hình sai đăng nhập một lần đã mở tích hợp GitHub, và điều đó đã tiếp cận các kho lưu trữ nội bộ của OpenAI. Claude Opus 5 đã viết mã khai thác trong 3 giờ và chiến dịch tốn dưới 3.000 đô la tiền mã thông báo. OpenAI đã vá lỗi trong khoảng 14 giờ và trả khoản tiền thưởng 6.500 đô la.
Các trích dẫn của Microsoft đã được công bố có chứng minh rằng việc đào tạo AI là hành vi trộm cắp không?
Phán quyết của The Daily Diff là NEEDS REVIEW. Các trích dẫn là thật, nhưng chúng là những lựa chọn của bên công tố từ các tài liệu được niêm phong. Một thẩm phán đã phán quyết rằng việc đào tạo trên sách đã mua là sử dụng hợp lý, trong khi Anthropic vẫn trả tiền cho các bản sao lậu. Tòa án quyết định luật, và bản ghi nhớ cho thấy những gì một số người trong cuộc đã nghĩ.
Bản ghi đã dịch
Được dịch từ lời tường thuật tiếng Anh gốc. Âm thanh và phụ đề có sẵn được điều khiển bởi YouTube.
0:00 Vào tháng 1 năm 2023, một giám đốc của Microsoft đã viết một bản ghi nhớ gọi những gì công ty của ông đang làm là vụ trộm lao động lớn nhất trong lịch sử nhân loại, và hôm qua một tòa án liên bang đã cho phép chúng ta đọc nó. Bản ghi nhớ là một trong những trích dẫn không bị biên tập trong vụ New York Times kiện OpenAI và Microsoft, một vụ kiện sẽ tròn ba tuổi vào tháng 12 này. Cùng ngày thứ Năm đó, OpenAI đã ra mắt Astra for Law, một mô hình dành cho luật sư, đây có thể là một sự trùng hợp hoặc một sự thuê mướn rất mạnh mẽ. Sáng nay một nhà phát triển đã phát hiện ZCode, tác nhân lập trình của Z.ai,
0:29 đang tải toàn bộ lịch sử git của anh ấy lên đám mây của Alibaba với một khóa chỉ Z chấm A I giữ. Và một công ty an ninh đã xâm nhập vào các kho lưu trữ nội bộ của OpenAI thông qua một hình ảnh tải lên, mà OpenAI đã trả sáu nghìn năm trăm đô la. Trong video này: những gì các hồ sơ nói, ai đã nói "ah nice" với một vụ hack tường phí, mô hình luật sai gần một nửa số lần, những gì ZCode tải lên, và tại sao một khai thác được viết bởi Claude lại có giá trị ít hơn một chiếc xe hơi đã qua sử dụng. Hôm nay là thứ Sáu, ngày 18 tháng 9, và đây là The Daily Diff.
0:58 Bắt đầu với bản ghi nhớ. Brent Hecht điều hành khoa học ứng dụng tại Microsoft, và vào tháng 1 năm 2023, ông đã gọi dữ liệu huấn luyện là một vụ trộm đáng kinh ngạc với quy mô chưa từng có. Một năm sau, ông trở lại với một bài thuyết trình: công cụ trả lời của Copilot đã cắt giảm lượt nhấp qua đến The Times tới chín mươi ba phần trăm, mà ông gọi là một vòng lặp chết chóc: làm chết đói các nhà xuất bản, và mô hình không có gì mới để ăn. Lời của ông: một sản phẩm cuối cùng đe dọa nền tảng kinh tế của các nhà cung cấp thiết yếu của nó,
1:21 cách nói của các công ty là con rắn đã tìm thấy đuôi của mình. Sau đó là các lời khai. Satya Nadella đã làm chứng trong năm nay rằng bất cứ nội dung có tường phí nào cũng nên được cấp phép, và nếu ông biết OpenAI đã huấn luyện trên các bài báo có tường phí, ông sẽ yêu cầu họ huấn luyện lại, điều này giả định rằng không ai ở Microsoft đã mở bộ dữ liệu huấn luyện mà họ được giao, và theo cùng một hồ sơ đó là toàn bộ bộ dữ liệu GPT-3. Nick Turley, người điều hành ChatGPT, đã gọi nó là một mối đe dọa hiện hữu đối với các nhà xuất bản, phần lớn mang tính thay thế. Và khi một nhà nghiên cứu
1:49 nói với Greg Brockman về một vụ hack để vượt qua tường phí của The Times, chủ tịch của OpenAI đã trả lời bằng hai từ: ah nice. Các kỹ sư cũng đã loại bỏ các thông báo bản quyền khỏi dữ liệu để mô hình sẽ không xuất chúng, đó là lý do tại sao bạn phải mài số seri của một chiếc xe đạp. Quy mô: hơn chín mươi mốt nghìn bản sao các bài báo của nguyên đơn trong chỉ riêng các bộ dữ liệu giữa quá trình huấn luyện, và hai triệu trang của The Times trong một Common Crawl slice. Bây giờ là phần mà tiêu đề bỏ qua.
2:15 Mỗi trích dẫn đều đến từ bản tóm tắt của The Times; các bằng chứng vẫn còn niêm phong, vì vậy chúng ta đang đọc những điểm nổi bật của bên khởi tố mà không có ngữ cảnh. Và các tòa án chủ yếu đã đứng về phía việc sử dụng hợp pháp: Thẩm phán Alsup đã phán quyết vào năm ngoái rằng việc huấn luyện trên các sách bạn đã trả tiền là hợp pháp, mặc dù Anthropic vẫn trả một tỷ rưỡi cho bảy triệu cuốn sách mà nó đã vi phạm bản quyền. Vì vậy, câu hỏi pháp lý vẫn còn bỏ ngỏ. Việc những người xây dựng nó có nghĩ đó là hành vi trộm cắp hay không thì, kể từ ngày hôm qua, là không.
2:41 Điều này làm cho việc ra mắt OpenAI khác vào thứ Năm trở thành một lựa chọn táo bạo. Astra for Law bao gồm GPT-6 Astra, mô hình tôi đã đóng dấu REVERT tuần trước sau khi nó tạo ra bảy mươi lăm nghìn dòng trống không, trong một chỉ mục tìm kiếm pháp lý gồm hai trăm ba mươi triệu trang. Trên chuẩn nghiên cứu pháp lý của Vals AI, nó vượt qua năm mươi tư phần trăm câu hỏi, tăng từ ba mươi chín với tìm kiếm web thông thường, mà OpenAI gọi là cải thiện bốn mươi phần trăm và một luật sư sẽ gọi là sai gần một nửa số lần. Bài đăng trên blog không chứa từ "ảo giác".
3:14 Hacker News thì có: liệu nó có thể tự kiện mình không, điều mà, xét về tuần này, là trường hợp sử dụng thực sự đầu tiên. Trong khi đó, cuộc tranh luận về "trộm cắp lao động" đã đến máy tính xách tay của bạn. Một nhà phát triển tên là ferstar đã dọn dẹp thư mục ZCode của mình, tác nhân máy tính để bàn đóng của Z.ai cho các mô hình GLM, và tìm thấy một kho lưu trữ mã hóa ba trăm mười ba megabyte của không gian làm việc thương mại của anh ấy: bốn mươi hai nghìn tệp, tám mươi bảy phần trăm trong số đó là thư mục .git, được gửi đến bộ lưu trữ đối tượng của Alibaba khi đăng nhập và trước mỗi lời nhắc.
3:42 Kho lưu trữ được mã hóa bằng một khóa công khai mà máy chủ cấp phát; khóa riêng chỉ nằm trong đám mây của Z.ai, vì vậy văn bản mã hóa trên đĩa của bạn là không thể đọc được đối với bạn. Câu của anh ấy: một khóa mà chỉ máy chủ có thể sử dụng phục vụ chính xác một mục đích. Z.ai cũng là công ty mà Anthropic cáo buộc đã tinh chế Claude, vì vậy các trọng số là mở và, rõ ràng, repo của bạn cũng vậy. Và điều buồn cười, trừ khi bạn làm việc tại OpenAI. Hacktron đã tìm thấy một lỗ hổng tràn bộ nhớ heap trong libheif, tải lên một hình ảnh đã được chế tác lên
4:10 community.openai.com, thực thi mã trên diễn đàn, và sử dụng một cấu hình đăng nhập một lần bị lỗi thông qua tích hợp GitHub vào các kho lưu trữ nội bộ của OpenAI, trong vòng chưa đầy bảy mươi hai giờ. Khai thác được viết bởi Claude: Opus 4.8 không thể vượt qua ngẫu nhiên hóa địa chỉ, Opus 5 đã làm được trong vòng ba giờ sau khi phát hành. Toàn bộ chiến dịch tốn dưới ba nghìn đô la token. OpenAI đã vá lỗi trong mười bốn giờ và trả sáu nghìn năm trăm đô la, vì vậy mã nguồn của một công ty nghìn tỷ đô la đã,
4:39 trong thời gian ngắn, có giá như một chiếc Corolla đã qua sử dụng, cùng ngày các luật sư của họ lập luận rằng sao chép là sử dụng hợp pháp. Nếu bạn muốn đọc điều này hơn là nghe tôi nói, "the diff" sẽ đến hộp thư đến của bạn mỗi sáng — miễn phí tại thedailydiff.dev, liên kết bên dưới. Vậy — phán quyết hôm nay: CẦN XEM XÉT LẠI. Các trích dẫn là thật, nhưng chúng là những lựa chọn của bên khởi tố từ các bằng chứng đã được niêm phong, và vị thẩm phán duy nhất đã ra phán quyết nói rằng huấn luyện là sử dụng hợp pháp và vi phạm bản quyền thì không. Tòa án quyết định luật pháp; bản ghi nhớ đã quyết định đạo đức.
5:07 Đăng ký, nhấn chuông, và cho tôi biết trong phần bình luận nếu bạn sẽ đánh dấu nó khác đi. Và đó là "the diff" của ngày hôm nay. Tôi là Niko từ Axrisi. Hợp nhất một cách có trách nhiệm.
Nguồn
- TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
- HN thread (605 pts)news.ycombinator.com
- Jason Kint on the unsealed motionsx.com
- Ed Newton-Rexx.com
- Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
- OpenAI: Introducing Astra for Lawopenai.com
- HN: Astra for Law (550 pts)news.ycombinator.com
- ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
- tokenstead write-uptokenstead.ai
- ferstar on Xx.com
- HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
- Hacktron: Hacking OpenAIwww.hacktron.ai
- HN: Hacktron (406 pts)news.ycombinator.com



