Apple kìm hãm các tác nhân AI

Nội dung video này đề cập

• Tại sao một quyền của máy Mac đột nhiên trở thành một rủi ro lớn hơn?
• Full Disk Access thực sự mở ra những gì?
• Tại sao các tác nhân tự chủ làm thay đổi tình hình?
• Các nhà phát triển có thể giới hạn những gì trước khi Apple xuất xưởng?
• Trình chỉnh sửa thẻ mới của Apple thực sự làm gì?

Bản ghi đã dịch

Được dịch từ lời tường thuật tiếng Anh gốc. Âm thanh và phụ đề có sẵn được điều khiển bởi YouTube.

Tại sao một quyền của máy Mac đột nhiên trở thành một rủi ro lớn hơn?

0:00 Bạn sẽ nghĩ rằng nhấp vào Cho phép sẽ giải quyết được những gì một ứng dụng có thể thấy. Apple nói rằng các tác nhân AI ngày càng tự chủ làm cho Quyền truy cập Đĩa đầy đủ (Full Disk Access) trở nên đáng kể rủi ro hơn, và họ đang bổ sung các biện pháp kiểm soát. Trong video này, các tác nhân có thể đọc những gì? Apple đang thay đổi điều gì? Ai khác bị lộ? Quyền riêng tư của người khác đang bị đe dọa trên máy Mac của bạn. Chúng ta sẽ quay lại với họ trước khi có phán quyết.

0:18 Hôm nay là thứ Bảy, ngày 3 tháng 10, và đây là The Daily Diff. Vào thứ Sáu, Apple đã cảnh báo các nhà phát triển về quyền truy cập đầy đủ đĩa và giới thiệu một trình chỉnh sửa thẻ Wallet. Trong khi đó, một thẩm phán liên bang đã tạm hoãn các quy tắc vị trí VPN của Utah. Phóng viên Sarah Perez của TechCrunch đã gọi thông báo của Apple là phát súng mở màn. Mục tiêu vẫn không được nêu tên trong bài đăng của Apple, đó là một cách đầy tính doanh nghiệp để bắt đầu một cuộc tranh luận. Tài liệu của Apple bao gồm dữ liệu Mail và Tin nhắn,

Full Disk Access thực sự mở ra những gì?

0:42 cộng với dữ liệu Safari. Nó cũng bao gồm các bản sao lưu Time Machine, để ứng dụng sao lưu của bạn có thể hoạt động. Apple nói rằng điều này phần lớn bỏ qua các biện pháp kiểm soát quyền riêng tư khác. Bạn cấp quyền này thông qua Cài đặt hệ thống (System Settings), và quyền đã tồn tại. Thông báo hứa hẹn các biện pháp kiểm soát bổ sung xung quanh việc cấp quyền đó. Trên X, javi trả lời, tôi hy vọng bạn thích các lời nhắc quyền. Đó là sự căng thẳng của nhà phát triển trong sáu từ. Tự động hóa cứ yêu cầu chúng ta phê duyệt thủ công việc tự động hóa.

1:06 Tuy nhiên, hãy giữ các quyền rõ ràng. Trợ năng (Accessibility) và Tự động hóa (Automation) có các mục riêng biệt trong hướng dẫn của Apple. Đọc dữ liệu được bảo vệ và kiểm soát một ứng dụng khác là những khả năng khác nhau, với các biện pháp kiểm soát khác nhau.

Tại sao các tác nhân tự chủ làm thay đổi tình hình?

1:16 Một chương trình sao lưu sao chép các tệp của bạn. Một tác nhân diễn giải những gì nó đọc và có thể gọi các công cụ để hành động trên đó. Càng tự chủ hơn, hậu quả của việc truy cập rộng rãi càng khó dự đoán hơn. Đã có một ví dụ gây tranh cãi. Jason Aten nói rằng Muse của Meta đã đọc tin nhắn của anh mà không được phép. Meta nói rằng sự tích hợp này yêu cầu cả quyền truy cập đầy đủ đĩa và trình kết nối Tin nhắn của họ. Apple không nêu tên Muse hay ngày triển khai. Họ nói rằng người dùng nên hiểu quyền truy cập này và cấp quyền thông qua hành động

1:42 rất rõ ràng. Giao diện thực tế vẫn là một ảnh chụp màn hình bị thiếu. Có một vấn đề tác nhân sâu sắc hơn ở đây. Một email hoặc trang web có thể chứa các hướng dẫn cố gắng chuyển hướng trợ lý. Đó là tiêm lời nhắc (prompt injection), và tác nhân gặp phải nó khi thực hiện công việc hữu ích. Các nhà nghiên cứu độc lập đã xây dựng Agent Dojo, với chín mươi bảy nhiệm vụ và sáu trăm hai mươi chín trường hợp bảo mật. Nó kiểm tra xem dữ liệu không đáng tin cậy có chiếm quyền điều khiển các công cụ của tác nhân hay không.

2:04 Đây là kết quả phòng thí nghiệm lịch sử từ năm 2024. Hộp thoại tương lai của Apple chưa được công bố, vì vậy chưa ai có được chiến thắng. Trong một cấu hình GPT-4o, cuộc tấn công có mục tiêu đã thành công khoảng bốn mươi tám phần trăm thời gian. Lọc các công cụ có sẵn đã giảm con số đó xuống khoảng bảy phần trăm, với một bài học thiết kế hữu ích.

Các nhà phát triển có thể giới hạn những gì trước khi Apple xuất xưởng?

2:21 Cung cấp cho trợ lý dữ liệu và công cụ mà nhiệm vụ cần. Một thư mục dự án là một bề mặt đầu vào nhỏ hơn so với toàn bộ tài khoản. Quyền đọc cũng có thể được tách biệt khỏi quyền gửi hoặc xóa. Đó là một sự đánh đổi sản phẩm mà các nhà phát triển đã phải chấp nhận. Một tiện ích đầu cuối hoặc sao lưu có thể có lý do chính đáng để truy cập rộng rãi. Việc loại bỏ nó một cách bất cẩn sẽ tạo ra một quy trình làm việc bị hỏng rất an toàn. Vậy Apple đang thay đổi điều gì? Mục tiêu đã nêu là sự đồng ý rõ ràng hơn, minh bạch hơn cho việc truy cập đặc biệt.

2:46 Chúng ta vẫn cần bản triển khai để xem nó bảo toàn những mục đích sử dụng hợp pháp đó như thế nào.

Trình chỉnh sửa thẻ mới của Apple thực sự làm gì?

2:50 Apple cũng giới thiệu Pass Designer, một trình chỉnh sửa trực quan cho các thẻ Wallet. Bạn bắt đầu với một mẫu, thêm hình ảnh của mình và xem trước thẻ khi bạn chỉnh sửa. Apple nói rằng bản xem trước sử dụng cùng một cách hiển thị như iPhone và Apple Watch. Nó xác thực các trường và có thể xây dựng một thẻ tương thích ngược từ dữ liệu ngữ nghĩa. Các thẻ ngữ nghĩa mô tả những thứ như chi tiết chuyến bay và ngày sự kiện. Vé concert của bạn cuối cùng có thể trở thành dữ liệu có cấu trúc trước khi trở thành một ảnh chụp màn hình mờ trong cuộc trò chuyện nhóm gia đình của ai đó.

3:15 Bản beta yêu cầu macOS 27 trở lên. Apple liệt kê đăng ký miễn phí để tải xuống. Điều này giúp thiết kế các thẻ; việc phát hành và phân phối chúng cần quy trình làm việc riêng.

Tại sao một trang web không thể định vị chính xác người dùng VPN?

3:24 Sau đó là Utah, nơi các nhà lập pháp muốn các trang web dành cho người lớn được bảo vệ phải xác định vị trí thực của người dùng VPN hoặc chặn họ. Một thẩm phán liên bang đã sơ bộ chặn các điều khoản VPN bị thách thức. Quỹ Biên giới Điện tử (Electronic Frontier Foundation) trích dẫn tòa án nói rằng sự hoàn hảo về định vị hiện tại là không thể. Hóa ra ngăn xếp mạng vẫn từ chối triển khai các tính năng chỉ vì một cơ quan lập pháp đã mở một yêu cầu. Một trang web nhìn thấy địa chỉ máy chủ VPN.

3:49 Điều đó không xác định được người đó đang ngồi ở đâu. Coi mọi vị trí ẩn là có khả năng là Utah đẩy yêu cầu đi xa vượt ra ngoài biên giới của bang. EFF trích dẫn lý do của thẩm phán rằng Aylo sẽ cần xác minh hai mươi tám triệu người dùng để đảm bảo tuân thủ. Đó là cái giá của việc đòi hỏi sự hoàn hảo từ một tín hiệu không thể cung cấp được. Đây là một lệnh sơ bộ.

4:08 Hạn chế riêng biệt về việc chia sẻ thông tin VPN không bị thách thức. Sự khác biệt pháp lý vẫn còn những điểm cần xem xét. Cả ba câu chuyện đều xoay quanh các ranh giới. Một trình chỉnh sửa thẻ có thể kiểm tra một trường. Một trang web nhìn thấy địa chỉ thoát. Một tác nhân nhận được bất kỳ quyền truy cập nào mà hệ thống xung quanh thực sự cấp. Và người từ phần mở đầu là người đã gửi tin nhắn cho bạn.

Ai bị lộ mà không cần nhấp vào Cho phép?

4:27 Apple cũng cảnh báo rõ ràng về quyền riêng tư của họ. Quyền của bạn có thể làm lộ một cuộc trò chuyện chứa dữ liệu của người khác, và họ chưa bao giờ nhấp vào nút Cho phép của bạn. Tiêu đề của Slashdot gọi đó là tăng rủi ro. Vòng tròn rộng hơn đó là lý do tôi quan tâm. Màn hình cấp quyền cần giải thích những gì trợ lý sẽ nhận được. Nếu bạn muốn đọc điều này hơn là nghe tôi nói, The Daily Diff sẽ đến hộp thư đến của bạn mỗi sáng, miễn phí tại thedailydiff.dev, liên kết bên dưới.

4:49 Vậy phán quyết hôm nay là, CẦN XEM XÉT LẠI.

Phán quyết của tôi về các biện pháp kiểm soát được đề xuất của Apple là gì?

4:51 Tôi muốn sự đồng ý rõ ràng hơn và quyền truy cập hẹp hơn, với các quy trình làm việc hợp pháp được bảo toàn. Việc triển khai của Apple sẽ quyết định liệu họ có thực hiện được hay không. Đăng ký, nhấn chuông, và cho tôi biết trong phần bình luận nếu bạn sẽ đóng dấu nó khác đi. Và đó là The Daily Diff của hôm nay. Tôi là Niko từ Axrisi. Hợp nhất một cách có trách nhiệm.

Nguồn

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com