Apple 煞停 AI 代理程式
Apple 計劃為 macOS 上的「完全磁碟取用」功能增加額外控制項,因為自主 AI 代理程式增加了廣泛資料存取的風險。
Apple 計劃為 macOS 上的「完全磁碟取用」功能增加額外控制項,因為自主 AI 代理程式增加了廣泛資料存取的風險。我們將檢視目前的權限、Meta 備受爭議的 Muse 訊息案例,以及歷史上代理程式安全性證據,然後介紹 Pass Designer 和猶他州的 VPN 位置規則。結論:NEEDS REVIEW。
本影片重點
- 為什麼一個 Mac 權限突然變得風險更高?
- 「完全磁碟取用」實際上會開啟什麼?
- 為什麼自主代理程式會改變利害關係?
- 在 Apple 推出之前,開發者可以限制什麼?
- Apple 的新 Pass 編輯器到底有什麼作用?
問題與解答
在 Mac 上授予應用程式「完整磁碟存取」權限後,應用程式可以讀取哪些內容?
「完整磁碟存取」權限涵蓋受保護的資料,例如郵件、訊息和 Safari 資料,以及時光機備份,因此備份應用程式可以正常運作。Apple 表示,這項存取權限在很大程度上規避了其他隱私控制。您可以透過「系統設定」授予此權限,且該權限已存在。Apple 的公告承諾將針對此授權提供額外的控制。
為什麼自主 AI 代理比備份應用程式更容易讓廣泛檔案存取變得危險?
備份程式會複製您的檔案,而代理程式則會解讀其讀取的內容,並可能呼叫工具對其採取行動,因此更高的自主性會使廣泛存取的後果更難以預測。電子郵件或網頁可能包含嘗試重新導向助理的指令,這稱為提示注入。Apple 表示,越來越自主的代理程式使「完整磁碟存取」的風險大大增加。
限制 AI 代理的工具可以減少多少提示注入攻擊?
在 AgentDojo 基準測試中,包含 97 個任務和 629 個安全案例,其中一個 GPT-4.0 配置約有 48% 的時間成功受到攻擊。篩選可用的工具後,該比例降至約 7%。這些是 2024 年的歷史實驗室結果,因此它們顯示的是設計教訓,而不是 Apple 的控制將如何執行。
為什麼聯邦法官阻止猶他州的 VPN 位置規則?
法官初步阻止了受質疑的 VPN 條款。電子前線基金會引用法院的話說,目前不可能實現精確的地理定位。網站看到的是 VPN 伺服器的位址,這並不能確定個人身在何處。該命令是初步的,並且沒有質疑單獨限制共用 VPN 資訊的規定。
Apple 關於更嚴格的「完整磁碟存取」控制計畫是個好主意嗎?
The Daily Diff 的裁決是 NEEDS REVIEW。該集希望有更清晰的同意和更窄的存取權限,同時保留合法的流程,並表示 Apple 的實施將決定它是否能實現。Apple 尚未發布任何對話或推出日期。另一個人的隱私也岌岌可危,因為您的權限可能會洩露包含其資料的對話。
翻譯文字稿
譯自英文原版旁白。可用的音訊和字幕由 YouTube 控制。
為什麼一個 Mac 權限突然變得風險更高?
0:00 你可能會認為點擊「允許」就決定了應用程式可以看到什麼。 Apple 表示,日益自主的 AI 代理程式使「完全磁碟取用」實質上 風險更高,並正在增加控制項。 在這個影片中,代理程式可以讀取什麼? Apple 正在改變什麼? 還有誰會被揭露? 你 Mac 上其他人的隱私受到威脅。 我們會在判決前回到他們身上。
0:18 今天是 10 月 3 日星期六,這是 The Daily Diff。 週五,Apple 警告開發者有關完全磁碟存取的問題,並推出了一個 Wallet 票證編輯器。 同時,一名聯邦法官暫緩執行猶他州的 VPN 位置規則。 TechCrunch 記者 Sarah Perez 稱 Apple 的聲明是「開火」。 目標在 Apple 的文章中仍未命名,這是一種令人印象深刻的企業 發起爭論的方式。 Apple 的文件包括「郵件」和「訊息」資料,
「完全磁碟取用」實際上會開啟什麼?
0:42 以及 Safari 資料。 它還包括 Time Machine 備份,這樣你的備份應用程式才能運作。 Apple 表示,這在很大程度上規避了其他隱私控制。 你透過「系統設定」授予它,該權限已經存在。 該公告承諾對該授權增加額外控制。 在 X 上,javi 回應說:「我希望你喜歡權限提示。」 這就是開發者矛盾的六個字。 自動化不斷要求我們手動批准自動化。
1:06 不過,請將權限分清楚。 「輔助使用」和「自動化」在 Apple 的指南中有獨立的條目。 讀取受保護資料和控制另一個應用程式是不同的功能, 具有不同的控制項。
為什麼自主代理程式會改變利害關係?
1:16 備份程式會複製你的檔案。 代理程式會解釋它讀取的內容,並可能呼叫工具來執行操作。 更多的自主性使得廣泛存取的後果更難預測。 已經有一個有爭議的例子了。 Jason Aten 表示 Meta 的 Muse 未經允許就閱讀了他的訊息。 Meta 表示,該整合需要完全磁碟存取及其「訊息」 連接器。Apple 既未提及 Muse 也未提及推出日期。 它表示使用者應該了解這種存取權限,並透過非常明確的
1:42 行動來授予它。實際的介面仍然是一個遺失的螢幕截圖。 這裡存在一個更深層次的代理問題。 電子郵件或網頁可能包含 試圖重新導向助理的指令。 這就是提示注入,代理程式在執行有用工作時會遇到它。 獨立研究人員建立了 Agent Dojo,包含 97 個任務和 629 個安全案例。 百二十九個安全案例。 它測試不受信任的資料是否會接管代理程式的工具。
2:04 這些是 2024 年的歷史實驗室結果。 Apple 未來的對話框尚未發布, 因此沒有人可以慶祝勝利。 在一個 GPT-4o 配置中,目標攻擊約有 48% 的時間成功。 篩選可用的工具使這個比例降至約 7%, 這是一個有用的設計教訓。
在 Apple 推出之前,開發者可以限制什麼?
2:21 給助理完成任務所需的資料和工具。 一個專案資料夾比整個帳戶的輸入表面要小。 讀取權限也可以與發送或刪除的權限分開。 這是開發者已經習慣的產品權衡。 終端機或備份工具可能有充分的理由進行廣泛存取。 如果輕率地移除它,將會產生一個非常安全但無法運作的工作流程。 那麼 Apple 正在改變什麼? 既定目標是針對非常規存取提供更清晰、更明確的同意。
2:46 我們仍然需要實際實施來看看它如何保留這些合法用途。
Apple 的新 Pass 編輯器到底有什麼作用?
2:50 Apple 還推出了 Pass Designer,一個用於 Wallet 票證的視覺編輯器。 你從範本開始,匯入圖片,並在編輯時預覽票證。 編輯。Apple 表示,預覽使用與 iPhone 和 Apple Watch 相同的渲染。 它驗證欄位並可以從語義資料建立向後相容的票證。 建立從語義資料產生一個向後相容的票證。 語義標籤描述了航班詳情和活動日期等資訊。 你的演唱會門票終於可以在成為某人家庭群組聊天中模糊的截圖之前, 變成結構化資料。
3:15 測試版需要 macOS 14 或更高版本。 Apple 列出了免費註冊即可下載。 這有助於設計票證;發行和分發它們需要自己的工作流程。
為什麼網站無法精確定位 VPN 使用者?
3:24 然後是猶他州,那裡的立法者希望受監管的成人網站能夠識別 VPN 使用者的真實位置, 或阻止他們。 一名聯邦法官已初步阻止了受質疑的 VPN 條款。 電子前哨基金會引用法院的話說,地理位置 完美目前尚不可能。 事實證明,網路堆疊仍然拒絕僅僅因為立法機關開啟一個問題就實施功能。 議會開啟了一個問題。 網站看到的是 VPN 伺服器的位址。
3:49 這並不能確定這個人坐在哪裡。 將每一個隱藏的位置都視為 潛在的猶他州,這將要求遠遠推向了 該州邊界之外。 電子前哨基金會引用法官的理由,Aylo 需要驗證 2800 萬使用者才能保證合規。 萬使用者才能保證合規。 這就是對無法提供的訊號要求完美的代價。 這是一個初步命令。
4:08 關於分享 VPN 資訊的單獨限制並未受到質疑。 法律差異仍有待審查。 所有這三個故事都圍繞著界線。 Pass 編輯器可以檢查一個欄位。 網站看到的是一個出口位址。 代理程式獲得的是周圍系統實際授予的任何存取權限。 而開頭的那個人就是寄給你訊息的人。
不點擊「允許」誰會被揭露?
4:27 Apple 也明確警告了他們的隱私。 你的權限可能會洩露包含他人資料的對話, 而他們從未點擊你的「允許」按鈕。 Slashdot 的標題稱其為「風險增加」。 這個更廣泛的圈子就是我關心的原因。 權限螢幕需要解釋助理將收到什麼。 如果你寧願閱讀而不是聽我說,The Daily Diff 會在每天早上免費發送到你的收件箱,網址是 thedailydiff.dev,連結在下方。 每天早上都會免費發送到您的收件箱,網址是 thedailydiff.dev,連結在下方。
4:49 所以今天的判決是,NEEDS REVIEW。
我對 Apple 提議的控制措施有何看法?
4:51 我希望有更清晰的同意和 更窄的存取權限,同時保留合法的工作流程。 Apple 的實施將決定它是否能實現這一點。 訂閱、點擊鈴鐺,並在評論中告訴我,如果你會以不同方式標註。 不同。這就是今天的差異。 我是 Axrisi 的 Niko。 負責任地合併。
來源
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



