Apple ने AI एजेंटों पर रोक लगाई

इस वीडियो में क्या शामिल है

• एक Mac अनुमति अचानक बड़ा जोखिम क्यों है?
• Full Disk Access वास्तव में क्या खोलता है?
• स्वायत्त एजेंट दांव क्यों बदलते हैं?
• Apple के शिपिंग से पहले डेवलपर्स क्या सीमित कर सकते हैं?
• Apple का नया पास एडिटर वास्तव में क्या करता है?

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

एक Mac अनुमति अचानक बड़ा जोखिम क्यों है?

0:00 आपको लगेगा कि Allow पर क्लिक करने से ऐप क्या देख सकता है, यह तय हो जाता है। Apple का कहना है कि तेजी से स्वायत्त AI एजेंट Full Disk Access को काफी अधिक जोखिम भरा बनाते हैं, और यह नियंत्रण जोड़ रहा है। इस वीडियो में, एजेंट क्या पढ़ सकते हैं? Apple क्या बदल रहा है? और कौन उजागर होता है? किसी और की गोपनीयता आपके Mac पर दांव पर है। हम फैसले से पहले उन पर वापस आएंगे।

0:18 यह शनिवार, 3 अक्टूबर है, और यह The Daily Diff है। शुक्रवार को, Apple ने डेवलपर्स को पूर्ण डिस्क पहुँच के बारे में चेतावनी दी और एक वॉलेट पास एडिटर पेश किया। इस बीच, एक संघीय न्यायाधीश ने यूटा के VPN स्थान नियमों पर रोक लगा दी। TechCrunch रिपोर्टर सारा पेरेज़ ने Apple की घोषणा को 'शॉट्स फ़ायर्ड' कहा। Apple की पोस्ट में लक्ष्य का नाम नहीं बताया गया है, जो एक प्रभावशाली रूप से कॉर्पोरेट तरीका है किसी तर्क को शुरू करने का। Apple के दस्तावेज़ में Mail और Messages डेटा शामिल है,

Full Disk Access वास्तव में क्या खोलता है?

0:42 साथ ही Safari डेटा भी। इसमें Time Machine बैकअप भी शामिल हैं, ताकि आपका बैकअप ऐप काम कर सके। Apple का कहना है कि यह अन्य गोपनीयता नियंत्रणों को काफी हद तक दरकिनार कर देता है। आप इसे System Settings के माध्यम से प्रदान करते हैं, और अनुमति पहले से मौजूद है। यह घोषणा उस अनुदान के आसपास अतिरिक्त नियंत्रणों का वादा करती है। X पर, जेवी ने जवाब दिया, मुझे उम्मीद है कि आपको अनुमति प्रॉम्प्ट पसंद आएंगे। यह छह शब्दों में डेवलपर तनाव है। ऑटोमेशन हमें मैन्युअल रूप से ऑटोमेशन को मंज़ूरी देने के लिए कहता रहता है।

1:06 हालांकि, अनुमतियों को सीधा रखें। Accessibility और Automation के Apple के गाइड में अलग-अलग प्रविष्टियां हैं। संरक्षित डेटा पढ़ना और किसी अन्य ऐप को नियंत्रित करना अलग-अलग क्षमताएं हैं, अलग-अलग नियंत्रणों के साथ।

स्वायत्त एजेंट दांव क्यों बदलते हैं?

1:16 एक बैकअप प्रोग्राम आपकी फ़ाइलों को कॉपी करता है। एक एजेंट जो पढ़ता है उसकी व्याख्या करता है और उस पर कार्रवाई करने के लिए टूल को कॉल कर सकता है। अधिक स्वायत्तता व्यापक पहुँच के परिणामों का अनुमान लगाना कठिन बना देती है। पहले से ही एक विवादित उदाहरण है। जेसन एटेन ने कहा कि मेटा के म्यूज़ ने उनकी अनुमति के बिना उनके संदेश पढ़े। मेटा का कहना है कि एकीकरण के लिए पूर्ण डिस्क पहुँच और उसके संदेश कनेक्टर दोनों की आवश्यकता होती है। Apple ने न तो म्यूज़ का नाम लिया और न ही रोलआउट की तारीख का। यह कहता है कि उपयोगकर्ताओं को इस पहुँच को समझना चाहिए और इसे बहुत स्पष्ट

1:42 कार्रवाई के माध्यम से प्रदान करना चाहिए। वास्तविक इंटरफ़ेस एक गुम स्क्रीनशॉट बना हुआ है। यहां एक गहरी एजेंट समस्या है। एक ईमेल या वेबपेज में ऐसे निर्देश हो सकते हैं जो सहायक को पुनर्निर्देशित करने का प्रयास करते हैं। यह प्रॉम्प्ट इंजेक्शन है, और एजेंट उपयोगी काम करते समय इसका सामना करता है। स्वतंत्र शोधकर्ताओं ने Agent Dojo बनाया, जिसमें निन्यानवे कार्य और छह सौ उनतीस सुरक्षा मामले शामिल थे। यह परीक्षण करता है कि क्या अविश्वसनीय डेटा एक एजेंट के टूल को अपने कब्जे में लेता है।

2:04 ये 2024 के ऐतिहासिक प्रयोगशाला परिणाम हैं। Apple का भविष्य का संवाद प्रकाशित नहीं किया गया है, इसलिए किसी को अभी तक जीत की घोषणा नहीं मिली है। एक GPT-4o कॉन्फ़िगरेशन में, लक्षित हमला लगभग अड़तालीस प्रतिशत बार सफल रहा। उपलब्ध टूल को फ़िल्टर करने से यह लगभग सात प्रतिशत तक गिर गया, एक उपयोगी डिज़ाइन सबक के साथ।

Apple के शिपिंग से पहले डेवलपर्स क्या सीमित कर सकते हैं?

2:21 एक सहायक को कार्य के लिए आवश्यक डेटा और टूल दें। एक प्रोजेक्ट फ़ोल्डर पूरे खाते की तुलना में एक छोटा इनपुट सतह है। पढ़ने की पहुँच को भेजने या हटाने की अनुमति से भी अलग किया जा सकता है। यह एक उत्पाद ट्रेडऑफ़ है जिसके साथ डेवलपर्स पहले से ही रहते हैं। एक टर्मिनल या बैकअप यूटिलिटी को व्यापक पहुँच के लिए एक वैध कारण हो सकता है। इसे लापरवाही से हटाने से एक बहुत ही सुरक्षित टूटा हुआ वर्कफ़्लो बन जाएगा। तो Apple क्या बदल रहा है? घोषित लक्ष्य असाधारण पहुँच के लिए स्पष्ट, अधिक स्पष्ट सहमति है।

2:46 हमें अभी भी यह देखने के लिए कार्यान्वयन की आवश्यकता है कि यह उन वैध उपयोगों को कैसे संरक्षित करता है।

Apple का नया पास एडिटर वास्तव में क्या करता है?

2:50 Apple ने Pass Designer भी पेश किया, जो वॉलेट पास के लिए एक विज़ुअल एडिटर है। आप एक टेम्पलेट से शुरू करते हैं, अपनी छवियां लाते हैं, और पास को संपादित करते समय उसका पूर्वावलोकन करते हैं। Apple का कहना है कि पूर्वावलोकन iPhone और Apple Watch के समान रेंडरिंग का उपयोग करता है। यह फ़ील्ड्स को मान्य करता है और सिमेंटिक डेटा से पिछड़ा संगत पास बना सकता है। सिमेंटिक टैग उड़ान विवरण और घटना की तारीखों जैसी चीजों का वर्णन करते हैं। आपका कॉन्सर्ट टिकट आखिरकार किसी के परिवार के समूह चैट में धुंधला स्क्रीनशॉट बनने से पहले संरचित डेटा बन सकता है। किसी के परिवार के समूह चैट में धुंधला स्क्रीनशॉट बनने से पहले संरचित डेटा बन सकता है।

3:15 बीटा के लिए macOS 27 या बाद का संस्करण आवश्यक है। Apple डाउनलोड के लिए मुफ्त पंजीकरण सूचीबद्ध करता है। यह पास को डिज़ाइन करने में मदद करता है; उन्हें जारी करने और वितरित करने के लिए अपने स्वयं के वर्कफ़्लो की आवश्यकता होती है।

एक वेबसाइट VPN उपयोगकर्ता का सटीक स्थान क्यों नहीं पता लगा सकती?

3:24 फिर यूटा है, जहां सांसदों ने कवर की गई वयस्क वेबसाइटों को VPN उपयोगकर्ताओं के वास्तविक स्थान की पहचान करने या उन्हें ब्लॉक करने के लिए कहा। वास्तविक स्थान की पहचान करने या उन्हें ब्लॉक करने के लिए कहा। एक संघीय न्यायाधीश ने चुनौती दिए गए VPN प्रावधानों को प्रारंभिक रूप से अवरुद्ध कर दिया है। इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन अदालत के हवाले से कहता है कि जियोलोकेशन पूर्णता वर्तमान में संभव नहीं है। पता चला कि नेटवर्क स्टैक अभी भी केवल इसलिए सुविधाओं को लागू करने से इनकार करता है क्योंकि एक विधानमंडल ने एक टिकट खोला। एक वेबसाइट VPN सर्वर का पता देखती है।

3:49 यह स्थापित नहीं करता है कि व्यक्ति कहां बैठा है। हर छिपी हुई जगह को संभावित रूप से यूटा के रूप में मानना ​​आवश्यकता को राज्य की सीमाओं से कहीं आगे धकेल देता है। EFF न्यायाधीश के तर्क का हवाला देता है कि Aylo को अनुपालन की गारंटी के लिए अट्ठाईस मिलियन उपयोगकर्ताओं को सत्यापित करने की आवश्यकता होगी। यह एक ऐसे सिग्नल से पूर्णता की मांग करने की लागत है जो इसे आपूर्ति नहीं कर सकता है। यह एक प्रारंभिक आदेश है।

4:08 VPN जानकारी साझा करने पर अलग प्रतिबंध को चुनौती नहीं दी गई थी। कानूनी अंतर में अभी भी समीक्षा के लिए लाइनें बाकी हैं। सभी तीनों कहानियां सीमाओं पर आधारित हैं। एक पास एडिटर एक फ़ील्ड की जांच कर सकता है। एक वेबसाइट एक निकास पता देखती है। एक एजेंट को वही पहुँच मिलती है जो आसपास की प्रणाली वास्तव में प्रदान करती है। और शुरुआत का व्यक्ति वह है जिसने आपको संदेश भेजा था।

अनुमति दिए बिना कौन उजागर होता है?

4:27 Apple स्पष्ट रूप से उनकी गोपनीयता के बारे में भी चेतावनी देता है। आपकी अनुमति किसी और के डेटा वाले वार्तालाप को उजागर कर सकती है, और उन्होंने कभी आपके Allow बटन पर क्लिक नहीं किया। Slashdot की हेडलाइन इसे बढ़ा हुआ जोखिम कहती है। वह व्यापक दायरा ही है जिसकी मुझे परवाह है। अनुमति स्क्रीन को यह समझाने की आवश्यकता है कि सहायक क्या प्राप्त करेगा। यदि आप इसे मुझे कहते हुए सुनने के बजाय पढ़ना चाहते हैं, तो diff हर सुबह आपके इनबॉक्स में आता है, thedailydiff.dev पर मुफ्त, लिंक नीचे।

4:49 तो आज का फैसला, NEEDS REVIEW.

Apple के प्रस्तावित नियंत्रणों पर मेरा क्या फैसला है?

4:51 मुझे स्पष्ट सहमति और संकीर्ण पहुँच चाहिए, वैध वर्कफ़्लो संरक्षित रखते हुए। Apple का कार्यान्वयन तय करेगा कि यह वितरित करता है या नहीं। सब्सक्राइब करें, घंटी दबाएं, और मुझे टिप्पणियों में बताएं कि क्या आपने इसे अलग तरह से स्टैम्प किया होता। और आज का diff यही है। मैं Axrisi से निको हूँ। जिम्मेदारी से विलय करें।

स्रोत

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com