آبل توقف عملاء الذكاء الاصطناعي
تخطط آبل لإجراء ضوابط إضافية للوصول الكامل إلى القرص في macOS لأن وكلاء الذكاء الاصطناعي المستقلين يزيدون من مخاطر الوصول الواسع للبيانات.
تخطط آبل لإجراء ضوابط إضافية للوصول الكامل إلى القرص في macOS لأن وكلاء الذكاء الاصطناعي المستقلين يزيدون من مخاطر الوصول الواسع للبيانات. ندرس الإذن الحالي، وحالة رسائل Muse المتنازع عليها من Meta، والأدلة التاريخية لأمن الوكلاء، ثم نغطي Pass Designer وقواعد تحديد موقع VPN في يوتا. الحكم: NEEDS REVIEW.
اقرأ النسخة المكتوبة (الإنجليزية) ↗
ما يغطيه هذا الفيديو
- لماذا أصبح إذن واحد في Mac فجأة يشكل خطرًا أكبر؟
- ماذا يفتح الوصول الكامل إلى القرص حقًا؟
- لماذا يغير الوكلاء المستقلون الرهانات؟
- ما الذي يمكن للمطورين الحد منه قبل شحن آبل؟
- ماذا يفعل محرر بطاقات آبل الجديد حقًا؟
أسئلة وأجوبة
ماذا يمكن للتطبيق أن يقرأ عندما تمنحه صلاحية الوصول الكامل للقرص على جهاز Mac؟
يغطي الوصول الكامل للقرص البيانات المحمية مثل بيانات البريد والرسائل وسفاري، بالإضافة إلى نسخ Time Machine الاحتياطية حتى يتمكن تطبيق النسخ الاحتياطي من العمل. تقول Apple إن هذا الوصول يتجاوز إلى حد كبير ضوابط الخصوصية الأخرى. يمكنك منحه عبر إعدادات النظام، والتصريح موجود بالفعل. يعد إعلان Apple بضوابط إضافية حول هذا المنح.
لماذا تجعل وكلاء الذكاء الاصطناعي المستقلون الوصول الواسع للملفات أكثر خطورة من تطبيق النسخ الاحتياطي؟
ينسخ برنامج النسخ الاحتياطي ملفاتك، بينما يفسر الوكيل ما يقرأه وقد يستدعي أدوات للعمل عليه، لذا فإن زيادة الاستقلالية تجعل عواقب الوصول الواسع يصعب التنبؤ بها. يمكن أن تحتوي رسالة بريد إلكتروني أو صفحة ويب على تعليمات تحاول إعادة توجيه المساعد، وهذا ما يسمى حقن الأوامر. تقول Apple إن الوكلاء المستقلين بشكل متزايد يجعلون الوصول الكامل للقرص أكثر خطورة بشكل كبير.
كم يمكن أن يقلل تحديد أدوات وكيل الذكاء الاصطناعي من هجمات حقن الأوامر؟
في معيار AgentDojo، مع سبع وتسعين مهمة وستمائة وتسع وعشرين حالة أمنية، تعرض تكوين GPT 4.0 لهجوم ناجح في حوالي ثمانية وأربعين بالمائة من الوقت. أدى تصفية الأدوات المتاحة إلى خفض ذلك إلى حوالي سبعة بالمائة. هذه نتائج مختبرية تاريخية من عام ألفين وأربعة وعشرين، لذا فهي تظهر درسًا في التصميم بدلاً من كيفية أداء ضوابط Apple.
لماذا منع قاضٍ فيدرالي قواعد يوتا لموقع VPN؟
حظر القاضي مؤقتًا أحكام VPN المتنازع عليها. تستشهد مؤسسة الحدود الإلكترونية بالمحكمة قائلة إن دقة تحديد الموقع الجغرافي غير ممكنة حاليًا. يرى موقع الويب عنوان خادم VPN، والذي لا يحدد مكان جلوس الشخص. الأمر مؤقت، ولم يتم الطعن في التقييد المنفصل على مشاركة معلومات VPN.
هل خطة Apple لضوابط الوصول الكامل للقرص الأكثر صرامة فكرة جيدة؟
كان حكم The Daily Diff هو NEEDS REVIEW. تريد الحلقة موافقة أوضح ووصولًا أضيق مع الحفاظ على سير العمل المشروع، وتقول إن تنفيذ Apple سيقرر ما إذا كانت ستحقق ذلك. لم تنشر Apple أي حوار أو تاريخ إطلاق. خصوصية شخص آخر معرضة للخطر أيضًا، لأن إذنك يمكن أن يكشف محادثة تحتوي على بياناته.
النص المترجم
مترجم من السرد الإنجليزي الأصلي. يتم التحكم في الصوت والتعليقات التوضيحية المتاحة بواسطة YouTube.
لماذا أصبح إذن واحد في Mac فجأة يشكل خطرًا أكبر؟
0:00 قد تعتقد أن النقر على "السماح" يحدد ما يمكن للتطبيق رؤيته. تقول آبل إن وكلاء الذكاء الاصطناعي المستقلين بشكل متزايد يجعلون الوصول الكامل إلى القرص أكثر خطورة بشكل كبير، وهي تضيف ضوابط. في هذا الفيديو، ما الذي يمكن للوكلاء قراءته؟ ماذا تغير آبل؟ من غيره يتعرض للخطر؟ خصوصية شخص آخر على المحك على جهاز Mac الخاص بك. سنعود إليهم قبل الحكم.
0:18 إنه السبت، الثالث من أكتوبر، وهذا هو The Daily Diff. يوم الجمعة، حذرت آبل المطورين بشأن الوصول الكامل إلى القرص وقدمت محرر بطاقات Wallet. في غضون ذلك، وضع قاضٍ فيدرالي قواعد تحديد موقع VPN في يوتا قيد الانتظار. وصفت سارة بيريز، مراسلة TechCrunch، إعلان آبل بأنه "طلقات نارية". الهدف لا يزال غير مسمى في منشور آبل، وهي طريقة مؤسسية مبهرة لبدء نقاش. تتضمن وثائق آبل بيانات البريد والرسائل،
ماذا يفتح الوصول الكامل إلى القرص حقًا؟
0:42 بالإضافة إلى بيانات Safari. كما تتضمن نسخ Time Machine الاحتياطية، حتى يتمكن تطبيق النسخ الاحتياطي الخاص بك من العمل. تقول آبل إن هذا يتجاوز إلى حد كبير ضوابط الخصوصية الأخرى. تمنحه من خلال إعدادات النظام، والإذن موجود بالفعل. يعد الإعلان بضوابط إضافية حول هذا المنح. على X، أجاب جافي، "أتمنى أن تعجبك مطالبات الأذونات". هذا هو توتر المطورين في ست كلمات. تطلب منا الأتمتة باستمرار الموافقة يدويًا على الأتمتة.
1:06 حافظ على الأذونات واضحة، مع ذلك. لإمكانية الوصول والأتمتة إدخالات منفصلة في دليل آبل. قراءة البيانات المحمية والتحكم في تطبيق آخر هي قدرات مختلفة، مع ضوابط مختلفة.
لماذا يغير الوكلاء المستقلون الرهانات؟
1:16 برنامج النسخ الاحتياطي ينسخ ملفاتك. الوكيل يفسر ما يقرأه وقد يستدعي أدوات للعمل عليه. مزيد من الاستقلالية يجعل عواقب الوصول الواسع أصعب التنبؤ بها. يوجد بالفعل مثال متنازع عليه. قال جيسون آتن إن Muse من Meta قرأ رسائله دون إذن. تقول Meta إن التكامل يتطلب كلاً من الوصول الكامل إلى القرص وربطها بـMessages. لم تذكر آبل لا Muse ولا تاريخ الإطلاق. تقول إنه يجب على المستخدمين فهم هذا الوصول ومنحه من خلال إجراء صريح جدًا.
1:42 لا تزال الواجهة الفعلية لقطة شاشة مفقودة. هناك مشكلة أعمق في الوكيل هنا. يمكن أن تحتوي رسالة بريد إلكتروني أو صفحة ويب على تعليمات تحاول إعادة توجيه المساعد. هذا هو حقن الأوامر، والوكيل يواجهه أثناء قيامه بعمل مفيد. بنى باحثون مستقلون Agent Dojo، مع سبعة وتسعين مهمة وستمائة وتسعة وعشرين حالة أمنية. يختبر ما إذا كانت البيانات غير الموثوقة تستولي على أدوات الوكيل.
2:04 هذه نتائج مختبرية تاريخية من عام ألفين وأربعة وعشرين. لم يتم نشر حوار آبل المستقبلي، لذا لم يحصل أحد على جولة النصر بعد. في إحدى تهيئات GPT-4o، نجح الهجوم المستهدف حوالي ثمانية وأربعين بالمائة من الوقت. أدى تصفية الأدوات المتاحة إلى حوالي سبعة بالمائة، مع درس تصميمي مفيد.
ما الذي يمكن للمطورين الحد منه قبل شحن آبل؟
2:21 امنح المساعد البيانات والأدوات التي تتطلبها المهمة. مجلد المشروع هو سطح إدخال أصغر من حساب كامل. يمكن أيضًا فصل إذن القراءة عن إذن الإرسال أو الحذف. هذه مقايضة للمنتج يعيشها المطورون بالفعل. قد يكون لدى أداة طرفية أو أداة نسخ احتياطي سبب مشروع للوصول الواسع. إزالته بإهمال ستخلق سير عمل معطلاً وآمنًا للغاية. إذن ما الذي تغيره آبل؟ الهدف المعلن هو موافقة أوضح وأكثر صراحة للوصول غير العادي.
2:46 لا يزال يتعين علينا رؤية التنفيذ لمعرفة كيف يحافظ على تلك الاستخدامات المشروعة.
ماذا يفعل محرر بطاقات آبل الجديد حقًا؟
2:50 قدمت آبل أيضًا Pass Designer، وهو محرر مرئي لبطاقات Wallet. تبدأ بقالب، وتضيف صورك، وتعاين البطاقة أثناء تحريرها. تقول آبل إن المعاينة تستخدم نفس طريقة العرض مثل iPhone و Apple Watch. يتحقق من صحة الحقول ويمكنه بناء بطاقة متوافقة مع الإصدارات السابقة من البيانات الدلالية. تصف العلامات الدلالية أشياء مثل تفاصيل الرحلة وتواريخ الأحداث. يمكن لتذكرة حفلتك أن تصبح أخيرًا بيانات منظمة قبل أن تصبح لقطة شاشة ضبابية في محادثة مجموعة عائلية لشخص ما.
3:15 يتطلب الإصدار التجريبي macOS 27 أو أحدث. تدرج آبل تسجيلًا مجانيًا للتنزيل. يساعد هذا في تصميم البطاقات؛ يتطلب إصدارها وتوزيعها سير عمل خاصًا به.
لماذا لا يمكن لموقع ويب تحديد موقع مستخدم VPN بشكل مثالي؟
3:24 ثم هناك يوتا، حيث أراد المشرعون من مواقع الويب المخصصة للبالغين أن تحدد الموقع الحقيقي لمستخدمي VPN أو تحظرهم. حظر قاضٍ فيدرالي مؤقتًا أحكام VPN المتنازع عليها. تقتبس مؤسسة الحدود الإلكترونية عن المحكمة قولها إن "كمال تحديد الموقع الجغرافي غير ممكن حاليًا". اتضح أن مكدس الشبكة لا يزال يرفض تنفيذ الميزات لمجرد أن المشرعين فتحوا تذكرة. يرى موقع الويب عنوان خادم VPN.
3:49 هذا لا يثبت مكان جلوس الشخص. معاملة كل موقع مخفي على أنه من المحتمل أن تكون يوتا تدفع بالمتطلبات بعيدًا خارج حدود الولاية. تقتبس EFF عن منطق القاضي بأن Aylo ستحتاج إلى التحقق من ثمانية وعشرين مليون مستخدم لضمان الامتثال. هذه هي تكلفة المطالبة بالكمال من إشارة لا تستطيع توفيره. هذا أمر أولي.
4:08 القيود المنفصلة على مشاركة معلومات VPN لم يتم تحديها. لا يزال الفارق القانوني يحتوي على سطور متبقية للمراجعة. تدور القصص الثلاث جميعها حول الحدود. يمكن لمحرر البطاقة التحقق من حقل. يرى موقع الويب عنوان خروج. يحصل الوكيل على أي وصول يمنحه النظام المحيط فعليًا. والشخص من الافتتاح هو من أرسل لك الرسالة.
من يتعرض للخطر دون النقر على السماح؟
4:27 تحذر آبل صراحة بشأن خصوصيتهم أيضًا. يمكن أن يكشف إذنك عن محادثة تحتوي على بيانات شخص آخر، ولم ينقروا أبدًا على زر "السماح" الخاص بك. يصف عنوان Slashdot ذلك بأنه "زيادة في المخاطر". هذه الدائرة الأوسع هي سبب اهتمامي. تحتاج شاشة الأذونات إلى شرح ما سيتلقاه المساعد. إذا كنت تفضل قراءة هذا بدلاً من سماعي أقوله، فإن الفارق يصل إلى بريدك الوارد كل صباح، مجانًا على the daily diff dot dev، الرابط أدناه.
4:49 لذا حكم اليوم، NEEDS REVIEW.
ما هو حكمي على ضوابط آبل المقترحة؟
4:51 أريد موافقة أوضح و وصولًا أضيق، مع الحفاظ على سير العمل المشروع. تطبيق آبل سيحدد ما إذا كانت ستحقق ذلك. اشترك، اضغط على الجرس، وأخبرني في التعليقات إذا كنت ستختمه بشكل مختلف. وهذا هو الفارق لهذا اليوم. أنا نيكو من Axrisi. دمج بمسؤولية.
المصادر
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



