اپل ترمز هوش مصنوعی عاملان را میکشد
اپل کنترلهای دسترسی کامل دیسک macOS را افزایش میدهد زیرا عوامل خودمختار هوش مصنوعی خطرات دسترسی گسترده به دادهها را افزایش میدهند.
اپل کنترلهای دسترسی کامل دیسک macOS را افزایش میدهد زیرا عوامل خودمختار هوش مصنوعی خطرات دسترسی گسترده به دادهها را افزایش میدهند. ما مجوز فعلی، پرونده پیامهای مورد مناقشه میوز متا و شواهد تاریخی امنیت عامل را بررسی میکنیم، سپس Pass Designer و قوانین موقعیت مکانی VPN یوتا را پوشش میدهیم. حکم: NEEDS REVIEW.
نسخه نوشتاری را بخوانید (انگلیسی) ↗
این ویدیو چه مواردی را پوشش میدهد
- چرا ناگهان یک مجوز مک ریسک بزرگتری شده است؟
- دسترسی کامل دیسک واقعا چه چیزی را باز میکند؟
- چرا عاملان خودمختار سهام را تغییر میدهند؟
- توسعهدهندگان قبل از عرضه اپل چه چیزی را میتوانند محدود کنند؟
- ویرایشگر پاس جدید اپل واقعا چه کاری انجام میدهد؟
سوالات متداول
هنگامی که به یک برنامه دسترسی کامل به دیسک را در مک میدهید، چه چیزی را میتواند بخواند؟
دسترسی کامل به دیسک شامل دادههای محافظتشدهای مانند دادههای Mail، Messages و Safari، به علاوه پشتیبانگیریهای Time Machine است تا یک برنامه پشتیبانگیری بتواند کار کند. اپل میگوید این دسترسی تا حد زیادی از سایر کنترلهای حریم خصوصی فراتر میرود. شما این اجازه را از طریق تنظیمات سیستم اعطا میکنید و این مجوز قبلاً وجود دارد. اطلاعیه اپل وعده کنترلهای اضافی در مورد آن اعطا را میدهد.
چرا عوامل خودمختار هوش مصنوعی دسترسی گسترده به فایلها را خطرناکتر از یک برنامه پشتیبانگیری میکنند؟
یک برنامه پشتیبانگیری فایلهای شما را کپی میکند، در حالی که یک عامل آنچه را که میخواند تفسیر میکند و ممکن است ابزارهایی را برای اقدام بر روی آن فراخوانی کند، بنابراین استقلال بیشتر پیشبینی عواقب دسترسی گسترده را دشوارتر میکند. یک ایمیل یا صفحه وب میتواند حاوی دستورالعملهایی باشد که سعی در تغییر مسیر دستیار دارد، که به آن تزریق پرامپت میگویند. اپل میگوید عوامل خودمختار فزاینده، دسترسی کامل به دیسک را به طور قابل توجهی خطرناکتر میکنند.
محدود کردن ابزارهای یک عامل هوش مصنوعی چقدر میتواند حملات تزریق پرامپت را کاهش دهد؟
در بنچمارک AgentDojo، با نود و هفت وظیفه و ششصد و بیست و نه مورد امنیتی، یک پیکربندی GPT-4o در حدود چهل و هشت درصد مواقع با موفقیت مورد حمله قرار گرفت. فیلتر کردن ابزارهای موجود این میزان را به حدود هفت درصد رساند. اینها نتایج آزمایشگاهی تاریخی از سال ۲۰۲۴ هستند، بنابراین آنها یک درس طراحی را نشان میدهند تا اینکه کنترلهای اپل چگونه عمل خواهند کرد.
چرا یک قاضی فدرال قوانین مکان VPN یوتا را مسدود کرد؟
قاضی به طور مقدماتی مفاد VPN مورد چالش را مسدود کرد. بنیاد مرزهای الکترونیکی از دادگاه نقل قول میکند که میگوید کمال موقعیتیابی جغرافیایی در حال حاضر امکانپذیر نیست. یک وبسایت آدرس سرور VPN را میبیند که نشان نمیدهد شخص در کجا نشسته است. این حکم مقدماتی است و محدودیت جداگانه در اشتراکگذاری اطلاعات VPN مورد چالش قرار نگرفت.
آیا برنامه اپل برای کنترلهای سختگیرانهتر دسترسی کامل به دیسک ایده خوبی است؟
رای The Daily Diff، NEEDS REVIEW بود. این قسمت خواستار رضایت روشنتر و دسترسی محدودتر با حفظ گردش کارهای مشروع است و میگوید اجرای اپل تعیین خواهد کرد که آیا این امر محقق میشود یا خیر. اپل هیچ گفتوگو یا تاریخ انتشار را منتشر نکرده است. حریم خصوصی شخص دیگری نیز در خطر است، زیرا اجازه شما میتواند مکالمهای حاوی دادههای آنها را افشا کند.
رونوشت ترجمه شده
ترجمه شده از روایت اصلی انگلیسی. صوت و زیرنویسهای موجود توسط YouTube کنترل میشوند.
چرا ناگهان یک مجوز مک ریسک بزرگتری شده است؟
0:00 شما فکر میکنید که کلیک روی Allow مشخص میکند که یک برنامه چه چیزی را میتواند ببیند. اپل میگوید که عوامل هوش مصنوعی به طور فزایندهای خودمختار، Full Disk Access را به طور قابل توجهی ریسکپذیرتر میکنند و کنترلهایی را اضافه میکند. در این ویدئو، عوامل چه چیزی را میتوانند بخوانند؟ اپل چه چیزی را تغییر میدهد؟ چه کسی دیگر در معرض خطر قرار میگیرد؟ حریم خصوصی شخص دیگری در مک شما در معرض خطر است. قبل از صدور حکم به آنها باز میگردیم.
0:18 شنبه، سوم اکتبر است و این The Daily Diff است. روز جمعه، اپل به توسعهدهندگان در مورد دسترسی کامل دیسک هشدار داد و یک ویرایشگر Pass Wallet را معرفی کرد. در همین حال، یک قاضی فدرال قوانین موقعیت مکانی VPN یوتا را به حالت تعلیق درآورد. سارا پرز، خبرنگار TechCrunch، اطلاعیه اپل را «شلیک» نامید. هدف در پست اپل نامشخص باقی میماند، که یک روش سازمانی بسیار تأثیرگذار برای شروع یک بحث است. اسناد اپل شامل دادههای Mail و Messages است،
دسترسی کامل دیسک واقعا چه چیزی را باز میکند؟
0:42 به علاوه دادههای Safari. همچنین شامل نسخههای پشتیبان Time Machine است، بنابراین برنامه پشتیبان شما میتواند کار کند. اپل میگوید که این تا حد زیادی سایر کنترلهای حریم خصوصی را نادیده میگیرد. شما آن را از طریق System Settings اعطا میکنید و این مجوز قبلاً وجود دارد. این اطلاعیه وعده کنترلهای اضافی در مورد آن اعطا را میدهد. در X، جاوید پاسخ داد: «امیدوارم از درخواستهای مجوز خوشتان بیاید.» این همان تنش توسعهدهنده در شش کلمه است. اتوماسیون همچنان از ما میخواهد که اتوماسیون را به صورت دستی تأیید کنیم.
1:06 اما مجوزها را مستقیم نگه دارید. Accessibility و Automation ورودیهای جداگانهای در راهنمای اپل دارند. خواندن دادههای محافظتشده و کنترل یک برنامه دیگر قابلیتهای متفاوتی هستند، با کنترلهای متفاوت.
چرا عاملان خودمختار سهام را تغییر میدهند؟
1:16 یک برنامه پشتیبان فایلهای شما را کپی میکند. یک عامل آنچه را میخواند تفسیر میکند و ممکن است ابزارهایی را برای اقدام بر روی آن فراخوانی کند. استقلال بیشتر، پیشبینی عواقب دسترسی گسترده را دشوارتر میکند. قبلاً یک مثال مورد مناقشه وجود دارد. جیسون آتن گفت که Muse متا پیامهای او را بدون اجازه خوانده است. متا میگوید این ادغام به دسترسی کامل دیسک و Messages Connector آن نیاز دارد. اپل نه Muse و نه تاریخ عرضه را نام نمیبرد. اپل نه Muse و نه تاریخ عرضه را نام نمیبرد. اپل میگوید کاربران باید این دسترسی را درک کنند و آن را از طریق اقدام بسیار صریح
1:42 اعطا کنند. رابط کاربری واقعی یک اسکرینشات گمشده باقی میماند. یک مشکل عمیقتر با عامل وجود دارد. یک ایمیل یا صفحه وب میتواند حاوی دستورالعملهایی باشد که سعی در تغییر مسیر دستیار دارند. این تزریق فرمان است و عامل هنگام انجام کارهای مفید با آن مواجه میشود. محققان مستقل Agent Dojo را ساختند، با نود و هفت وظیفه و شش صد و بیست و نه مورد امنیتی. این آزمایش میکند که آیا دادههای نامعتبر ابزارهای یک عامل را در اختیار میگیرند یا خیر.
2:04 اینها نتایج آزمایشگاهی تاریخی از سال 2024 هستند. دیالوگ آینده اپل هنوز منتشر نشده است، بنابراین هیچکس هنوز پیروزی را جشن نمیگیرد. در یک پیکربندی GPT-4.0، حمله هدفمند در حدود 48 درصد مواقع موفق بود. فیلتر کردن ابزارهای موجود این را به حدود 7 درصد رساند، با یک درس طراحی مفید.
توسعهدهندگان قبل از عرضه اپل چه چیزی را میتوانند محدود کنند؟
2:21 دادهها و ابزارهایی را که وظیفه نیاز دارد به دستیار بدهید. یک پوشه پروژه یک سطح ورودی کوچکتر از یک حساب کامل است. دسترسی خواندن نیز میتواند از مجوز ارسال یا حذف جدا شود. این یک معامله محصول است که توسعهدهندگان قبلاً با آن زندگی میکنند. یک ترمینال یا ابزار پشتیبانگیری ممکن است دلیل مشروعی برای دسترسی گسترده داشته باشد. حذف بیدقت آن یک گردش کار شکسته بسیار امن ایجاد میکند. پس اپل چه چیزی را تغییر میدهد؟ هدف اعلام شده، رضایت واضحتر و صریحتر برای دسترسی فوقالعاده است.
2:46 ما هنوز به پیادهسازی نیاز داریم تا ببینیم چگونه این موارد استفاده مشروع را حفظ میکند.
ویرایشگر پاس جدید اپل واقعا چه کاری انجام میدهد؟
2:50 اپل همچنین Pass Designer را معرفی کرد، یک ویرایشگر بصری برای Wallet passes. با یک الگو شروع میکنید، تصاویر خود را وارد میکنید و پیشنمایش pass را هنگام ویرایش مشاهده میکنید. اپل میگوید پیشنمایش از همان رندرینگ iPhone و Apple Watch استفاده میکند. فیلدها را اعتبارسنجی میکند و میتواند یک pass سازگار با نسخههای قبلی از دادههای معنایی بسازد. برچسبهای معنایی چیزهایی مانند جزئیات پرواز و تاریخ رویدادها را توصیف میکنند. بلیط کنسرت شما بالاخره میتواند به دادههای ساختاریافته تبدیل شود، قبل از اینکه به یک اسکرینشات تار در چت گروهی خانواده کسی تبدیل شود.
3:15 نسخه بتا به macOS 27 یا بالاتر نیاز دارد. اپل ثبتنام رایگان برای دانلود را لیست میکند. این به طراحی passها کمک میکند؛ صدور و توزیع آنها به گردش کار خاص خود نیاز دارد.
چرا یک وبسایت نمیتواند کاربر VPN را به طور کامل مکانیابی کند؟
3:24 سپس یوتا وجود دارد، جایی که قانونگذاران میخواستند وبسایتهای بزرگسالان پوششدادهشده موقعیت مکانی واقعی کاربران VPN را شناسایی کنند یا آنها را مسدود کنند. یک قاضی فدرال به طور مقدماتی مفاد VPN مورد اعتراض را مسدود کرده است. بنیاد مرزهای الکترونیکی (EFF) از دادگاه نقل میکند که گفته است دقت مکانیابی در حال حاضر امکانپذیر نیست. معلوم میشود که پشته شبکه همچنان از پیادهسازی ویژگیها صرفاً به این دلیل که یک قانونگذار یک تیکت باز کرده است، امتناع میکند. یک وبسایت آدرس سرور VPN را میبیند.
3:49 این مشخص نمیکند که شخص در کجا نشسته است. برخورد با هر مکان پنهان به عنوان یوتای بالقوه، این الزامات را بسیار فراتر از مرزهای ایالت میبرد. EFF از استدلال قاضی نقل میکند که Aylo برای تضمین انطباق، باید 28 میلیون کاربر را تأیید کند. این هزینه درخواست کمال از سیگنالی است که نمیتواند آن را تأمین کند. این یک دستور مقدماتی است.
4:08 محدودیت جداگانه در اشتراکگذاری اطلاعات VPN مورد اعتراض قرار نگرفت. تفاوت قانونی هنوز خطوطی برای بررسی دارد. همه سه داستان به مرزها مربوط میشوند. یک ویرایشگر pass میتواند یک فیلد را بررسی کند. یک وبسایت یک آدرس خروجی را میبیند. یک عامل هر دسترسیای را که سیستم اطراف واقعاً اعطا میکند، دریافت میکند. و شخصی که در ابتدا بود، کسی است که پیام را برای شما ارسال کرده است.
چه کسی بدون کلیک روی Allow در معرض خطر قرار میگیرد؟
4:27 اپل صراحتاً در مورد حریم خصوصی آنها نیز هشدار میدهد. مجوز شما میتواند مکالمهای حاوی دادههای شخص دیگری را در معرض دید قرار دهد، و آنها هرگز روی دکمه Allow شما کلیک نکردهاند. عنوان Slashdot آن را «ریسک افزایشیافته» مینامد. آن دایره وسیعتر دلیلی است که من اهمیت میدهم. صفحه مجوز باید توضیح دهد که دستیار چه چیزی را دریافت خواهد کرد. اگر ترجیح میدهید این را بخوانید تا اینکه من آن را بگویم، diff هر روز صبح رایگان به صندوق ورودی شما میرسد، در daily diff dot dev، لینک زیر.
4:49 پس حکم امروز، NEEDS REVIEW.
نظر من در مورد کنترلهای پیشنهادی اپل چیست؟
4:51 من رضایت واضحتر و دسترسی محدودتر را میخواهم، با حفظ گردش کارهای مشروع. پیادهسازی اپل مشخص خواهد کرد که آیا آن را ارائه میدهد یا خیر. مشترک شوید، زنگ را بزنید و در نظرات به من بگویید که آیا آن را متفاوت مهر میزدید. و این تفاوت امروز است. من نیکو از Axrisi هستم. با مسئولیتپذیری ادغام کنید.
منابع
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



