ایپل نے AI ایجنٹس پر بریک لگا دی
ایپل نے اضافی macOS فل ڈسک ایکسس کنٹرولز کا منصوبہ بنایا ہے کیونکہ خود مختار AI ایجنٹس وسیع ڈیٹا تک رسائی کے خطرات کو بڑھاتے ہیں۔
ایپل نے اضافی macOS فل ڈسک ایکسس کنٹرولز کا منصوبہ بنایا ہے کیونکہ خود مختار AI ایجنٹس وسیع ڈیٹا تک رسائی کے خطرات کو بڑھاتے ہیں۔ ہم موجودہ اجازت، میٹا کے متنازعہ Muse پیغامات کے کیس اور تاریخی ایجنٹ سیکیورٹی شواہد کا جائزہ لیتے ہیں، پھر پاس ڈیزائنر اور یوٹاہ کے VPN-مقام کے قواعد کا احاطہ کرتے ہیں۔ فیصلہ: NEEDS REVIEW۔
تحریری ایڈیشن پڑھیں (انگریزی) ↗
اس ویڈیو میں کیا شامل ہے
- ایک میک کی اجازت اچانک ایک بڑا خطرہ کیوں بن گئی ہے؟
- فل ڈسک ایکسس دراصل کیا کھولتا ہے؟
- خود مختار ایجنٹ داؤ پر لگے خطرات کو کیوں بدل دیتے ہیں؟
- ایپل کی طرف سے شپمنٹ سے پہلے ڈویلپرز کیا محدود کر سکتے ہیں؟
- ایپل کا نیا پاس ایڈیٹر دراصل کیا کرتا ہے؟
سوالات و جوابات
جب آپ کسی میک پر کسی ایپ کو مکمل ڈسک تک رسائی دیتے ہیں تو وہ کیا پڑھ سکتی ہے؟
مکمل ڈسک تک رسائی میں محفوظ ڈیٹا جیسے کہ میل، پیغامات اور سفاری کا ڈیٹا، نیز ٹائم مشین کے بیک اپ شامل ہوتے ہیں تاکہ ایک بیک اپ ایپ کام کر سکے۔ ایپل کا کہنا ہے کہ یہ رسائی دیگر رازداری کے کنٹرولز کو بڑی حد تک نظر انداز کرتی ہے۔ آپ اسے سسٹم سیٹنگز کے ذریعے دیتے ہیں، اور اجازت پہلے سے موجود ہے۔ ایپل کا اعلان اس اجازت کے ارد گرد اضافی کنٹرولز کا وعدہ کرتا ہے۔
خود مختار AI ایجنٹ وسیع فائل تک رسائی کو بیک اپ ایپ سے زیادہ خطرناک کیوں بناتے ہیں؟
ایک بیک اپ پروگرام آپ کی فائلز کو کاپی کرتا ہے، جبکہ ایک ایجنٹ جو پڑھتا ہے اس کی تشریح کرتا ہے اور اس پر عمل کرنے کے لیے ٹولز کو کال کر سکتا ہے، لہذا زیادہ خودمختاری وسیع رسائی کے نتائج کو پیش گوئی کرنا مشکل بنا دیتی ہے۔ ایک ای میل یا ویب پیج میں ایسی ہدایات ہو سکتی ہیں جو اسسٹنٹ کو ری ڈائریکٹ کرنے کی کوشش کرتی ہیں، جسے پرامپٹ انجیکشن کہا جاتا ہے۔ ایپل کا کہنا ہے کہ تیزی سے خود مختار ایجنٹ مکمل ڈسک تک رسائی کو کافی حد تک خطرناک بنا دیتے ہیں۔
ایک AI ایجنٹ کے ٹولز کو محدود کرنا پرامپٹ انجیکشن حملوں کو کتنا کم کر سکتا ہے؟
ایجنٹ ڈوجو بینچ مارک میں، ستانوے ٹاسک اور چھ سو انتیس سیکیورٹی کیسز کے ساتھ، ایک GPT فور او کنفیگریشن پر تقریباً اڑتالیس فیصد وقت کامیابی سے حملہ کیا گیا۔ دستیاب ٹولز کو فلٹر کرنے سے یہ تقریباً سات فیصد رہ گیا۔ یہ 2024 کے تاریخی لیب کے نتائج ہیں، لہذا وہ ایپل کے کنٹرولز کی کارکردگی کے بجائے ایک ڈیزائن سبق دکھاتے ہیں۔
ایک وفاقی جج نے یوٹاہ کے VPN لوکیشن رولز کو کیوں روکا؟
جج نے ابتدائی طور پر چیلنج شدہ VPN دفعات کو روک دیا۔ الیکٹرانک فرنٹیئر فاؤنڈیشن عدالت کا حوالہ دیتی ہے کہ جیو لوکیشن کی مکمل درستگی فی الحال ممکن نہیں ہے۔ ایک ویب سائٹ VPN سرور کا پتہ دیکھتی ہے، جو یہ ظاہر نہیں کرتا کہ شخص کہاں بیٹھا ہے۔ یہ حکم ابتدائی ہے، اور VPN معلومات کو شیئر کرنے پر الگ سے پابندی کو چیلنج نہیں کیا گیا۔
کیا مکمل ڈسک تک رسائی کے سخت کنٹرولز کے لیے ایپل کا منصوبہ ایک اچھا خیال ہے؟
دی ڈیلی ڈف کا فیصلہ NEEDS REVIEW تھا۔ یہ واقعہ واضح رضامندی اور جائز ورک فلو کے ساتھ محدود رسائی چاہتا ہے، اور کہتا ہے کہ ایپل کا نفاذ فیصلہ کرے گا کہ آیا وہ اسے فراہم کرتا ہے۔ ایپل نے کوئی ڈائیلاگ یا رول آؤٹ کی تاریخ شائع نہیں کی ہے۔ کسی دوسرے شخص کی رازداری بھی داؤ پر ہے، کیونکہ آپ کی اجازت ان کے ڈیٹا پر مشتمل گفتگو کو بے نقاب کر سکتی ہے۔
ترجمہ شدہ ٹرانسکرپٹ
اصل انگریزی بیان سے ترجمہ کیا گیا۔ دستیاب آڈیو اور کیپشنز یوٹیوب کے زیر انتظام ہیں۔
ایک میک کی اجازت اچانک ایک بڑا خطرہ کیوں بن گئی ہے؟
0:00 آپ سوچیں گے کہ اجازت پر کلک کرنے سے یہ طے ہو جاتا ہے کہ ایک ایپ کیا دیکھ سکتی ہے۔ ایپل کا کہنا ہے کہ تیزی سے خود مختار AI ایجنٹس فل ڈسک ایکسس کو نمایاں طور پر بناتے ہیں زیادہ خطرناک ہے، اور یہ کنٹرولز شامل کر رہا ہے۔ اس ویڈیو میں، ایجنٹ کیا پڑھ سکتے ہیں؟ ایپل کیا بدل رہا ہے؟ اور کون بے نقاب ہوتا ہے؟ آپ کے میک پر کسی اور کی پرائیویسی خطرے میں ہے۔ ہم فیصلے سے پہلے ان پر واپس آئیں گے۔
0:18 یہ ہفتہ، 3 اکتوبر ہے، اور یہ The Daily Diff ہے۔ جمعہ کو، ایپل نے ڈویلپرز کو فل ڈسک ایکسس کے بارے میں خبردار کیا اور ایک Wallet پاس ایڈیٹر متعارف کرایا۔ دریں اثنا، ایک وفاقی جج نے یوٹاہ کے VPN مقام کے قواعد کو روک دیا۔ TechCrunch کی رپورٹر سارہ پیریز نے ایپل کے اعلان کو فائر شدہ شاٹس کہا۔ ایپل کی پوسٹ میں ہدف کا نام نہیں بتایا گیا ہے، جو کہ ایک متاثر کن کارپوریٹ طریقہ ہے جس سے ایک دلیل شروع کی جائے۔ ایپل کی دستاویزات میں میل اور میسجز کا ڈیٹا شامل ہے،
فل ڈسک ایکسس دراصل کیا کھولتا ہے؟
0:42 سفاری ڈیٹا کے علاوہ۔ اس میں ٹائم مشین کے بیک اپ بھی شامل ہیں، تاکہ آپ کا بیک اپ ایپ کام کر سکے۔ ایپل کا کہنا ہے کہ یہ زیادہ تر دیگر پرائیویسی کنٹرولز کو نظرانداز کرتا ہے۔ آپ اسے سسٹم سیٹنگز کے ذریعے دیتے ہیں، اور اجازت پہلے سے موجود ہے۔ اعلان اس اجازت کے گرد اضافی کنٹرولز کا وعدہ کرتا ہے۔ X پر، جاوید نے جواب دیا، مجھے امید ہے کہ آپ کو اجازت کے پرامپٹ پسند آئیں گے۔ یہ چھ الفاظ میں ڈویلپر کی کشیدگی ہے۔ آٹومیشن ہمیں دستی طور پر آٹومیشن کی منظوری کے لیے کہتی رہتی ہے۔
1:06 اجازتوں کو سیدھا رکھیں، تاہم۔ ایپل کی گائیڈ میں ایکسیسبلٹی اور آٹومیشن کے الگ الگ اندراجات ہیں۔ محفوظ ڈیٹا کو پڑھنا اور کسی دوسری ایپ کو کنٹرول کرنا مختلف صلاحیتیں ہیں، مختلف کنٹرولز کے ساتھ۔
خود مختار ایجنٹ داؤ پر لگے خطرات کو کیوں بدل دیتے ہیں؟
1:16 ایک بیک اپ پروگرام آپ کی فائلوں کی نقل کرتا ہے۔ ایک ایجنٹ جو کچھ پڑھتا ہے اس کی تشریح کرتا ہے اور اس پر عمل کرنے کے لیے ٹولز کو کال کر سکتا ہے۔ زیادہ خود مختاری وسیع رسائی کے نتائج کی پیش گوئی کرنا مشکل بناتی ہے۔ پہلے سے ہی ایک متنازعہ مثال موجود ہے۔ جیسن اٹن نے کہا کہ میٹا کے میوز نے اس کی اجازت کے بغیر اس کے پیغامات پڑھے۔ میٹا کا کہنا ہے کہ انضمام کے لیے فل ڈسک ایکسس اور اس کے میسجز کنیکٹر دونوں کی ضرورت ہے۔ ایپل نے نہ تو Muse کا نام لیا اور نہ ہی رول آؤٹ کی تاریخ۔ اس کا کہنا ہے کہ صارفین کو اس رسائی کو سمجھنا چاہیے اور اسے بہت واضح
1:42 عمل کے ذریعے دینا چاہیے۔ اصل انٹرفیس ایک گمشدہ اسکرین شاٹ ہی رہتا ہے۔ یہاں ایک گہرا ایجنٹ کا مسئلہ ہے۔ ایک ای میل یا ویب صفحہ میں شامل ہو سکتا ہے ایسی ہدایات جو اسسٹنٹ کو ری ڈائریکٹ کرنے کی کوشش کرتی ہیں۔ یہ پرامپٹ انجیکشن ہے، اور ایجنٹ مفید کام کرتے ہوئے اس کا سامنا کرتا ہے۔ آزاد محققین نے Agent Dojo بنایا، جس میں 97 کام اور 629 سیکیورٹی کیسز ہیں۔ یہ جانچتا ہے کہ آیا ناقابل اعتماد ڈیٹا ایک ایجنٹ کے ٹولز پر قبضہ کر لیتا ہے۔
2:04 یہ 2024 کے تاریخی لیب کے نتائج ہیں۔ ایپل کا مستقبل کا ڈائیلاگ ابھی شائع نہیں ہوا ہے، لہذا ابھی تک کوئی فتح کا چکر نہیں لگاتا ہے۔ ایک GPT-4oh کنفیگریشن میں، ٹارگٹڈ حملہ تقریبا 48 فیصد وقت میں کامیاب ہوا۔ دستیاب ٹولز کو فلٹر کرنے سے یہ تقریبا 7 فیصد تک گر گیا، ایک مفید ڈیزائن سبق کے ساتھ۔
ایپل کی طرف سے شپمنٹ سے پہلے ڈویلپرز کیا محدود کر سکتے ہیں؟
2:21 ایک اسسٹنٹ کو وہ ڈیٹا اور ٹولز دیں جو کام کو درکار ہیں۔ ایک پروجیکٹ فولڈر پورے اکاؤنٹ سے چھوٹی ان پٹ سطح ہے۔ پڑھنے کی رسائی کو بھی بھیجنے یا حذف کرنے کی اجازت سے الگ کیا جا سکتا ہے۔ یہ ایک پروڈکٹ کا سمجھوتہ ہے جس کے ساتھ ڈویلپرز پہلے ہی رہتے ہیں۔ ایک ٹرمینل یا بیک اپ یوٹیلیٹی کے پاس وسیع رسائی کی ایک جائز وجہ ہو سکتی ہے۔ اسے لاپرواہی سے ہٹانے سے ایک بہت محفوظ خراب ورک فلو پیدا ہو گا۔ تو ایپل کیا بدل رہا ہے؟ بیان کردہ ہدف غیر معمولی رسائی کے لیے واضح، زیادہ صریح رضامندی ہے۔
2:46 ہمیں ابھی بھی عمل درآمد کی ضرورت ہے تاکہ یہ دیکھا جا سکے کہ یہ ان جائز استعمال کو کیسے برقرار رکھتا ہے۔
ایپل کا نیا پاس ایڈیٹر دراصل کیا کرتا ہے؟
2:50 ایپل نے Pass Designer بھی متعارف کرایا، جو Wallet پاسز کے لیے ایک ویژول ایڈیٹر ہے۔ آپ ایک ٹیمپلیٹ سے شروع کرتے ہیں، اپنی تصاویر لاتے ہیں، اور پاس کو ایڈٹ کرتے ہوئے اس کا پیش نظارہ دیکھتے ہیں۔ ایپل کا کہنا ہے کہ پیش نظارہ iPhone اور Apple Watch کی طرح ہی رینڈرنگ استعمال کرتا ہے۔ یہ فیلڈز کی توثیق کرتا ہے اور سمانٹک ڈیٹا سے پسماندہ ہم آہنگ پاس بنا سکتا ہے۔ سیمانٹک ٹیگز فلائٹ کی تفصیلات اور ایونٹ کی تاریخوں جیسی چیزوں کی وضاحت کرتے ہیں۔ آپ کا کنسرٹ کا ٹکٹ بالآخر کسی کی فیملی گروپ چیٹ میں دھندلی اسکرین شاٹ بننے سے پہلے structured ڈیٹا بن سکتا ہے۔ کسی کی فیملی گروپ چیٹ میں ایک دھندلا اسکرین شاٹ بن جائے۔
3:15 بیٹا کے لیے macOS 27 یا اس کے بعد کا ورژن درکار ہے۔ ایپل ڈاؤن لوڈ کے لیے مفت رجسٹریشن کی فہرست دیتا ہے۔ یہ پاسز ڈیزائن کرنے میں مدد کرتا ہے؛ انہیں جاری کرنے اور تقسیم کرنے کے لیے اپنا ورک فلو درکار ہے۔
ایک ویب سائٹ VPN صارف کا صحیح مقام کیوں نہیں بتا سکتی؟
3:24 پھر یوٹاہ ہے، جہاں قانون سازوں نے چاہا کہ احاطہ شدہ بالغ ویب سائٹس VPN صارفین کے حقیقی مقام کی شناخت کریں یا انہیں بلاک کریں۔ حقیقی مقام کی شناخت کریں یا انہیں بلاک کریں۔ ایک وفاقی جج نے چیلنج شدہ VPN دفعات کو ابتدائی طور پر روک دیا ہے۔ الیکٹرانک فرنٹیر فاؤنڈیشن عدالت کا حوالہ دیتی ہے جس میں کہا گیا ہے کہ جیو لوکیشن کمال فی الحال ممکن نہیں ہے۔ معلوم ہوا کہ نیٹ ورک اسٹیک اب بھی خصوصیات کو نافذ کرنے سے انکار کرتا ہے صرف اس وجہ سے کہ ایک قانون ساز نے ایک ٹکٹ کھولا ہے۔ ایک ویب سائٹ VPN سرور کا ایڈریس دیکھتی ہے۔
3:49 یہ اس بات کو ثابت نہیں کرتا کہ شخص کہاں بیٹھا ہے۔ ہر چھپے ہوئے مقام کو ممکنہ طور پر یوٹاہ سمجھنا اس ضرورت کو ریاست کی سرحدوں سے بہت دور دھکیل دیتا ہے۔ EFF جج کی اس دلیل کا حوالہ دیتا ہے کہ Aylo کو 28 ملین صارفین کی تصدیق کرنی پڑے گی تاکہ تعمیل کی ضمانت دی جا سکے۔ یہ اس سگنل سے کمال کا مطالبہ کرنے کی قیمت ہے جو اسے فراہم نہیں کر سکتا۔ یہ ایک ابتدائی حکم ہے۔
4:08 VPN معلومات شیئر کرنے پر الگ پابندی کو چیلنج نہیں کیا گیا۔ قانونی فرق میں ابھی بھی جائزے کے لیے لائنیں باقی ہیں۔ تینوں کہانیاں حدود پر مبنی ہیں۔ ایک پاس ایڈیٹر ایک فیلڈ کی جانچ کر سکتا ہے۔ ایک ویب سائٹ ایک ایگزٹ ایڈریس دیکھتی ہے۔ ایک ایجنٹ کو وہ رسائی ملتی ہے جو ارد گرد کا سسٹم دراصل دیتا ہے۔ اور افتتاحی شخص وہ ہے جس نے آپ کو پیغام بھیجا تھا۔
اجازت پر کلک کیے بغیر کون بے نقاب ہوتا ہے؟
4:27 ایپل واضح طور پر ان کی پرائیویسی کے بارے میں بھی خبردار کرتا ہے۔ آپ کی اجازت کسی ایسی گفتگو کو بے نقاب کر سکتی ہے جس میں کسی اور کا ڈیٹا شامل ہو، اور انہوں نے کبھی آپ کے Allow بٹن پر کلک نہیں کیا۔ Slashdot کی سرخی اسے بڑھا ہوا خطرہ کہتی ہے۔ یہ وسیع دائرہ ہی میری تشویش کی وجہ ہے۔ اجازت کی اسکرین کو یہ بتانا چاہیے کہ اسسٹنٹ کو کیا ملے گا۔ اگر آپ اسے سننے کے بجائے پڑھنا پسند کریں، تو روزانہ صبح The Daily Diff آپ کے ان باکس میں مفت آتا ہے، dailydiff.dev پر، لنک نیچے ہے۔ ہر صبح، dailydiff.dev پر، لنک نیچے ہے۔
4:49 تو آج کا فیصلہ، NEEDS REVIEW۔
ایپل کے مجوزہ کنٹرولز پر میرا فیصلہ کیا ہے؟
4:51 میں واضح رضامندی اور محدود رسائی چاہتا ہوں، جائز ورک فلو کو برقرار رکھتے ہوئے۔ ایپل کا عمل درآمد فیصلہ کرے گا کہ آیا یہ اسے فراہم کرتا ہے۔ سبسکرائب کریں، گھنٹی دبائیں، اور تبصروں میں مجھے بتائیں کہ کیا آپ نے اسے مختلف طریقے سے مہر لگائی ہوگی۔ اور یہ آج کا فرق ہے۔ میں Axrisi سے نیکو ہوں۔ ذمہ داری سے ضم کریں۔
ذرائع
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



