Apple натиска спирачките на AI агентите

Какво обхваща този видеоклип

• Защо едно разрешение за Mac изведнъж е по-голям риск?
• Какво всъщност отваря пълният достъп до диска?
• Защо автономните агенти променят залозите?
• Какво могат да ограничат разработчиците, преди Apple да пусне?
• Какво всъщност прави новият редактор на пропуски на Apple?

Преведен препис

Преведено от оригиналния английски разказ. Наличните аудио и субтитри се контролират от YouTube.

Защо едно разрешение за Mac изведнъж е по-голям риск?

0:00 Човек би си помислил, че щракването върху „Разрешаване“ урежда какво може да види едно приложение. Apple казва, че все по-автономните AI агенти правят пълния достъп до диска съществено по-рисков и добавя контроли. В този видеоклип какво могат да четат агентите? Какво променя Apple? Кой друг е изложен? Нечия чужда поверителност е застрашена на вашия Mac. Ще се върнем към тях преди присъдата.

0:18 Събота, трети октомври е, и това е The Daily Diff. В петък Apple предупреди разработчиците за пълен достъп до диска и представи редактор за пропуски на Wallet. Междувременно федерален съдия замрази правилата за VPN местоположение на Юта. Репортерката на TechCrunch Сара Перес нарече съобщението на Apple „изстрели“. Целта остава неназована в публикацията на Apple, което е впечатляващо корпоративен начин да започнеш спор. Документацията на Apple включва данни от Mail и Messages,

Какво всъщност отваря пълният достъп до диска?

0:42 плюс данни от Safari. Включва и Time Machine архиви, така че приложението ви за архивиране да може да работи. Apple казва, че това до голяма степен заобикаля други контроли за поверителност. Предоставяте го чрез System Settings, и разрешението вече съществува. Съобщението обещава допълнителни контроли около това предоставяне. В X, Хави отговори: „Надявам се да харесвате подкани за разрешения“. Това е напрежението между разработчиците в шест думи. Автоматизацията продължава да ни моли ръчно да одобряваме автоматизацията.

1:06 Все пак поддържайте разрешенията ясни. Достъпността и Автоматизацията имат отделни записи в ръководството на Apple. Четенето на защитени данни и контролирането на друго приложение са различни възможности, с различни контроли.

Защо автономните агенти променят залозите?

1:16 Програма за архивиране копира вашите файлове. Агентът интерпретира това, което чете, и може да извиква инструменти, за да действа върху него. По-голямата автономия прави последствията от широкия достъп по-трудни за предвиждане. Вече има спорен пример. Джейсън Атен каза, че Muse на Meta е прочел съобщенията му без разрешение. Meta казва, че интеграцията изисква както пълен достъп до диска, така и нейния Messages конектор. Apple не посочва нито Muse, нито дата на пускане. Тя казва, че потребителите трябва да разбират този достъп и да го предоставят чрез много изрично

1:42 действие. Действителният интерфейс остава липсваща екранна снимка. Тук има по-дълбок проблем с агентите. Имейл или уеб страница може да съдържа инструкции, които се опитват да пренасочат асистента. Това е инжекция на промпт, и агентът я среща, докато върши полезна работа. Независими изследователи изградиха Agent Dojo, с деветдесет и седем задачи и шестстотин двадесет и девет случая на сигурност. Той тества дали недоверени данни завземат инструментите на агента.

2:04 Това са исторически лабораторни резултати от две хиляди двадесет и четвърта година. Бъдещият диалог на Apple не е публикуван, така че никой все още не е спечелил. В една GPT-4.0 конфигурация, целенасочената атака успява около четиридесет и осем процента от времето. Филтрирането на наличните инструменти сведе това до около седем процента, с полезен урок по дизайн.

Какво могат да ограничат разработчиците, преди Apple да пусне?

2:21 Дайте на асистента данните и инструментите, от които се нуждае задачата. Папка на проекта е по-малка входна повърхност от цял акаунт. Достъпът за четене също може да бъде отделен от разрешението за изпращане или изтриване. Това е продуктова компромис, с който разработчиците вече живеят. Терминал или помощна програма за архивиране може да има легитимна причина за широк достъп. Премахването му безразсъдно би създало много сигурен, но счупен работен процес. И така, какво променя Apple? Заявената цел е по-ясно, по-изрично съгласие за извънреден достъп.

2:46 Все още се нуждаем от внедряването, за да видим как то запазва тези легитимни употреби.

Какво всъщност прави новият редактор на пропуски на Apple?

2:50 Apple също така представи Pass Designer, визуален редактор за Wallet пропуски. Започвате с шаблон, въвеждате изображенията си и преглеждате пропуска, докато го редактирате. Apple казва, че прегледът използва същото изобразяване като iPhone и Apple Watch. Той валидира полета и може да изгради обратно съвместим пропуск от семантични данни. Семантичните тагове описват неща като данни за полети и дати на събития. Вашият билет за концерт най-накрая може да стане структурирани данни, преди да се превърне в размазана екранна снимка в семеен чат на някого.

3:15 Бета версията изисква macOS 27 или по-нова. Apple изброява безплатна регистрация за изтегляне. Това помага за проектирането на пропуски; издаването и разпространението им се нуждае от собствен работен процес.

Защо уебсайт не може перфектно да локализира VPN потребител?

3:24 След това е Юта, където законодателите искаха обхванатите уебсайтове за възрастни да идентифицират истинското местоположение на VPN потребители или да ги блокират. Федерален съдия временно блокира оспорваните VPN разпоредби. Electronic Frontier Foundation цитира съда, казвайки, че географското местоположение съвършенство в момента не е възможно. Оказва се, че мрежовият стек все още отказва да приложи функции само защото едно законодателство е отворило заявка. Уебсайт вижда адреса на VPN сървъра.

3:49 Това не установява къде седи човекът. Третирането на всяко скрито местоположение като потенциално Юта изтласква изискването далеч извън границите на щата. EFF цитира мотивите на съдията, че Aylo ще трябва да провери двадесет и осем милиона потребители, за да гарантира съответствие. Това е цената на изискването за съвършенство от сигнал, който не може да го достави. Това е предварителна заповед.

4:08 Отделното ограничение за споделяне на VPN информация не беше оспорено. Правната разлика все още има редове за преглед. Всичките три истории се въртят около границите. Редактор на пропуски може да провери поле. Уебсайт вижда изходен адрес. Агент получава какъвто и да е достъп, който околната система всъщност предоставя. И човекът от началото е този, който ви е изпратил съобщението.

Кой е изложен, без да щракне „Разрешаване“?

4:27 Apple изрично предупреждава и за тяхната поверителност. Вашето разрешение може да разкрие разговор, съдържащ данни на някой друг, и те никога не са щраквали върху вашия бутон „Разрешаване“. Заглавието на Slashdot го нарича „повишен риск“. Този по-широк кръг е причината да ми пука. Екранът за разрешение трябва да обясни какво ще получи асистентът. Ако предпочитате да прочетете това, вместо да ме чуете да го казвам, разликата пристига във входящата ви поща всяка сутрин, безплатно на daily diff dot dev, линк по-долу.

4:49 Така че днешната присъда, NEEDS REVIEW.

Каква е моята присъда за предложените контроли на Apple?

4:51 Искам по-ясно съгласие и по-тесен достъп, с запазени легитимни работни процеси. Внедряването на Apple ще реши дали ще го достави. Абонирайте се, натиснете камбанката и ми кажете в коментарите дали бихте го подпечатали по различен начин. И това е разликата за днес. Аз съм Нико от Axrisi. Сливайте отговорно.

Източници

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com