Епл кочи развој АИ агената

Шта овај видео покрива

• Зашто је једна Mac дозвола одједном већи ризик?
• Шта заправо отвара приступ целом диску?
• Зашто аутономни агенти мењају улоге?
• Шта програмери могу да ограниче пре него што Епл испоручи?
• Шта заправо ради нови Еплов уређивач пропусница?

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

Зашто је једна Mac дозвола одједном већи ризик?

0:00 Помислили бисте да клик на „Дозволи“ решава шта апликација може да види. Епл каже да све аутономнији АИ агенти чине приступ целом диску суштински ризичнијим, и додаје контроле. У овом видеу, шта агенти могу да читају? Шта Епл мења? Ко још бива изложен? Приватност неког другог је угрожена на вашем Mac-у. Вратићемо се на њих пре пресуде.

0:18 Субота је, трећи октобар, и ово је The Daily Diff. У петак, Епл је упозорио програмере на приступ целом диску и представио уређивач Пасс-а у Wallet-у. У међувремену, савезни судија је суспендовао јутске правилнике о локацији ВПН-а. Репортерка TechCrunch-а, Сара Перез, назвала је Еплову најаву „испаљеним хицима“. Циљ остаје неименован у Епловом посту, што је импресивно корпоративан начин да се започне расправа. Еплова документација укључује податке из Mail-а и Messages-а,

Шта заправо отвара приступ целом диску?

0:42 плус податке из Safari-ја. Такође укључује Time Machine резервне копије, тако да ваша апликација за резервне копије може да ради. Епл каже да ово у великој мери заобилази друге контроле приватности. Додељујете је кроз Системска подешавања, а дозвола већ постоји. Најава обећава додатне контроле око тог додељивања. На X-у, јави је одговорио: „Надам се да волите промптове за дозволе.“ То је напетост програмера у шест речи. Аутоматизација нас стално тражи да ручно одобримо аутоматизацију.

1:06 Ипак, држите дозволе раздвојене. Приступачност и Аутоматизација имају засебне ставке у Епловом водичу. Читање заштићених података и контрола друге апликације су различите могућности, са различитим контролама.

Зашто аутономни агенти мењају улоге?

1:16 Програм за резервне копије копира ваше датотеке. Агент тумачи оно што прочита и може позвати алате да делују на то. Већа аутономија чини последице широког приступа теже предвидљивим. Већ постоји спорни пример. Џејсон Атен је рекао да је Метин Muse читао његове поруке без дозволе. Мета каже да интеграција захтева и приступ целом диску и њен Messages конектор. Епл не помиње ни Muse ни датум објаве. Каже да корисници треба да разумеју овај приступ и да га одобре веома експлицитном

1:42 акцијом. Стварни интерфејс остаје непознат, без снимка екрана. Овде постоји дубљи проблем са агентима. Е-пошта или веб-страница могу садржати упутства која покушавају да преусмере помоћника. То је prompt injection, и агент се сусреће с тим док обавља користан посао. Независни истраживачи су изградили Agent Dojo, са деведесет седам задатака и шест стотина двадесет девет безбедносних случајева. Тестира да ли непоуздани подаци преузимају алате агента.

2:04 Ово су историјски лабораторијски резултати из 2024. године. Еплов будући дијалог није објављен, тако да нико још не слави победу. У једној GPT-4.0 конфигурацији, циљани напад је успео око четрдесет осам процената времена. Филтрирање доступних алата свело је то на око седам процената, са корисном лекцијом о дизајну.

Шта програмери могу да ограниче пре него што Епл испоручи?

2:21 Дајте асистенту податке и алате који су потребни за задатак. Фасцикла пројекта је мања улазна површина од целог налога. Приступ читању такође се може одвојити од дозволе за слање или брисање. То је компромис производа са којим програмери већ живе. Терминални или резервни програм може имати легитиман разлог за широк приступ. Невремено уклањање створило би врло сигуран, али покварен радни ток. Дакле, шта Епл мења? Наведени циљ је јаснији, експлицитнији пристанак за изванредан приступ.

2:46 Још увек нам је потребна имплементација да видимо како она чува те легитимне употребе.

Шта заправо ради нови Еплов уређивач пропусница?

2:50 Епл је такође представио Pass Designer, визуелни уређивач за Wallet пропуснице. Почињете са шаблоном, уносите своје слике и прегледате пропусницу док је уређујете. Епл каже да преглед користи исто рендеровање као iPhone и Apple Watch. Валидира поља и може да изгради компатибилну пропусницу уназад из семантичких података. Семантичке ознаке описују ствари попут детаља лета и датума догађаја. Ваша концертна карта коначно може постати структурирани податак пре него што постане мутна снимка екрана у породичном групном ћаскању.

3:15 Бета захтева macOS 27 или новији. Епл наводи бесплатну регистрацију за преузимање. Ово помаже у дизајнирању пропусница; издавање и дистрибуција захтевају сопствени радни ток.

Зашто веб-сајт не може савршено да лоцира корисника ВПН-а?

3:24 Затим је ту Јута, где су законодавци желели да покривени веб-сајтови за одрасле идентификују стварну локацију ВПН корисника или да их блокирају. Савезни судија је прелиминарно блокирао оспорене ВПН одредбе. Electronic Frontier Foundation цитира суд који каже да савршенство геолокације тренутно није могуће. Испоставило се да мрежни стек и даље одбија да имплементира функције само зато што је законодавно тело отворило тикет. Веб-сајт види адресу ВПН сервера.

3:49 То не утврђује где особа седи. Третирање сваке скривене локације као потенцијално Јуте гура захтев далеко изван граница државе. EFF цитира образложење судије да би Aylo морао да верификује двадесет осам милиона корисника како би гарантовао усклађеност. То је цена захтевања савршенства од сигнала који то не може да пружи. Ово је прелиминарни налог.

4:08 Одвојено ограничење дељења ВПН информација није оспорено. Правни дифф и даље има линије за преглед. Све три приче се ослањају на границе. Уређивач пропусница може да провери поље. Веб-сајт види излазну адресу. Агент добија сав приступ који околни систем заправо додељује. А особа са почетка је онај ко вам је послао поруку.

Ко бива изложен без клика на „Дозволи“?

4:27 Епл експлицитно упозорава и на њихову приватност. Ваша дозвола може открити разговор који садржи податке неког другог, а они никада нису кликнули на ваше дугме „Дозволи“. Наслов Slashdot-а то назива повећаним ризиком. Тај шири круг је разлог зашто ми је стало. Екран са дозволама мора да објасни шта ће помоћник примити. Ако више волите да ово прочитате него да ме чујете, дифф стиже у ваше поштанско сандуче сваког јутра, бесплатно на thedailydiff.dev, линк испод.

4:49 Дакле, данашња пресуда, ПОТРЕБАН ПРЕГЛЕД.

Каква је моја пресуда о предложеним Епловим контролама?

4:51 Желим јаснији пристанак и ужи приступ, уз очување легитимних радних токова. Еплова имплементација ће одлучити да ли ће то и испоручити. Претплатите се, притисните звоно и реците ми у коментарима да ли бисте то другачије оценили. И то је дифф за данас. Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com