Apple ги кочи AI агентите

Што покрива ова видео

• Зошто една Mac дозвола одеднаш е поголем ризик?
• Што всушност отвора Full Disk Access?
• Зошто автономните агенти ги менуваат влоговите?
• Што можат програмерите да ограничат пред Apple да испорача?
• Што всушност прави новиот уредувач на пропусници на Apple?

Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

Зошто една Mac дозвола одеднаш е поголем ризик?

0:00 Би помислиле дека кликнувањето на Дозволи одлучува што може да види апликацијата. Apple вели дека сè поавтономните AI агенти го прават целосниот пристап до дискот значително поризичен и додава контроли. Во ова видео, што можат да читаат агентите? Што менува Apple? Кој друг е изложен? Приватноста на некој друг е загрозена на вашиот Mac. Ќе се вратиме на нив пред пресудата.

0:18 Сабота е, трети октомври, а ова е The Daily Diff. Во петокот, Apple ги предупреди програмерите за целосен пристап до дискот и претстави уредувач на пропусници за Wallet. Во меѓувреме, федерален судија ги стави правилата за локација на VPN во Јута во мирување. Новинарката на TechCrunch, Сара Перез, ја нарече најавата на Apple како истрели. Целта останува неименувана во објавата на Apple, што е импресивно корпоративен начин да се започне расправија. Документацијата на Apple вклучува податоци од Mail и Messages,

Што всушност отвора Full Disk Access?

0:42 плус податоци од Safari. Вклучува и резервни копии од Time Machine, така што вашата апликација за резервни копии може да работи. Apple вели дека ова во голема мера ги избегнува другите контроли за приватност. Го одобрувате преку Системски поставки, а дозволата веќе постои. Најавата ветува дополнителни контроли околу таа дозвола. На X, javi одговори: Се надевам дека ви се допаѓаат барањата за дозволи. Тоа е тензијата кај програмерите во шест збора. Автоматизацијата продолжува да бара од нас рачно да ја одобриме автоматизацијата.

1:06 Сепак, држете ги дозволите јасни. Пристапноста и автоматизацијата имаат посебни записи во водичот на Apple. Читањето заштитени податоци и контролирањето на друга апликација се различни можности, со различни контроли.

Зошто автономните агенти ги менуваат влоговите?

1:16 Програма за резервна копија ги копира вашите датотеки. Агент толкува што чита и може да повика алатки за да дејствува на тоа. Поголемата автономија ги прави последиците од широкиот пристап потешко да се предвидат. Веќе постои спорен пример. Џејсон Атен рече дека Muse на Мета ги читала неговите пораки без дозвола. Мета вели дека интеграцијата бара и целосен пристап до дискот и нејзиниот Messages конектор. Apple не ги именува ниту Muse, ниту датум на издавање. Се вели дека корисниците треба да го разберат овој пристап и да го одобрат преку многу експлицитна

1:42 акција. Вистинскиот интерфејс останува скриншот кој недостасува. Тука постои подлабок проблем со агентот. Е-пошта или веб-страница може да содржи инструкции кои се обидуваат да го пренасочат асистентот. Тоа е инјекција на барање, а агентот ја среќава додека врши корисна работа. Независни истражувачи го изградија Agent Dojo, со деведесет и седум задачи и шестстотини дваесет и девет безбедносни случаи. Тестира дали недоверливите податоци ги преземаат алатките на агентот.

2:04 Ова се историски лабораториски резултати од две илјади дваесет и четврта година. Идниот дијалог на Apple не е објавен, така што никој сè уште не добива победнички круг. Во една конфигурација на GPT four oh, насочениот напад успеа околу четириесет и осум проценти од времето. Филтрирањето на достапните алатки го доведе тоа на околу седум проценти, со корисна лекција за дизајн.

Што можат програмерите да ограничат пред Apple да испорача?

2:21 Дајте му на асистентот податоците и алатките што му се потребни на задачата. Папка со проект е помала влезна површина од цела сметка. Пристапот за читање може да се одвои и од дозволата за испраќање или бришење. Тоа е компромис во производот со кој програмерите веќе живеат. Терминал или алатка за резервна копија може да има легитимна причина за широк пристап. Невнимателното отстранување би создало многу безбеден, но скршен работен тек. Значи, што менува Apple? Наведената цел е појасна, поексплицитна согласност за извонреден пристап.

2:46 Сè уште ни треба имплементација за да видиме како ги зачувува тие легитимни употреби.

Што всушност прави новиот уредувач на пропусници на Apple?

2:50 Apple, исто така, го претстави Pass Designer, визуелен уредувач за Wallet пропусници. Започнувате со шаблон, ги внесувате вашите слики и ја прегледувате пропусницата додека ја уредувате. Apple вели дека прегледот го користи истото рендерирање како iPhone и Apple Watch. Ги валидира полињата и може да изгради компатибилна пропусница наназад од семантички податоци. Семантичките ознаки опишуваат работи како детали за летот и датуми на настани. Вашата концертна карта конечно може да стане структурирани податоци пред да стане заматена слика на екран во групен разговор на нечие семејство.

3:15 Бета верзијата бара macOS дваесет и седум или понова. Apple наведува бесплатна регистрација за преземање. Ова помага во дизајнирањето пропусници; нивното издавање и дистрибуција имаат потреба од сопствен работен тек.

Зошто веб-страницата не може совршено да го лоцира корисникот на VPN?

3:24 Потоа тука е Јута, каде што законодавците сакаа веб-страниците за возрасни да ја идентификуваат вистинската локација на корисниците на VPN или да ги блокираат. Федерален судија прелиминарно ги блокираше оспорените одредби за VPN. Electronic Frontier Foundation го цитира судот кој вели дека географската локација совршенство не е моментално можно. Излегува дека мрежниот стек сè уште одбива да имплементира функции само затоа што законодавството отворило билет. Веб-страницата ја гледа адресата на VPN серверот.

3:49 Тоа не одредува каде седи лицето. Третирањето на секоја скриена локација како потенцијално Јута го турка барањето далеку надвор од границите на државата. EFF го цитира расудувањето на судијата дека Aylo ќе треба да верификува дваесет и осум милиони корисници за да гарантира усогласеност. Тоа е цената на барањето совршенство од сигнал кој не може да го обезбеди. Ова е прелиминарна наредба.

4:08 Посебната рестрикција за споделување VPN информации не беше оспорена. Правната разлика сè уште има линии за преглед. Сите три приказни се однесуваат на граници. Уредувач на пропусници може да провери поле. Веб-страницата гледа излезна адреса. Агентот добива каков било пристап што го доделува околниот систем. А личноста од почетокот е оној што ви ја испратил пораката.

Кој е изложен без да кликне Дозволи?

4:27 Apple експлицитно предупредува и за нивната приватност. Вашата дозвола може да изложи разговор што содржи податоци од некој друг, а тие никогаш не кликнале на вашето копче Дозволи. Насловот на Slashdot го нарекува зголемен ризик. Тој поширок круг е причината зошто ми е грижа. Екранот за дозволи треба да објасни што ќе добие асистентот. Ако претпочитате да го прочитате ова наместо да ме слушате како го кажувам, разликата слетува во вашето сандаче секое утро, бесплатно на the daily diff dot dev, линк подолу.

4:49 Значи, денешната пресуда, NEEDS REVIEW.

Каква е мојата пресуда за предложените контроли на Apple?

4:51 Сакам појасна согласност и потесен пристап, со зачувани легитимни работни текови. Имплементацијата на Apple ќе одлучи дали ќе го испорача. Претплатете се, притиснете го ѕвончето и кажете ми во коментарите дали би го означиле поинаку. И тоа е разликата за денес. Јас сум Нико од Axrisi. Спојувајте одговорно.

Извори

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com