+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple притормаживает работу ИИ-агентов

Apple планирует ввести дополнительные элементы управления доступом к полному диску macOS, поскольку автономные ИИ-агенты увеличивают риски широкого доступа к данным.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple планирует ввести дополнительные элементы управления доступом к полному диску macOS, поскольку автономные ИИ-агенты увеличивают риски широкого доступа к данным. Мы рассмотрим текущее разрешение, спорный случай с сообщениями Muse от Meta и исторические данные о безопасности агентов, затем обсудим Pass Designer и правила Юты в отношении местоположения VPN. Вердикт: NEEDS REVIEW.

Читать письменное издание (на английском) ↗

Что освещается в этом видео

  • Почему одно разрешение Mac внезапно стало большим риском?
  • Что на самом деле открывает Full Disk Access?
  • Почему автономные агенты меняют ставки?
  • Что разработчики могут ограничить до выпуска Apple?
  • Что на самом деле делает новый редактор пропусков от Apple?

Вопросы и ответы

Что приложение может прочитать, когда вы предоставляете ему полный доступ к диску на Mac?

Полный доступ к диску охватывает защищенные данные, такие как данные Почты, Сообщений и Safari, а также резервные копии Time Machine, чтобы приложение для резервного копирования могло работать. Apple заявляет, что этот доступ в значительной степени обходит другие элементы управления конфиденциальностью. Вы предоставляете его через Системные настройки, и разрешение уже существует. Анонс Apple обещает дополнительные элементы управления, связанные с этим разрешением.

Смотреть этот раздел 0:40 · developer.apple.com · support.apple.com

Почему автономные ИИ-агенты делают широкий доступ к файлам более рискованным, чем приложение для резервного копирования?

Программа резервного копирования копирует ваши файлы, в то время как агент интерпретирует то, что он читает, и может вызывать инструменты для воздействия на это, поэтому большая автономность делает последствия широкого доступа более труднопредсказуемыми. Электронное письмо или веб-страница могут содержать инструкции, которые пытаются перенаправить помощника, что называется инъекцией подсказок. Apple заявляет, что все более автономные агенты делают полный доступ к диску существенно более рискованным.

Смотреть этот раздел 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Насколько ограничение инструментов ИИ-агента может уменьшить атаки с инъекцией подсказок?

В бенчмарке AgentDojo, состоящем из девяноста семи задач и шестисот двадцати девяти случаев безопасности, одна конфигурация GPT-4o была успешно атакована примерно в сорока восьми процентах случаев. Фильтрация доступных инструментов снизила этот показатель примерно до семи процентов. Это исторические лабораторные результаты от 2024 года, поэтому они показывают урок дизайна, а не то, как будут работать элементы управления Apple.

Смотреть этот раздел 2:21 · arxiv.org · agentdojo.spylab.ai

Почему федеральный судья заблокировал правила Юты о местоположении VPN?

Судья предварительно заблокировал оспариваемые положения о VPN. Фонд электронных рубежей цитирует суд, заявляющий, что "совершенство геолокации в настоящее время невозможно". Веб-сайт видит адрес VPN-сервера, который не устанавливает, где находится человек. Приказ является предварительным, и отдельное ограничение на обмен информацией о VPN не оспаривалось.

Смотреть этот раздел 3:24 · www.eff.org

Является ли план Apple по ужесточению контроля над полным доступом к диску хорошей идеей?

Вердикт The Daily Diff был NEEDS REVIEW. Эпизод требует более четкого согласия и более узкого доступа с сохранением законных рабочих процессов, и говорит, что реализация Apple решит, будет ли это достигнуто. Apple не опубликовала никаких диалогов или дат выпуска. Конфиденциальность другого человека также находится под угрозой, потому что ваше разрешение может раскрыть разговор, содержащий его данные.

Смотреть этот раздел 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Переведенная стенограмма

Переведено с оригинального английского повествования. Доступные аудио и субтитры контролируются YouTube.

Почему одно разрешение Mac внезапно стало большим риском?

0:00 Можно подумать, что нажатие «Разрешить» определяет, что может видеть приложение. Apple заявляет, что всё более автономные ИИ-агенты делают Full Disk Access значительно рискованнее, и добавляет элементы управления. В этом видео, что могут читать агенты? Что меняет Apple? Кто ещё подвергается риску? На вашем Mac под угрозой находится конфиденциальность другого человека. Мы вернёмся к ним перед вынесением вердикта.

0:18 Суббота, третье октября, и это The Daily Diff. В пятницу Apple предупредила разработчиков о полном доступе к диску и представила редактор пропусков Wallet. Тем временем федеральный судья приостановил действие правил Юты о местоположении VPN. Репортёр TechCrunch Сара Перес назвала заявление Apple «выстрелами». Цель остаётся неназванной в сообщении Apple, что является впечатляюще корпоративным способом начать спор. Документация Apple включает данные Почты и Сообщений,

Что на самом деле открывает Full Disk Access?

0:42 а также данные Safari. Она также включает резервные копии Time Machine, чтобы ваше приложение для резервного копирования могло работать. Apple заявляет, что это в значительной степени обходит другие элементы управления конфиденциальностью. Вы предоставляете его через Системные настройки, и разрешение уже существует. Объявление обещает дополнительные элементы управления вокруг этого разрешения. В X Хави ответил: «Надеюсь, вам понравятся запросы на разрешение». Это напряжение для разработчиков в шести словах. Автоматизация продолжает просить нас вручную одобрять автоматизацию.

1:06 Однако держите разрешения в порядке. Доступность и Автоматизация имеют отдельные записи в руководстве Apple. Чтение защищённых данных и управление другим приложением — это разные возможности, с разными элементами управления.

Почему автономные агенты меняют ставки?

1:16 Программа резервного копирования копирует ваши файлы. Агент интерпретирует то, что он читает, и может вызывать инструменты для воздействия на это. Большая автономия усложняет прогнозирование последствий широкого доступа. Уже есть спорный пример. Джейсон Атен заявил, что Muse от Meta читала его сообщения без разрешения. Meta заявляет, что для интеграции требуется как полный доступ к диску, так и её коннектор Сообщений. Apple не называет ни Muse, ни дату выпуска. Она говорит, что пользователи должны понимать этот доступ и предоставлять его посредством очень явных

1:42 действий. Фактический интерфейс остаётся отсутствующим скриншотом. Здесь есть более глубокая проблема агента. Электронное письмо или веб-страница могут содержать инструкции, которые пытаются перенаправить помощника. Это внедрение запроса, и агент сталкивается с ним, выполняя полезную работу. Независимые исследователи создали Agent Dojo, с девяноста семью задачами и шестьюста двадцатью девятью случаями безопасности. Он проверяет, перехватывают ли недоверенные данные инструменты агента.

2:04 Это исторические лабораторные результаты от две тысячи двадцать четвёртого года. Будущий диалог Apple не был опубликован, поэтому никто ещё не празднует победу. В одной конфигурации GPT-4o целевая атака удалась примерно в сорока восьми процентах случаев. Фильтрация доступных инструментов снизила этот показатель примерно до семи процентов, с полезным уроком по дизайну.

Что разработчики могут ограничить до выпуска Apple?

2:21 Предоставьте помощнику данные и инструменты, необходимые для задачи. Папка проекта — это меньшая поверхность ввода, чем целая учётная запись. Доступ для чтения также может быть отделён от разрешения на отправку или удаление. Это компромисс в продукте, с которым разработчики уже живут. Утилита терминала или резервного копирования может иметь законную причину для широкого доступа. Неосторожное удаление создало бы очень безопасный, но неработающий рабочий процесс. Так что же меняет Apple? Заявленная цель — более чёткое, явное согласие на исключительный доступ.

2:46 Нам всё ещё нужна реализация, чтобы увидеть, как она сохраняет эти законные использования.

Что на самом деле делает новый редактор пропусков от Apple?

2:50 Apple также представила Pass Designer, визуальный редактор для пропусков Wallet. Вы начинаете с шаблона, вставляете свои изображения и просматриваете пропуск по мере редактирования. Apple заявляет, что предварительный просмотр использует тот же рендеринг, что и iPhone и Apple Watch. Он проверяет поля и может создавать обратно совместимый пропуск из семантических данных. Семантические теги описывают такие вещи, как детали рейса и даты событий. Ваш билет на концерт наконец-то может стать структурированными данными, прежде чем превратиться в размытый скриншот в чьём-то семейном чате.

3:15 Бета-версия требует macOS 27 или новее. Apple указывает бесплатную регистрацию для загрузки. Это помогает разрабатывать пропуски; их выпуск и распространение требуют собственного рабочего процесса.

Почему веб-сайт не может идеально определить местоположение пользователя VPN?

3:24 Затем есть Юта, где законодатели хотели, чтобы веб-сайты для взрослых с ограничениями идентифицировали реальное местоположение пользователей VPN или блокировали их. Федеральный судья предварительно заблокировал оспариваемые положения о VPN. Electronic Frontier Foundation цитирует суд, заявляющий, что «геолокационное совершенство в настоящее время невозможно». Оказывается, сетевой стек по-прежнему отказывается реализовывать функции только потому, что законодательный орган открыл запрос. Веб-сайт видит адрес VPN-сервера.

3:49 Это не устанавливает, где сидит человек. Трактовка каждого скрытого местоположения как потенциально Юты выводит требование далеко за пределы штата. EFF цитирует обоснование судьи, согласно которому Aylo потребуется проверить двадцать восемь миллионов пользователей, чтобы гарантировать соблюдение. Это цена требования совершенства от сигнала, который не может его обеспечить. Это предварительное постановление.

4:08 Отдельное ограничение на обмен информацией о VPN не оспаривалось. Юридический отчёт всё ещё имеет строки, которые необходимо просмотреть. Все три истории касаются границ. Редактор пропуска может проверить поле. Веб-сайт видит исходящий адрес. Агент получает любой доступ, который фактически предоставляет окружающая система. И человек из начала — это тот, кто прислал вам сообщение.

Кто подвергается риску, не нажимая «Разрешить»?

4:27 Apple явно предупреждает и об их конфиденциальности. Ваше разрешение может раскрыть разговор, содержащий данные другого человека, и они никогда не нажимали вашу кнопку «Разрешить». Заголовок Slashdot называет это повышенным риском. Именно этот более широкий круг заботит меня. Экран разрешений должен объяснять, что получит помощник. Если вы предпочитаете читать это, а не слышать, как я это говорю, то отчёт приходит в ваш почтовый ящик каждое утро, бесплатно на the daily diff dot dev, ссылка ниже.

4:49 Итак, сегодняшний вердикт: NEEDS REVIEW.

Каков мой вердикт по предложенным Apple элементам управления?

4:51 Я хочу более ясного согласия и более узкого доступа, с сохранением законных рабочих процессов. Реализация Apple решит, достигнет ли она этого. Подпишитесь, нажмите колокольчик и скажите мне в комментариях, если бы вы поставили другую отметку. И на этом всё на сегодня. Я Нико из Axrisi. Объединяйте ответственно.

Источники

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Похожие видео

daily · ru · 15 нояб. 2026 г.

Конфиденциальность умных очков Google: пути камеры и согласие посторонних

Интеллектуальные очки Google описывают редактирование лиц для запросов Gemini и внешний индикатор для фотографий и видео из галереи. Владелец контролирует доступ к приложениям, в то время как CNN и EF

5:10 ↗