Apple freia agentes de IA
A Apple planeja controles extras de Acesso Total ao Disco no macOS porque agentes autônomos de IA aumentam os riscos de amplo acesso a dados.
A Apple planeja controles extras de Acesso Total ao Disco no macOS porque agentes autônomos de IA aumentam os riscos de amplo acesso a dados. Examinamos a permissão atual, o caso de mensagens Muse contestadas da Meta e evidências históricas de segurança de agentes, depois cobrimos o Pass Designer e as regras de localização de VPN de Utah. Veredito: NEEDS REVIEW.
Leia a edição escrita (Inglês) ↗
O que este vídeo aborda
- Por que uma permissão do Mac de repente se tornou um risco maior?
- O que o Acesso Total ao Disco realmente abre?
- Por que os agentes autônomos mudam as apostas?
- O que os desenvolvedores podem limitar antes que a Apple lance?
- O que o novo editor de passes da Apple realmente faz?
Perguntas e respostas
O que um aplicativo pode ler quando você concede a ele Acesso Total ao Disco em um Mac?
O Acesso Total ao Disco abrange dados protegidos como Mail, Mensagens e dados do Safari, além de backups do Time Machine para que um aplicativo de backup possa funcionar. A Apple afirma que esse acesso ignora em grande parte outros controles de privacidade. Você o concede através das Configurações do Sistema, e a permissão já existe. O anúncio da Apple promete controles adicionais em torno dessa concessão.
Por que os agentes autônomos de IA tornam o acesso amplo a arquivos mais arriscado do que um aplicativo de backup?
Um programa de backup copia seus arquivos, enquanto um agente interpreta o que lê e pode chamar ferramentas para agir sobre isso, então mais autonomia torna as consequências de um acesso amplo mais difíceis de prever. Um e-mail ou página da web pode conter instruções que tentam redirecionar o assistente, o que é chamado de injeção de prompt. A Apple diz que agentes cada vez mais autônomos tornam o Acesso Total ao Disco substancialmente mais arriscado.
Quanto a limitação das ferramentas de um agente de IA pode reduzir os ataques de injeção de prompt?
No benchmark AgentDojo, com noventa e sete tarefas e seiscentos e vinte e nove casos de segurança, uma configuração GPT quatro oh foi atacada com sucesso cerca de quarenta e oito por cento das vezes. A filtragem das ferramentas disponíveis reduziu isso para cerca de sete por cento. Estes são resultados históricos de laboratório de dois mil e vinte e quatro, então eles mostram uma lição de design em vez de como os controles da Apple se sairão.
Por que um juiz federal bloqueou as regras de localização de VPN de Utah?
O juiz bloqueou preliminarmente as disposições de VPN contestadas. A Electronic Frontier Foundation cita o tribunal dizendo que a perfeição da geolocalização não é atualmente possível. Um site vê o endereço do servidor VPN, o que não estabelece onde a pessoa está sentada. A ordem é preliminar, e a restrição separada no compartilhamento de informações de VPN não foi contestada.
O plano da Apple para controles mais rigorosos de Acesso Total ao Disco é uma boa ideia?
O veredito do The Daily Diff foi NEEDS REVIEW. O episódio deseja consentimento mais claro e acesso mais restrito com fluxos de trabalho legítimos preservados, e diz que a implementação da Apple decidirá se isso será entregue. A Apple não publicou nenhum diálogo ou data de lançamento. A privacidade de outra pessoa também está em jogo, porque sua permissão pode expor uma conversa contendo os dados dela.
Transcrição traduzida
Traduzido da narração original em inglês. Áudio e legendas disponíveis são controlados pelo YouTube.
Por que uma permissão do Mac de repente se tornou um risco maior?
0:00 Você pensaria que clicar em Permitir resolve o que um aplicativo pode ver. A Apple diz que agentes de IA cada vez mais autônomos tornam o Acesso Total ao Disco substancialmente mais arriscado, e está adicionando controles. Neste vídeo, o que os agentes podem ler? O que a Apple está mudando? Quem mais é exposto? A privacidade de outra pessoa está em jogo no seu Mac. Voltaremos a eles antes do veredito.
0:18 É sábado, três de outubro, e este é o The Daily Diff. Na sexta-feira, a Apple alertou os desenvolvedores sobre o acesso total ao disco e introduziu um editor de passes da Carteira. Enquanto isso, um juiz federal suspendeu as regras de localização de VPN de Utah. A repórter da TechCrunch Sarah Perez chamou o anúncio da Apple de tiros disparados. O alvo permanece sem nome na postagem da Apple, o que é uma forma incrivelmente corporativa de começar uma discussão. A documentação da Apple inclui dados de Mail e Mensagens,
O que o Acesso Total ao Disco realmente abre?
0:42 além de dados do Safari. Também inclui backups do Time Machine, para que seu aplicativo de backup possa funcionar. A Apple diz que isso ignora amplamente outros controles de privacidade. Você o concede através de Ajustes do Sistema, e a permissão já existe. O anúncio promete controles adicionais em torno dessa concessão. No X, javi respondeu: Espero que você goste de avisos de permissão. Essa é a tensão do desenvolvedor em seis palavras. A automação continua nos pedindo para aprovar manualmente a automação.
1:06 Mantenha as permissões claras, porém. Acessibilidade e Automação têm entradas separadas no guia da Apple. Ler dados protegidos e controlar outro aplicativo são capacidades diferentes, com controles diferentes.
Por que os agentes autônomos mudam as apostas?
1:16 Um programa de backup copia seus arquivos. Um agente interpreta o que lê e pode chamar ferramentas para agir sobre isso. Mais autonomia torna as consequências de amplo acesso mais difíceis de prever. Já existe um exemplo contestado. Jason Aten disse que o Muse da Meta leu suas mensagens sem permissão. A Meta diz que a integração requer acesso total ao disco e seu conector de Mensagens. A Apple não nomeia Muse nem uma data de lançamento. Ela diz que os usuários devem entender esse acesso e concedê-lo através de uma ação muito explícita.
1:42 A interface real permanece uma captura de tela ausente. Existe um problema de agente mais profundo aqui. Um e-mail ou página da web pode conter instruções que tentam redirecionar o assistente. Isso é injeção de prompt, e o agente a encontra enquanto faz um trabalho útil. Pesquisadores independentes construíram o Agent Dojo, com noventa e sete tarefas e seiscentos e vinte e nove casos de segurança. Ele testa se dados não confiáveis assumem o controle das ferramentas de um agente.
2:04 Estes são resultados de laboratório históricos de 2024. O diálogo futuro da Apple não foi publicado, então ninguém tem uma volta da vitória ainda. Em uma configuração do GPT-4.0, o ataque direcionado teve sucesso cerca de quarenta e oito por cento das vezes. Filtrar as ferramentas disponíveis reduziu isso para cerca de sete por cento, com uma lição de design útil.
O que os desenvolvedores podem limitar antes que a Apple lance?
2:21 Dê ao assistente os dados e as ferramentas que a tarefa precisa. Uma pasta de projeto é uma superfície de entrada menor do que uma conta inteira. O acesso de leitura também pode ser separado da permissão para enviar ou excluir. Essa é uma compensação de produto com a qual os desenvolvedores já convivem. Um terminal ou utilitário de backup pode ter um motivo legítimo para amplo acesso. Removê-lo descuidadamente criaria um fluxo de trabalho quebrado muito seguro. Então, o que a Apple está mudando? O objetivo declarado é um consentimento mais claro e explícito para acesso extraordinário.
2:46 Ainda precisamos da implementação para ver como ela preserva esses usos legítimos.
O que o novo editor de passes da Apple realmente faz?
2:50 A Apple também apresentou o Pass Designer, um editor visual para passes da Carteira. Você começa com um modelo, insere suas imagens e pré-visualiza o passe enquanto edita. A Apple diz que a pré-visualização usa a mesma renderização do iPhone e Apple Watch. Ele valida campos e pode construir um passe compatível com versões anteriores a partir de dados semânticos. Tags semânticas descrevem coisas como detalhes de voo e datas de eventos. Seu ingresso de show pode finalmente se tornar dados estruturados antes de se tornar uma captura de tela borrada no bate-papo em grupo da família de alguém.
3:15 A versão beta requer macOS 27 ou posterior. A Apple lista o registro gratuito para download. Isso ajuda a projetar passes; emiti-los e distribuí-los precisa de seu próprio fluxo de trabalho.
Por que um site não consegue localizar perfeitamente um usuário de VPN?
3:24 Depois, há Utah, onde os legisladores queriam que sites adultos cobertos identificassem a localização real de usuários de VPN ou os bloqueassem. Um juiz federal bloqueou preliminarmente as provisões contestadas de VPN. A Electronic Frontier Foundation cita o tribunal dizendo que a perfeição da geolocalização não é atualmente possível. Acontece que a pilha de rede ainda se recusa a implementar recursos meramente porque uma legislatura abriu um ticket. Um site vê o endereço do servidor VPN.
3:49 Isso não estabelece onde a pessoa está sentada. Tratar cada local oculto como potencialmente Utah empurra a exigência muito além das fronteiras do estado. A EFF cita o raciocínio do juiz de que a Aylo precisaria verificar vinte e oito milhões de usuários para garantir a conformidade. Esse é o custo de exigir perfeição de um sinal que não pode fornecê-la. Esta é uma ordem preliminar.
4:08 A restrição separada ao compartilhamento de informações de VPN não foi contestada. O diff legal ainda tem linhas a serem revisadas. Todas as três histórias giram em torno de limites. Um editor de passes pode verificar um campo. Um site vê um endereço de saída. Um agente obtém o acesso que o sistema circundante realmente concede. E a pessoa da abertura é quem quer que tenha enviado a mensagem.
Quem é exposto sem clicar em Permitir?
4:27 A Apple adverte explicitamente sobre a privacidade deles também. Sua permissão pode expor uma conversa contendo dados de outra pessoa, e eles nunca clicaram no seu botão Permitir. A manchete do Slashdot chama isso de risco aumentado. Esse círculo mais amplo é o motivo pelo qual me importo. A tela de permissão precisa explicar o que o assistente receberá. Se você preferir ler isso a me ouvir dizer, o diff chega na sua caixa de entrada todas as manhãs, gratuitamente em the daily diff dot dev, link abaixo.
4:49 Então, o veredito de hoje, NEEDS REVIEW.
Qual o meu veredito sobre os controles propostos da Apple?
4:51 Quero consentimento mais claro e acesso mais restrito, com fluxos de trabalho legítimos preservados. A implementação da Apple decidirá se ela cumpre. Inscreva-se, ative o sino e me diga nos comentários se você teria carimbado de maneira diferente. E esse é o diff de hoje. Sou Niko da Axrisi. Faça a fusão com responsabilidade.
Fontes
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



