+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple freine les agents IA

Apple prévoit des contrôles d'accès complets au disque supplémentaires pour macOS, car les agents d'IA autonomes augmentent les risques d'accès généralisé aux données.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple prévoit des contrôles d'accès complets au disque supplémentaires pour macOS, car les agents d'IA autonomes augmentent les risques d'accès généralisé aux données. Nous examinons l'autorisation actuelle, le cas controversé des messages Muse de Meta et les preuves historiques de sécurité des agents, puis couvrons Pass Designer et les règles de localisation VPN de l'Utah. Verdict : NEEDS REVIEW.

Lire l'édition écrite (anglais) ↗

Ce que cette vidéo couvre

  • Pourquoi une seule autorisation Mac représente-t-elle soudainement un risque plus important?
  • Que donne réellement l'accès complet au disque?
  • Pourquoi les agents autonomes changent-ils la donne?
  • Que peuvent limiter les développeurs avant qu'Apple n'expédie?
  • Que fait réellement le nouvel éditeur de passes d'Apple?

Questions et réponses

Que peut lire une application lorsque vous lui accordez l'accès complet au disque sur un Mac?

L'accès complet au disque couvre les données protégées telles que les données de Mail, Messages et Safari, ainsi que les sauvegardes Time Machine afin qu'une application de sauvegarde puisse fonctionner. Apple affirme que cet accès contourne largement les autres contrôles de confidentialité. Vous l'accordez via les Réglages Système, et l'autorisation existe déjà. L'annonce d'Apple promet des contrôles supplémentaires concernant cette autorisation.

Surveillez cette partie 0:40 · developer.apple.com · support.apple.com

Pourquoi les agents d'IA autonomes rendent-ils l'accès étendu aux fichiers plus risqué qu'une application de sauvegarde?

Un programme de sauvegarde copie vos fichiers, tandis qu'un agent interprète ce qu'il lit et peut appeler des outils pour agir en conséquence, donc plus d'autonomie rend les conséquences d'un accès étendu plus difficiles à prévoir. Un courriel ou une page web peut contenir des instructions qui tentent de rediriger l'assistant, ce qui est appelé injection de prompt. Apple affirme que des agents de plus en plus autonomes rendent l'accès complet au disque beaucoup plus risqué.

Surveillez cette partie 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Dans quelle mesure la limitation des outils d'un agent d'IA peut-elle réduire les attaques par injection de prompt?

Dans le benchmark AgentDojo, avec quatre-vingt-dix-sept tâches et six cent vingt-neuf cas de sécurité, une configuration GPT four oh a été attaquée avec succès environ quarante-huit pour cent du temps. Le filtrage des outils disponibles a ramené ce chiffre à environ sept pour cent. Ce sont des résultats de laboratoire historiques de deux mille vingt-quatre, ils montrent donc une leçon de conception plutôt que la performance des contrôles d'Apple.

Surveillez cette partie 2:21 · arxiv.org · agentdojo.spylab.ai

Pourquoi un juge fédéral a-t-il bloqué les règles de localisation VPN de l'Utah?

Le juge a provisoirement bloqué les dispositions VPN contestées. L'Electronic Frontier Foundation cite le tribunal qui a déclaré que la perfection de la géolocalisation n'est pas actuellement possible. Un site web voit l'adresse du serveur VPN, ce qui n'établit pas où se trouve la personne. L'ordonnance est provisoire, et la restriction distincte sur le partage d'informations VPN n'a pas été contestée.

Surveillez cette partie 3:24 · www.eff.org

Le plan d'Apple pour des contrôles plus stricts de l'accès complet au disque est-il une bonne idée?

Le verdict de The Daily Diff était NEEDS REVIEW. L'épisode souhaite un consentement plus clair et un accès plus restreint avec des flux de travail légitimes préservés, et dit que l'implémentation d'Apple décidera si cela sera réalisé. Apple n'a publié aucun dialogue ni date de déploiement. La vie privée d'une autre personne est également en jeu, car votre permission peut exposer une conversation contenant ses données.

Surveillez cette partie 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont contrôlés par YouTube.

Pourquoi une seule autorisation Mac représente-t-elle soudainement un risque plus important?

0:00 On pourrait penser que cliquer sur Autoriser règle ce qu'une application peut voir. Apple affirme que les agents d'IA de plus en plus autonomes rendent l'accès complet au disque substantiellement plus risqué, et elle ajoute des contrôles. Dans cette vidéo, que peuvent lire les agents? Qu'est-ce qu'Apple change? Qui d'autre est exposé? La vie privée de quelqu'un d'autre est en jeu sur votre Mac. Nous y reviendrons avant le verdict.

0:18 Nous sommes le samedi 3 octobre, et c'est The Daily Diff. Vendredi, Apple a averti les développeurs concernant l'accès complet au disque et a introduit un éditeur de passes Wallet. Pendant ce temps, un juge fédéral a suspendu les règles de localisation VPN de l'Utah. Sarah Perez, journaliste chez TechCrunch, a qualifié l'annonce d'Apple de coup de feu. La cible reste anonyme dans le message d'Apple, ce qui est une manière impressionnante et corporative de lancer une dispute. La documentation d'Apple inclut les données de Mail et de Messages,

Que donne réellement l'accès complet au disque?

0:42 ainsi que les données Safari. Elle inclut également les sauvegardes Time Machine, afin que votre application de sauvegarde puisse fonctionner. Apple affirme que cela contourne largement les autres contrôles de confidentialité. Vous l'accordez via les réglages système, et l'autorisation existe déjà. L'annonce promet des contrôles supplémentaires autour de cette autorisation. Sur X, javi a répondu : « J'espère que vous aimez les invites d'autorisation. » C'est la tension des développeurs en six mots. L'automatisation nous demande toujours d'approuver manuellement l'automatisation.

1:06 Gardez les autorisations claires, cependant. L'accessibilité et l'automatisation ont des entrées distinctes dans le guide d'Apple. La lecture de données protégées et le contrôle d'une autre application sont des capacités différentes, avec des contrôles différents.

Pourquoi les agents autonomes changent-ils la donne?

1:16 Un programme de sauvegarde copie vos fichiers. Un agent interprète ce qu'il lit et peut appeler des outils pour agir dessus. Une plus grande autonomie rend les conséquences d'un accès étendu plus difficiles à prédire. Il y a déjà un exemple contesté. Jason Aten a déclaré que Muse de Meta avait lu ses messages sans autorisation. Meta affirme que l'intégration nécessite à la fois un accès complet au disque et son connecteur de messages. Apple ne nomme ni Muse ni une date de déploiement. Elle déclare que les utilisateurs doivent comprendre cet accès et l'accorder par une action très explicite.

1:42 L'interface réelle reste une capture d'écran manquante. Il y a un problème d'agent plus profond ici. Un courriel ou une page web peut contenir des instructions qui tentent de rediriger l'assistant. C'est l'injection d'invite, et l'agent la rencontre en faisant un travail utile. Des chercheurs indépendants ont construit Agent Dojo, avec quatre-vingt-dix-sept tâches et six cent vingt-neuf cas de sécurité. Il teste si des données non fiables prennent le contrôle des outils d'un agent.

2:04 Ce sont des résultats de laboratoire historiques de 2024. La future boîte de dialogue d'Apple n'a pas été publiée, donc personne n'a encore gagné son tour de victoire. Dans une configuration GPT-4.0, l'attaque ciblée a réussi environ quarante-huit pour cent du temps. Le filtrage des outils disponibles a réduit ce chiffre à environ sept pour cent, avec une leçon de conception utile.

Que peuvent limiter les développeurs avant qu'Apple n'expédie?

2:21 Donnez à un assistant les données et les outils dont la tâche a besoin. Un dossier de projet est une surface d'entrée plus petite qu'un compte entier. L'accès en lecture peut également être séparé de l'autorisation d'envoyer ou de supprimer. C'est un compromis de produit avec lequel les développeurs vivent déjà. Un terminal ou un utilitaire de sauvegarde peut avoir une raison légitime d'avoir un accès étendu. Le supprimer sans précaution créerait un flux de travail cassé très sécurisé. Alors, qu'est-ce qu'Apple change? L'objectif déclaré est un consentement plus clair et plus explicite pour un accès extraordinaire.

2:46 Nous attendons toujours l'implémentation pour voir comment elle préservera ces usages légitimes.

Que fait réellement le nouvel éditeur de passes d'Apple?

2:50 Apple a également introduit Pass Designer, un éditeur visuel pour les passes Wallet. Vous commencez avec un modèle, importez vos images et prévisualisez la passe au fur et à mesure que vous la modifiez. Apple affirme que l'aperçu utilise le même rendu que l'iPhone et l'Apple Watch. Il valide les champs et peut construire une passe rétrocompatible à partir de données sémantiques. Les balises sémantiques décrivent des choses comme les détails de vol et les dates d'événements. Votre billet de concert peut enfin devenir des données structurées avant de devenir une capture d'écran floue dans le groupe de discussion familial de quelqu'un.

3:15 La version bêta nécessite macOS 27 ou une version ultérieure. Apple propose une inscription gratuite pour le téléchargement. Cela aide à concevoir des passes; l'émission et la distribution nécessitent leur propre flux de travail.

Pourquoi un site web ne peut-il pas localiser parfaitement un utilisateur de VPN?

3:24 Ensuite, il y a l'Utah, où les législateurs voulaient que les sites web pour adultes identifient la véritable localisation des utilisateurs de VPN ou les bloquent. Un juge fédéral a provisoirement bloqué les dispositions contestées concernant les VPN. L'Electronic Frontier Foundation cite le tribunal qui déclare que la perfection de la géolocalisation n'est actuellement pas possible. Il s'avère que la pile réseau refuse toujours d'implémenter des fonctionnalités simplement parce qu'un législateur a ouvert un ticket. Un site web voit l'adresse du serveur VPN.

3:49 Cela n'établit pas où la personne est assise. Traiter chaque emplacement caché comme potentiellement l'Utah pousse l'exigence bien au-delà des frontières de l'État. L'EFF cite le raisonnement du juge selon lequel Aylo devrait vérifier 28 millions d'utilisateurs pour garantir la conformité. C'est le coût d'exiger la perfection d'un signal qui ne peut pas la fournir. Ceci est une ordonnance préliminaire.

4:08 La restriction distincte sur le partage d'informations VPN n'a pas été contestée. Le diff juridique a encore des lignes à examiner. Les trois histoires tournent autour des frontières. Un éditeur de passe peut vérifier un champ. Un site web voit une adresse de sortie. Un agent obtient tout l'accès que le système environnant lui accorde réellement. Et la personne du début est celle qui vous a envoyé le message.

Qui est exposé sans cliquer sur Autoriser?

4:27 Apple met également en garde explicitement sur leur vie privée. Votre permission peut exposer une conversation contenant les données de quelqu'un d'autre, et ils n'ont jamais cliqué sur votre bouton Autoriser. Le titre de Slashdot l'appelle « risque accru ». Ce cercle plus large est la raison pour laquelle je me soucie. L'écran d'autorisation doit expliquer ce que l'assistant recevra. Si vous préférez lire ceci plutôt que de m'entendre le dire, le diff arrive dans votre boîte de réception tous les matins, gratuitement sur the dailydiff.dev, lien ci-dessous.

4:49 Alors, le verdict d'aujourd'hui : NEEDS REVIEW.

Quel est mon verdict sur les contrôles proposés par Apple?

4:51 Je veux un consentement plus clair et un accès plus étroit, avec des flux de travail légitimes préservés. L'implémentation d'Apple décidera si cela est livré. Abonnez-vous, activez la cloche et dites-moi dans les commentaires si vous l'auriez estampillé différemment. Et c'est le diff pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Vidéos similaires