+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple freine les Agents IA

Apple prévoit des contrôles supplémentaires pour l'accès complet au disque de macOS, car les agents IA autonomes augmentent les risques d'un large accès aux données.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple prévoit des contrôles supplémentaires pour l'accès complet au disque de macOS, car les agents IA autonomes augmentent les risques d'un large accès aux données. Nous examinons l'autorisation actuelle, le cas controversé des messages Muse de Meta et les preuves historiques de sécurité des agents, puis nous abordons Pass Designer et les règles de localisation VPN de l'Utah. Verdict : NEEDS REVIEW.

Lire l'édition écrite (anglais) ↗

Ce que couvre cette vidéo

  • Pourquoi une autorisation Mac représente-t-elle soudainement un risque accru ?
  • Que donne réellement l'accès complet au disque ?
  • Pourquoi les agents autonomes changent-ils la donne ?
  • Que peuvent limiter les développeurs avant qu'Apple ne livre ?
  • Que fait réellement le nouvel éditeur de passe d'Apple ?

Questions et réponses

Qu'est-ce qu'une application peut lire lorsque vous lui accordez un Accès complet au disque sur un Mac?

L'Accès complet au disque couvre les données protégées telles que les données de Mail, Messages et Safari, ainsi que les sauvegardes Time Machine afin qu'une application de sauvegarde puisse fonctionner. Apple affirme que cet accès contourne largement les autres contrôles de confidentialité. Vous l'accordez via les Réglages Système, et l'autorisation existe déjà. L'annonce d'Apple promet des contrôles supplémentaires autour de cette autorisation.

Regardez cette partie 0:40 · developer.apple.com · support.apple.com

Pourquoi les agents d'IA autonomes rendent-ils l'accès étendu aux fichiers plus risqué qu'une application de sauvegarde?

Un programme de sauvegarde copie vos fichiers, tandis qu'un agent interprète ce qu'il lit et peut appeler des outils pour agir en conséquence, donc plus d'autonomie rend les conséquences d'un accès étendu plus difficiles à prédire. Un e-mail ou une page web peut contenir des instructions qui tentent de rediriger l'assistant, ce qu'on appelle l'injection d'invite. Apple affirme que des agents de plus en plus autonomes rendent l'Accès complet au disque substantiellement plus risqué.

Regardez cette partie 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Dans quelle mesure la limitation des outils d'un agent d'IA peut-elle réduire les attaques par injection d'invite?

Dans le benchmark AgentDojo, avec quatre-vingt-dix-sept tâches et six cent vingt-neuf cas de sécurité, une configuration GPT four oh a été attaquée avec succès environ quarante-huit pour cent du temps. Le filtrage des outils disponibles a ramené ce chiffre à environ sept pour cent. Ce sont des résultats de laboratoire historiques de deux mille vingt-quatre, ils montrent donc une leçon de conception plutôt que la performance des contrôles d'Apple.

Regardez cette partie 2:21 · arxiv.org · agentdojo.spylab.ai

Pourquoi un juge fédéral a-t-il bloqué les règles de localisation VPN de l'Utah?

Le juge a provisoirement bloqué les dispositions VPN contestées. L'Electronic Frontier Foundation cite la cour affirmant que la perfection de la géolocalisation n'est pas actuellement possible. Un site web voit l'adresse du serveur VPN, ce qui n'établit pas où se trouve la personne. L'ordonnance est provisoire, et la restriction distincte sur le partage d'informations VPN n'a pas été contestée.

Regardez cette partie 3:24 · www.eff.org

Le plan d'Apple pour des contrôles d'accès complet au disque plus stricts est-il une bonne idée?

Le verdict de The Daily Diff était NEEDS REVIEW. L'épisode souhaite un consentement plus clair et un accès plus restreint avec des flux de travail légitimes préservés, et dit que l'implémentation d'Apple décidera si cela est réalisé. Apple n'a publié aucun dialogue ni date de déploiement. La vie privée d'une autre personne est également en jeu, car votre permission peut exposer une conversation contenant ses données.

Regardez cette partie 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont gérés par YouTube.

Pourquoi une autorisation Mac représente-t-elle soudainement un risque accru ?

0:00 On pourrait penser que cliquer sur Autoriser règle ce qu'une application peut voir. Apple affirme que les agents IA de plus en plus autonomes rendent l'accès complet au disque substantiellement plus risqué, et ajoute des contrôles. Dans cette vidéo, que peuvent lire les agents ? Qu'est-ce qu'Apple change ? Qui d'autre est exposé ? La confidentialité de quelqu'un d'autre est en jeu sur votre Mac. Nous y reviendrons avant le verdict.

0:18 Nous sommes le samedi 3 octobre, et ceci est The Daily Diff. Vendredi, Apple a averti les développeurs concernant l'accès complet au disque et a introduit un éditeur de passe Wallet. Pendant ce temps, un juge fédéral a suspendu les règles de localisation VPN de l'Utah. Sarah Perez, journaliste chez TechCrunch, a qualifié l'annonce d'Apple de tirs. La cible reste anonyme dans la publication d'Apple, ce qui est une façon impressionnante et corporative de commencer une dispute. La documentation d'Apple inclut les données de Mail et de Messages,

Que donne réellement l'accès complet au disque ?

0:42 plus les données de Safari. Elle inclut également les sauvegardes Time Machine, afin que votre application de sauvegarde puisse fonctionner. Apple affirme que cela contourne en grande partie les autres contrôles de confidentialité. Vous l'accordez via les Réglages Système, et l'autorisation existe déjà. L'annonce promet des contrôles supplémentaires autour de cet accord. Sur X, javi a répondu : J'espère que vous aimez les invites d'autorisation. C'est la tension des développeurs en six mots. L'automatisation nous demande sans cesse d'approuver manuellement l'automatisation.

1:06 Gardez cependant les autorisations claires. L'accessibilité et l'automatisation ont des entrées distinctes dans le guide d'Apple. Lire des données protégées et contrôler une autre application sont des capacités différentes, avec des contrôles différents.

Pourquoi les agents autonomes changent-ils la donne ?

1:16 Un programme de sauvegarde copie vos fichiers. Un agent interprète ce qu'il lit et peut appeler des outils pour agir en conséquence. Plus d'autonomie rend les conséquences d'un accès large plus difficiles à prédire. Il existe déjà un exemple contesté. Jason Aten a déclaré que Muse de Meta avait lu ses messages sans autorisation. Meta affirme que l'intégration nécessite à la fois un accès complet au disque et son connecteur de Messages. Apple ne nomme ni Muse ni une date de déploiement. Elle déclare que les utilisateurs doivent comprendre cet accès et l'accorder par une action très explicite.

1:42 L'interface réelle reste une capture d'écran manquante. Il y a ici un problème d'agent plus profond. Un e-mail ou une page web peut contenir des instructions qui tentent de rediriger l'assistant. C'est une injection de prompt, et l'agent la rencontre en effectuant un travail utile. Des chercheurs indépendants ont construit Agent Dojo, avec quatre-vingt-dix-sept tâches et six cent vingt-neuf cas de sécurité. Il teste si des données non fiables prennent le contrôle des outils d'un agent.

2:04 Ce sont des résultats de laboratoire historiques de 2024. La future boîte de dialogue d'Apple n'a pas été publiée, donc personne n'a encore le droit de se réjouir. Dans une configuration GPT-4.0, l'attaque ciblée a réussi environ quarante-huit pour cent du temps. Le filtrage des outils disponibles a ramené cela à environ sept pour cent, avec une leçon de conception utile.

Que peuvent limiter les développeurs avant qu'Apple ne livre ?

2:21 Donnez à un assistant les données et les outils dont la tâche a besoin. Un dossier de projet est une surface d'entrée plus petite qu'un compte entier. L'accès en lecture peut également être séparé de l'autorisation d'envoyer ou de supprimer. C'est un compromis de produit avec lequel les développeurs vivent déjà. Un utilitaire de terminal ou de sauvegarde peut avoir une raison légitime d'avoir un accès large. Le supprimer imprudemment créerait un flux de travail cassé et très sécurisé. Alors, qu'est-ce qu'Apple change ? L'objectif déclaré est un consentement plus clair et plus explicite pour un accès extraordinaire.

2:46 Nous avons encore besoin de l'implémentation pour voir comment elle préserve ces usages légitimes.

Que fait réellement le nouvel éditeur de passe d'Apple ?

2:50 Apple a également introduit Pass Designer, un éditeur visuel pour les passes Wallet. Vous commencez avec un modèle, importez vos images et prévisualisez la passe pendant que vous modifiez. Apple affirme que l'aperçu utilise le même rendu que l'iPhone et l'Apple Watch. Il valide les champs et peut construire une passe rétrocompatible à partir de données sémantiques. Les balises sémantiques décrivent des éléments tels que les détails de vol et les dates d'événements. Votre billet de concert peut enfin devenir des données structurées avant de devenir une capture d'écran floue dans le chat de groupe familial de quelqu'un.

3:15 La version bêta nécessite macOS 27 ou ultérieur. Apple répertorie l'inscription gratuite pour le téléchargement. Cela aide à concevoir des passes ; l'émission et la distribution nécessitent leur propre flux de travail.

Pourquoi un site web ne peut-il pas localiser parfaitement un utilisateur VPN ?

3:24 Ensuite, il y a l'Utah, où les législateurs voulaient que les sites web pour adultes couverts identifient la localisation réelle des utilisateurs VPN ou les bloquent. Un juge fédéral a provisoirement bloqué les dispositions VPN contestées. L'Electronic Frontier Foundation cite la cour déclarant que la perfection de la géolocalisation n'est pas actuellement possible. Il s'avère que la pile réseau refuse toujours d'implémenter des fonctionnalités simplement parce qu'une législature a ouvert un ticket. Un site web voit l'adresse du serveur VPN.

3:49 Cela n'établit pas où la personne est assise. Traiter chaque emplacement caché comme potentiellement l'Utah pousse l'exigence bien au-delà des frontières de l'État. L'EFF cite le raisonnement du juge selon lequel Aylo aurait besoin de vérifier vingt-huit millions d'utilisateurs pour garantir la conformité. C'est le coût d'exiger la perfection d'un signal qui ne peut pas la fournir. Ceci est une ordonnance préliminaire.

4:08 La restriction distincte sur le partage d'informations VPN n'a pas été contestée. La différence juridique a encore des lignes à revoir. Les trois histoires reposent sur des limites. Un éditeur de passe peut vérifier un champ. Un site web voit une adresse de sortie. Un agent obtient l'accès que le système environnant lui accorde réellement. Et la personne du début est celle qui vous a envoyé le message.

Qui est exposé sans cliquer sur Autoriser ?

4:27 Apple met également explicitement en garde contre leur vie privée. Votre autorisation peut exposer une conversation contenant les données de quelqu'un d'autre, et ils n'ont jamais cliqué sur votre bouton Autoriser. Le titre de Slashdot l'appelle un risque accru. Ce cercle plus large est la raison pour laquelle je m'en soucie. L'écran d'autorisation doit expliquer ce que l'assistant recevra. Si vous préférez lire ceci plutôt que de m'entendre le dire, le diff arrive dans votre boîte de réception chaque matin, gratuitement sur thedailydiff.dev, lien ci-dessous.

4:49 Donc le verdict d'aujourd'hui, NEEDS REVIEW.

Quel est mon verdict sur les contrôles proposés par Apple ?

4:51 Je veux un consentement plus clair et un accès plus étroit, avec des flux de travail légitimes préservés. L'implémentation d'Apple décidera si elle tient ses promesses. Abonnez-vous, appuyez sur la cloche et dites-moi dans les commentaires si vous l'auriez estampillé différemment. Et c'est la différence pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Vidéos similaires