Apple freine les Agents IA

Ce que couvre cette vidéo

• Pourquoi une autorisation Mac représente-t-elle soudainement un risque accru ?
• Que donne réellement l'accès complet au disque ?
• Pourquoi les agents autonomes changent-ils la donne ?
• Que peuvent limiter les développeurs avant qu'Apple ne livre ?
• Que fait réellement le nouvel éditeur de passe d'Apple ?

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont gérés par YouTube.

Pourquoi une autorisation Mac représente-t-elle soudainement un risque accru ?

0:00 On pourrait penser que cliquer sur Autoriser règle ce qu'une application peut voir. Apple affirme que les agents IA de plus en plus autonomes rendent l'accès complet au disque substantiellement plus risqué, et ajoute des contrôles. Dans cette vidéo, que peuvent lire les agents ? Qu'est-ce qu'Apple change ? Qui d'autre est exposé ? La confidentialité de quelqu'un d'autre est en jeu sur votre Mac. Nous y reviendrons avant le verdict.

0:18 Nous sommes le samedi 3 octobre, et ceci est The Daily Diff. Vendredi, Apple a averti les développeurs concernant l'accès complet au disque et a introduit un éditeur de passe Wallet. Pendant ce temps, un juge fédéral a suspendu les règles de localisation VPN de l'Utah. Sarah Perez, journaliste chez TechCrunch, a qualifié l'annonce d'Apple de tirs. La cible reste anonyme dans la publication d'Apple, ce qui est une façon impressionnante et corporative de commencer une dispute. La documentation d'Apple inclut les données de Mail et de Messages,

Que donne réellement l'accès complet au disque ?

0:42 plus les données de Safari. Elle inclut également les sauvegardes Time Machine, afin que votre application de sauvegarde puisse fonctionner. Apple affirme que cela contourne en grande partie les autres contrôles de confidentialité. Vous l'accordez via les Réglages Système, et l'autorisation existe déjà. L'annonce promet des contrôles supplémentaires autour de cet accord. Sur X, javi a répondu : J'espère que vous aimez les invites d'autorisation. C'est la tension des développeurs en six mots. L'automatisation nous demande sans cesse d'approuver manuellement l'automatisation.

1:06 Gardez cependant les autorisations claires. L'accessibilité et l'automatisation ont des entrées distinctes dans le guide d'Apple. Lire des données protégées et contrôler une autre application sont des capacités différentes, avec des contrôles différents.

Pourquoi les agents autonomes changent-ils la donne ?

1:16 Un programme de sauvegarde copie vos fichiers. Un agent interprète ce qu'il lit et peut appeler des outils pour agir en conséquence. Plus d'autonomie rend les conséquences d'un accès large plus difficiles à prédire. Il existe déjà un exemple contesté. Jason Aten a déclaré que Muse de Meta avait lu ses messages sans autorisation. Meta affirme que l'intégration nécessite à la fois un accès complet au disque et son connecteur de Messages. Apple ne nomme ni Muse ni une date de déploiement. Elle déclare que les utilisateurs doivent comprendre cet accès et l'accorder par une action très explicite.

1:42 L'interface réelle reste une capture d'écran manquante. Il y a ici un problème d'agent plus profond. Un e-mail ou une page web peut contenir des instructions qui tentent de rediriger l'assistant. C'est une injection de prompt, et l'agent la rencontre en effectuant un travail utile. Des chercheurs indépendants ont construit Agent Dojo, avec quatre-vingt-dix-sept tâches et six cent vingt-neuf cas de sécurité. Il teste si des données non fiables prennent le contrôle des outils d'un agent.

2:04 Ce sont des résultats de laboratoire historiques de 2024. La future boîte de dialogue d'Apple n'a pas été publiée, donc personne n'a encore le droit de se réjouir. Dans une configuration GPT-4.0, l'attaque ciblée a réussi environ quarante-huit pour cent du temps. Le filtrage des outils disponibles a ramené cela à environ sept pour cent, avec une leçon de conception utile.

Que peuvent limiter les développeurs avant qu'Apple ne livre ?

2:21 Donnez à un assistant les données et les outils dont la tâche a besoin. Un dossier de projet est une surface d'entrée plus petite qu'un compte entier. L'accès en lecture peut également être séparé de l'autorisation d'envoyer ou de supprimer. C'est un compromis de produit avec lequel les développeurs vivent déjà. Un utilitaire de terminal ou de sauvegarde peut avoir une raison légitime d'avoir un accès large. Le supprimer imprudemment créerait un flux de travail cassé et très sécurisé. Alors, qu'est-ce qu'Apple change ? L'objectif déclaré est un consentement plus clair et plus explicite pour un accès extraordinaire.

2:46 Nous avons encore besoin de l'implémentation pour voir comment elle préserve ces usages légitimes.

Que fait réellement le nouvel éditeur de passe d'Apple ?

2:50 Apple a également introduit Pass Designer, un éditeur visuel pour les passes Wallet. Vous commencez avec un modèle, importez vos images et prévisualisez la passe pendant que vous modifiez. Apple affirme que l'aperçu utilise le même rendu que l'iPhone et l'Apple Watch. Il valide les champs et peut construire une passe rétrocompatible à partir de données sémantiques. Les balises sémantiques décrivent des éléments tels que les détails de vol et les dates d'événements. Votre billet de concert peut enfin devenir des données structurées avant de devenir une capture d'écran floue dans le chat de groupe familial de quelqu'un.

3:15 La version bêta nécessite macOS 27 ou ultérieur. Apple répertorie l'inscription gratuite pour le téléchargement. Cela aide à concevoir des passes ; l'émission et la distribution nécessitent leur propre flux de travail.

Pourquoi un site web ne peut-il pas localiser parfaitement un utilisateur VPN ?

3:24 Ensuite, il y a l'Utah, où les législateurs voulaient que les sites web pour adultes couverts identifient la localisation réelle des utilisateurs VPN ou les bloquent. Un juge fédéral a provisoirement bloqué les dispositions VPN contestées. L'Electronic Frontier Foundation cite la cour déclarant que la perfection de la géolocalisation n'est pas actuellement possible. Il s'avère que la pile réseau refuse toujours d'implémenter des fonctionnalités simplement parce qu'une législature a ouvert un ticket. Un site web voit l'adresse du serveur VPN.

3:49 Cela n'établit pas où la personne est assise. Traiter chaque emplacement caché comme potentiellement l'Utah pousse l'exigence bien au-delà des frontières de l'État. L'EFF cite le raisonnement du juge selon lequel Aylo aurait besoin de vérifier vingt-huit millions d'utilisateurs pour garantir la conformité. C'est le coût d'exiger la perfection d'un signal qui ne peut pas la fournir. Ceci est une ordonnance préliminaire.

4:08 La restriction distincte sur le partage d'informations VPN n'a pas été contestée. La différence juridique a encore des lignes à revoir. Les trois histoires reposent sur des limites. Un éditeur de passe peut vérifier un champ. Un site web voit une adresse de sortie. Un agent obtient l'accès que le système environnant lui accorde réellement. Et la personne du début est celle qui vous a envoyé le message.

Qui est exposé sans cliquer sur Autoriser ?

4:27 Apple met également explicitement en garde contre leur vie privée. Votre autorisation peut exposer une conversation contenant les données de quelqu'un d'autre, et ils n'ont jamais cliqué sur votre bouton Autoriser. Le titre de Slashdot l'appelle un risque accru. Ce cercle plus large est la raison pour laquelle je m'en soucie. L'écran d'autorisation doit expliquer ce que l'assistant recevra. Si vous préférez lire ceci plutôt que de m'entendre le dire, le diff arrive dans votre boîte de réception chaque matin, gratuitement sur thedailydiff.dev, lien ci-dessous.

4:49 Donc le verdict d'aujourd'hui, NEEDS REVIEW.

Quel est mon verdict sur les contrôles proposés par Apple ?

4:51 Je veux un consentement plus clair et un accès plus étroit, avec des flux de travail légitimes préservés. L'implémentation d'Apple décidera si elle tient ses promesses. Abonnez-vous, appuyez sur la cloche et dites-moi dans les commentaires si vous l'auriez estampillé différemment. Et c'est la différence pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com