Apple frena a los agentes de IA

Lo que cubre este video

• ¿Por qué un permiso de Mac es de repente un riesgo mayor?
• ¿Qué abre realmente el Acceso Total al Disco?
• ¿Por qué los agentes autónomos cambian las apuestas?
• ¿Qué pueden limitar los desarrolladores antes de que Apple lo lance?
• ¿Qué hace realmente el nuevo editor de pases de Apple?

Transcripción traducida

Traducido de la narración original en inglés. El audio y los subtítulos disponibles son controlados por YouTube.

¿Por qué un permiso de Mac es de repente un riesgo mayor?

0:00 Uno pensaría que hacer clic en Permitir resuelve lo que una aplicación puede ver. Apple dice que los agentes de IA cada vez más autónomos hacen que el Acceso Total al Disco sea sustancialmente más arriesgado, y está añadiendo controles. En este video, ¿qué pueden leer los agentes? ¿Qué está cambiando Apple? ¿Quién más queda expuesto? La privacidad de otra persona está en juego en tu Mac. Volveremos a ellos antes del veredicto.

0:18 Es sábado, tres de octubre, y esto es The Daily Diff. El viernes, Apple advirtió a los desarrolladores sobre el acceso total al disco y presentó un editor de pases de Wallet. Mientras tanto, un juez federal suspendió las reglas de ubicación de VPN de Utah. La reportera de TechCrunch, Sarah Perez, calificó el anuncio de Apple como un disparo. El objetivo sigue sin ser nombrado en la publicación de Apple, que es una forma impresionantemente corporativa de iniciar una discusión. La documentación de Apple incluye datos de Mail y Mensajes,

¿Qué abre realmente el Acceso Total al Disco?

0:42 además de datos de Safari. También incluye copias de seguridad de Time Machine, para que tu aplicación de copia de seguridad pueda funcionar. Apple dice que esto elude en gran medida otros controles de privacidad. Lo concedes a través de Configuración del Sistema, y el permiso ya existe. El anuncio promete controles adicionales alrededor de esa concesión. En X, javi respondió: Espero que te gusten los avisos de permiso. Esa es la tensión del desarrollador en seis palabras. La automatización sigue pidiéndonos que aprobemos manualmente la automatización.

1:06 Sin embargo, mantén los permisos claros. Accesibilidad y Automatización tienen entradas separadas en la guía de Apple. Leer datos protegidos y controlar otra aplicación son capacidades diferentes, con diferentes controles.

¿Por qué los agentes autónomos cambian las apuestas?

1:16 Un programa de copia de seguridad copia tus archivos. Un agente interpreta lo que lee y puede llamar a herramientas para actuar sobre ello. Una mayor autonomía hace que las consecuencias del acceso amplio sean más difíciles de predecir. Ya existe un ejemplo disputado. Jason Aten dijo que Muse de Meta leyó sus mensajes sin permiso. Meta dice que la integración requiere tanto el acceso total al disco como su conector de Mensajes. Apple no nombra a Muse ni una fecha de lanzamiento. Dice que los usuarios deben comprender este acceso y otorgarlo mediante una acción muy explícita.

1:42 La interfaz real sigue siendo una captura de pantalla faltante. Aquí hay un problema de agente más profundo. Un correo electrónico o una página web pueden contener instrucciones que intentan redirigir al asistente. Eso es inyección de prompt, y el agente la encuentra mientras realiza un trabajo útil. Investigadores independientes construyeron Agent Dojo, con noventa y siete tareas y seiscientos veintinueve casos de seguridad. Prueba si los datos no confiables toman el control de las herramientas de un agente.

2:04 Estos son resultados históricos de laboratorio de 2024. El futuro diálogo de Apple no ha sido publicado, así que nadie obtiene una vuelta de victoria todavía. En una configuración de GPT-4o, el ataque dirigido tuvo éxito alrededor del cuarenta y ocho por ciento de las veces. Filtrar las herramientas disponibles redujo eso a alrededor del siete por ciento, con una lección de diseño útil.

¿Qué pueden limitar los desarrolladores antes de que Apple lo lance?

2:21 Dale a un asistente los datos y las herramientas que la tarea necesita. Una carpeta de proyecto es una superficie de entrada más pequeña que una cuenta completa. El acceso de lectura también se puede separar del permiso para enviar o eliminar. Esa es una compensación de producto con la que los desarrolladores ya conviven. Una utilidad de terminal o de copia de seguridad puede tener una razón legítima para un acceso amplio. Eliminarlo descuidadamente crearía un flujo de trabajo roto muy seguro. ¿Entonces qué está cambiando Apple? El objetivo declarado es un consentimiento más claro y explícito para un acceso extraordinario.

2:46 Todavía necesitamos la implementación para ver cómo preserva esos usos legítimos.

¿Qué hace realmente el nuevo editor de pases de Apple?

2:50 Apple también presentó Pass Designer, un editor visual para pases de Wallet. Comienzas con una plantilla, traes tus imágenes y previsualizas el pase mientras lo editas. Apple dice que la vista previa utiliza el mismo renderizado que iPhone y Apple Watch. Valida campos y puede construir un pase compatible con versiones anteriores a partir de datos semánticos. Las etiquetas semánticas describen cosas como detalles de vuelos y fechas de eventos. Tu entrada para el concierto finalmente puede convertirse en datos estructurados antes de convertirse en una captura de pantalla borrosa en el chat de grupo familiar de alguien.

3:15 La beta requiere macOS 17 o posterior. Apple enumera el registro gratuito para la descarga. Esto ayuda a diseñar pases; emitirlos y distribuirlos necesita su propio flujo de trabajo.

¿Por qué un sitio web no puede localizar perfectamente a un usuario de VPN?

3:24 Luego está Utah, donde los legisladores querían que los sitios web para adultos cubiertos identificaran la ubicación real de los usuarios de VPN o los bloquearan. Un juez federal ha bloqueado provisionalmente las disposiciones de VPN impugnadas. La Electronic Frontier Foundation cita a la corte diciendo que la perfección de la geolocalización no es posible actualmente. Resulta que la pila de red todavía se niega a implementar funciones simplemente porque una legislatura abrió un ticket. Un sitio web ve la dirección del servidor VPN.

3:49 Eso no establece dónde está sentada la persona. Tratar cada ubicación oculta como potencialmente Utah empuja el requisito mucho más allá de las fronteras del estado. EFF cita el razonamiento del juez de que Aylo necesitaría verificar veintiocho millones de usuarios para garantizar el cumplimiento. Ese es el costo de exigir la perfección de una señal que no puede proporcionarla. Esta es una orden preliminar.

4:08 La restricción separada sobre compartir información de VPN no fue impugnada. El diferencial legal todavía tiene líneas por revisar. Las tres historias giran en torno a los límites. Un editor de pases puede verificar un campo. Un sitio web ve una dirección de salida. Un agente obtiene cualquier acceso que el sistema circundante realmente otorgue. Y la persona del principio es quien te envió el mensaje.

¿Quién queda expuesto sin hacer clic en Permitir?

4:27 Apple advierte explícitamente sobre su privacidad también. Tu permiso puede exponer una conversación que contenga datos de otra persona, y ellos nunca hicieron clic en tu botón de Permitir. El titular de Slashdot lo llama un riesgo aumentado. Ese círculo más amplio es la razón por la que me importa. La pantalla de permisos necesita explicar lo que recibirá el asistente. Si prefieres leer esto en lugar de oírme decirlo, el diferencial llega a tu bandeja de entrada cada mañana, gratis en thedailydiff.dev, enlace abajo.

4:49 Así que el veredicto de hoy, NEEDS REVIEW.

¿Cuál es mi veredicto sobre los controles propuestos por Apple?

4:51 Quiero un consentimiento más claro y un acceso más estrecho, con flujos de trabajo legítimos preservados. La implementación de Apple decidirá si lo cumple. Suscríbete, dale a la campana y dime en los comentarios si lo habrías sellado de manera diferente. Y ese es el diferencial de hoy. Soy Niko de Axrisi. Fusiona responsablemente.

Fuentes

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com