Pinipigilan ng Apple ang mga AI Agent

Ang sakop ng video na ito

• Bakit biglang naging mas malaking panganib ang isang pahintulot sa Mac?
• Ano ang talagang binubuksan ng Full Disk Access?
• Bakit binabago ng mga autonomous agent ang mga pusta?
• Ano ang maaaring limitahan ng mga developer bago magpadala ang Apple?
• Ano ang talagang ginagawa ng bagong editor ng pass ng Apple?

Isinaling transcript

Isinalin mula sa orihinal na salaysay sa English. Ang available na audio at mga caption ay kinokontrol ng YouTube.

Bakit biglang naging mas malaking panganib ang isang pahintulot sa Mac?

0:00 Akala mo, ang pag-click sa Payagan ay nagtatakda kung ano ang makikita ng isang app. Sabi ng Apple, ang lalong autonomous na AI agents ay nagpapahirap sa Full Disk Access nang malaki mas mapanganib, at nagdaragdag ito ng mga kontrol. Sa video na ito, ano ang maaaring basahin ng mga ahente? Ano ang binabago ng Apple? Sino pa ang nalalantad? Ang privacy ng ibang tao ay nakataya sa iyong Mac. Babalikan natin sila bago ang hatol.

0:18 Sabado ngayon, Oktubre tatlo, at ito ang The Daily Diff. Noong Biyernes, binalaan ng Apple ang mga developer tungkol sa full disk access at ipinakilala ang isang editor ng Wallet pass. Samantala, isang pederal na hukom ang pansamantalang nagpahinto sa mga panuntunan sa lokasyon ng VPN ng Utah. Tinawag ng reporter ng TechCrunch na si Sarah Perez ang anunsyo ng Apple na "shots fired." Hindi pinangalanan ang target sa post ng Apple, na isang kahanga-hangang corporate paraan para magsimula ng isang argumento. Ang dokumentasyon ng Apple ay kasama ang data ng Mail at Messages,

Ano ang talagang binubuksan ng Full Disk Access?

0:42 plus data ng Safari. Kasama rin dito ang mga backup ng Time Machine, kaya maaaring gumana ang iyong backup app. Sabi ng Apple, ito ay halos lumalampas sa iba pang kontrol sa privacy. Ibinibigay mo ito sa pamamagitan ng System Settings, at umiiral na ang pahintulot. Ipinapangako ng anunsyo ang karagdagang kontrol sa paligid ng pahintulot na iyon. Sa X, tumugon si javi, 'Sana ay gusto mo ang mga permission prompt.' Iyan ang developer tension sa anim na salita. Paulit-ulit na hinihingi sa atin ng automation na mano-manong aprubahan ang automation.

1:06 Panatilihing tuwid ang mga pahintulot, gayunpaman. May magkahiwalay na entry ang Accessibility at Automation sa gabay ng Apple. Ang pagbabasa ng protektadong data at pagkontrol sa ibang app ay magkaibang kakayahan, na may magkaibang kontrol.

Bakit binabago ng mga autonomous agent ang mga pusta?

1:16 Ang isang backup na programa ay kumopya ng iyong mga file. Ang isang ahente ay nagpapakahulugan sa kung ano ang binabasa nito at maaaring tumawag ng mga tool upang kumilos dito. Mas maraming awtonomiya ang nagpapahirap sa paghula ng mga kahihinatnan ng malawak na access. Mayroon nang pinagtatalunang halimbawa. Sinabi ni Jason Aten na binasa ng Muse ng Meta ang kanyang mga mensahe nang walang pahintulot. Sabi ng Meta, ang integrasyon ay nangangailangan ng parehong full disk access at ang Messages nito connector. Hindi pinangalanan ng Apple ang Muse o isang rollout date. Sinasabi nito na dapat maunawaan ng mga user ang access na ito at ibigay ito sa pamamagitan ng napakalinaw

1:42 na aksyon. Ang aktwal na interface ay nananatiling nawawalang screenshot. May mas malalim na problema sa ahente dito. Ang isang email o webpage ay maaaring maglaman ng mga instruksyon na sumusubok na i-redirect ang assistant. Iyan ay prompt injection, at nakatagpo ito ng ahente habang gumagawa ng kapaki-pakinabang na gawain. Ang mga independiyenteng mananaliksik ay bumuo ng Agent Dojo, na may siyamnapu't pitong gawain at anim na raan at dalawampu't siyam na kaso ng seguridad. Sinusubukan nito kung kinokontrol ng hindi pinagkakatiwalaang data ang mga tool ng ahente.

2:04 Ito ang mga makasaysayang resulta ng laboratoryo mula 2024. Hindi pa nailalathala ang future dialog ng Apple, kaya wala pang nagtatagumpay. Sa isang configuration ng GPT-4o, ang target na pag-atake ay nagtagumpay ng halos apatnapu't walong porsyento ng oras. Ang pag-filter ng mga available na tool ay nagpababa nito sa halos pitong porsyento, na may kapaki-pakinabang na aralin sa disenyo.

Ano ang maaaring limitahan ng mga developer bago magpadala ang Apple?

2:21 Bigyan ang isang assistant ng data at tool na kailangan ng task. Ang isang project folder ay isang mas maliit na input surface kaysa sa isang buong account. Maaari ring ihiwalay ang read access mula sa pahintulot na magpadala o magtanggal. Iyan ay isang tradeoff ng produkto na pinagdadaanan na ng mga developer. Ang isang terminal o backup utility ay maaaring magkaroon ng lehitimong dahilan para sa malawak na access. Ang pagtanggal nito nang walang ingat ay lilikha ng isang napakaligtas na sirang workflow. Kaya ano ang binabago ng Apple? Ang itinakdang layunin ay mas malinaw, mas tahasang pahintulot para sa pambihirang access.

2:46 Kailangan pa rin natin ang implementasyon upang makita kung paano nito pinapanatili ang mga lehitimong paggamit na iyon.

Ano ang talagang ginagawa ng bagong editor ng pass ng Apple?

2:50 Ipinakilala rin ng Apple ang Pass Designer, isang visual editor para sa mga Wallet pass. Magsisimula ka sa isang template, magdadala ng iyong mga larawan, at i-preview ang pass habang ikaw nag-eedit. Sabi ng Apple, ginagamit ng preview ang parehong rendering gaya ng iPhone at Apple Watch. Binibigyang-bisa nito ang mga field at maaaring bumuo ng backward compatible pass mula sa semantic data. Inilalarawan ng mga semantic tag ang mga bagay tulad ng flight details at event dates. Ang iyong concert ticket ay sa wakas ay maaaring maging structured data bago maging isang malabong screenshot sa chat ng isang pamilya.

3:15 Ang beta ay nangangailangan ng macOS 27 o mas bago. Nakalista ang Apple ng libreng pagpaparehistro para sa pag-download. Nakakatulong ito sa pagdidisenyo ng mga pass; ang pagbibigay at pamamahagi ng mga ito ay nangangailangan ng sarili nitong workflow.

Bakit hindi perpektong mahanap ng isang website ang isang gumagamit ng VPN?

3:24 Pagkatapos ay may Utah, kung saan nais ng mga mambabatas na tukuyin ng mga covered adult website ang tunay na lokasyon ng mga gumagamit ng VPN o harangan sila. Isang pederal na hukom ang paunang humarang sa mga pinagtatalunang probisyon ng VPN. Sinipi ng Electronic Frontier Foundation ang korte na nagsasabing ang pagiging perpekto ng geolocation ay hindi pa posible sa kasalukuyan. Lumabas na ang network stack ay tumatangging ipatupad ang mga feature dahil lamang sa nagbukas ng ticket ang isang lehislatura. Nakikita ng isang website ang address ng VPN server.

3:49 Hindi nito itinatatag kung saan nakaupo ang tao. Ang pagtrato sa bawat nakatagong lokasyon bilang posibleng itulak ng Utah ang kinakailangan nang malayo lampas sa mga hangganan ng estado. Sinipi ng EFF ang pangangatwiran ng hukom na kailangan ni Aylo na beripikahin ang 28 milyong user upang masiguro ang pagsunod. Iyan ang halaga ng paghingi ng pagiging perpekto mula sa isang signal na hindi kayang ibigay ito. Ito ay isang paunang order.

4:08 Ang hiwalay na paghihigpit sa pagbabahagi ng impormasyon ng VPN ay hindi hinamon. Ang legal na diff ay mayroon pa ring mga linya na kailangan suriin. Ang lahat ng tatlong kuwento ay umiikot sa mga hangganan. Maaaring suriin ng isang pass editor ang isang field. Nakikita ng isang website ang exit address. Nakukuha ng isang ahente ang anumang access na talagang ipinagkakaloob ng nakapalibot na sistema. At ang tao mula sa simula ay sinumang nagpadala sa iyo ng mensahe.

Sino ang nalalantad nang hindi nagki-click ng Payagan?

4:27 Malinaw na binalaan ng Apple ang tungkol sa kanilang privacy din. Maaaring ilantad ng iyong pahintulot ang isang pag-uusap na naglalaman ng data ng ibang tao, at hindi nila kailanman na-click ang iyong Allow button. Ang headline ng Slashdot ay tinawag itong "increased risk." Ang mas malawak na bilog na iyon ang dahilan kung bakit ako nagmamalasakit. Kailangang ipaliwanag ng screen ng pahintulot kung ano ang matatanggap ng assistant. Kung mas gusto mong basahin ito kaysa pakinggan akong sabihin ito, ang diff ay dumarating sa iyong inbox tuwing umaga, libre sa thedailydiff.dev, link sa ibaba.

4:49 Kaya ang hatol ngayon, KAILANGAN SURIIN.

Ano ang aking hatol sa iminungkahing kontrol ng Apple?

4:51 Gusto ko ng mas malinaw na pahintulot at mas makitid na access, na may mga lehitimong workflow na pinapanatili. Ang implementasyon ng Apple ang magdedesisyon kung magagawa ito. Mag-subscribe, pindutin ang bell, at sabihin sa akin sa mga komento kung naiibang selyo ang ilalagay mo dito. At iyan ang diff para sa araw na ito. Ako si Niko mula sa Axrisi. Mag-merge nang may pananagutan.

Mga Pinagmulan

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com