+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Pinipigilan ng Apple ang mga AI Agent

Nagplano ang Apple ng karagdagang kontrol sa macOS Full Disk Access dahil pinapataas ng mga autonomous AI agent ang mga panganib ng malawak na access sa data.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Nagplano ang Apple ng karagdagang kontrol sa macOS Full Disk Access dahil pinapataas ng mga autonomous AI agent ang mga panganib ng malawak na access sa data. Sinusuri namin ang kasalukuyang pahintulot, ang pinagtatalunang kaso ng mga mensahe ng Muse ng Meta at makasaysayang ebidensya ng seguridad ng agent, pagkatapos ay saklawin ang Pass Designer at ang mga panuntunan sa lokasyon ng VPN ng Utah. Hatol: KAILANGAN SURIIN.

Basahin ang nakasulat na edisyon (English) ↗

Ang sakop ng video na ito

  • Bakit biglang naging mas malaking panganib ang isang pahintulot sa Mac?
  • Ano ang talagang binubuksan ng Full Disk Access?
  • Bakit binabago ng mga autonomous agent ang mga pusta?
  • Ano ang maaaring limitahan ng mga developer bago magpadala ang Apple?
  • Ano ang talagang ginagawa ng bagong editor ng pass ng Apple?

Mga tanong at sagot

Ano ang mababasa ng isang app kapag binigyan mo ito ng Buong Disk Access sa isang Mac?

Sakop ng Buong Disk Access ang protektadong data tulad ng Mail, Messages at data ng Safari, kasama ang mga backup ng Time Machine para gumana ang isang backup app. Sinasabi ng Apple na ang access na ito ay malaking umiiwas sa iba pang mga kontrol sa privacy. Ibinibigay mo ito sa pamamagitan ng System Settings, at umiiral na ang pahintulot. Nangako ang anunsyo ng Apple ng karagdagang kontrol sa pahintulot na iyon.

Panoorin ang bahaging ito 0:40 · developer.apple.com · support.apple.com

Bakit ginagawang mas mapanganib ng mga autonomous na AI agent ang malawak na access sa file kaysa sa isang backup app?

Kinokopya ng isang backup program ang iyong mga file, habang binibigyang-kahulugan ng isang agent ang binabasa nito at maaaring tumawag ng mga tool upang kumilos dito, kaya mas mahirap hulaan ang mga kahihinatnan ng malawak na access. Ang isang email o webpage ay maaaring maglaman ng mga tagubilin na sumusubok na i-redirect ang assistant, na tinatawag na prompt injection. Sinasabi ng Apple na ang lalong autonomous na mga agent ay nagpapahintulot sa Full Disk Access na maging mas mapanganib.

Panoorin ang bahaging ito 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Gaano kalaki ang mababawas ng paglilimita sa mga tool ng isang AI agent sa mga pag-atake ng prompt injection?

Sa AgentDojo benchmark, na may siyamnapu't pitong gawain at anim na raan at dalawampu't siyam na kaso ng seguridad, ang isang GPT four oh configuration ay matagumpay na inatake sa humigit-kumulang apatnapu't walong porsiyento ng oras. Ang pag-filter ng mga magagamit na tool ay nagpababa nito sa humigit-kumulang pitong porsiyento. Ang mga ito ay historical na resulta ng lab mula sa dalawampu't dalawampu't apat, kaya nagpapakita sila ng aral sa disenyo sa halip na kung paano gagana ang mga kontrol ng Apple.

Panoorin ang bahaging ito 2:21 · arxiv.org · agentdojo.spylab.ai

Bakit hinarang ng isang federal na hukom ang mga panuntunan sa lokasyon ng VPN ng Utah?

Pansamantalang hinarang ng hukom ang mga pinaglalabang probisyon ng VPN. Sinipi ng Electronic Frontier Foundation ang korte na nagsasabing ang perpektong geolocation ay hindi posible sa kasalukuyan. Nakikita ng isang website ang address ng VPN server, na hindi nagtatatag kung saan nakaupo ang tao. Ang order ay pansamantala, at ang hiwalay na paghihigpit sa pagbabahagi ng impormasyon ng VPN ay hindi pinaglaban.

Panoorin ang bahaging ito 3:24 · www.eff.org

Magandang ideya ba ang plano ng Apple para sa mas mahigpit na kontrol sa Buong Disk Access?

Ang hatol ng The Daily Diff ay NEEDS REVIEW. Ang episode ay nangangailangan ng mas malinaw na pahintulot at mas makitid na access na may legitimate na workflows na pinapanatili, at sinasabi na ang pagpapatupad ng Apple ang magdedesisyon kung maghahatid ito. Walang inilathala ang Apple na dialog o petsa ng rollout. Nakataya rin ang privacy ng ibang tao, dahil ang iyong pahintulot ay maaaring maglantad ng isang pag-uusap na naglalaman ng kanilang data.

Panoorin ang bahaging ito 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Isinaling transcript

Isinalin mula sa orihinal na salaysay sa English. Ang available na audio at mga caption ay kinokontrol ng YouTube.

Bakit biglang naging mas malaking panganib ang isang pahintulot sa Mac?

0:00 Akala mo, ang pag-click sa Payagan ay nagtatakda kung ano ang makikita ng isang app. Sabi ng Apple, ang lalong autonomous na AI agents ay nagpapahirap sa Full Disk Access nang malaki mas mapanganib, at nagdaragdag ito ng mga kontrol. Sa video na ito, ano ang maaaring basahin ng mga ahente? Ano ang binabago ng Apple? Sino pa ang nalalantad? Ang privacy ng ibang tao ay nakataya sa iyong Mac. Babalikan natin sila bago ang hatol.

0:18 Sabado ngayon, Oktubre tatlo, at ito ang The Daily Diff. Noong Biyernes, binalaan ng Apple ang mga developer tungkol sa full disk access at ipinakilala ang isang editor ng Wallet pass. Samantala, isang pederal na hukom ang pansamantalang nagpahinto sa mga panuntunan sa lokasyon ng VPN ng Utah. Tinawag ng reporter ng TechCrunch na si Sarah Perez ang anunsyo ng Apple na "shots fired." Hindi pinangalanan ang target sa post ng Apple, na isang kahanga-hangang corporate paraan para magsimula ng isang argumento. Ang dokumentasyon ng Apple ay kasama ang data ng Mail at Messages,

Ano ang talagang binubuksan ng Full Disk Access?

0:42 plus data ng Safari. Kasama rin dito ang mga backup ng Time Machine, kaya maaaring gumana ang iyong backup app. Sabi ng Apple, ito ay halos lumalampas sa iba pang kontrol sa privacy. Ibinibigay mo ito sa pamamagitan ng System Settings, at umiiral na ang pahintulot. Ipinapangako ng anunsyo ang karagdagang kontrol sa paligid ng pahintulot na iyon. Sa X, tumugon si javi, 'Sana ay gusto mo ang mga permission prompt.' Iyan ang developer tension sa anim na salita. Paulit-ulit na hinihingi sa atin ng automation na mano-manong aprubahan ang automation.

1:06 Panatilihing tuwid ang mga pahintulot, gayunpaman. May magkahiwalay na entry ang Accessibility at Automation sa gabay ng Apple. Ang pagbabasa ng protektadong data at pagkontrol sa ibang app ay magkaibang kakayahan, na may magkaibang kontrol.

Bakit binabago ng mga autonomous agent ang mga pusta?

1:16 Ang isang backup na programa ay kumopya ng iyong mga file. Ang isang ahente ay nagpapakahulugan sa kung ano ang binabasa nito at maaaring tumawag ng mga tool upang kumilos dito. Mas maraming awtonomiya ang nagpapahirap sa paghula ng mga kahihinatnan ng malawak na access. Mayroon nang pinagtatalunang halimbawa. Sinabi ni Jason Aten na binasa ng Muse ng Meta ang kanyang mga mensahe nang walang pahintulot. Sabi ng Meta, ang integrasyon ay nangangailangan ng parehong full disk access at ang Messages nito connector. Hindi pinangalanan ng Apple ang Muse o isang rollout date. Sinasabi nito na dapat maunawaan ng mga user ang access na ito at ibigay ito sa pamamagitan ng napakalinaw

1:42 na aksyon. Ang aktwal na interface ay nananatiling nawawalang screenshot. May mas malalim na problema sa ahente dito. Ang isang email o webpage ay maaaring maglaman ng mga instruksyon na sumusubok na i-redirect ang assistant. Iyan ay prompt injection, at nakatagpo ito ng ahente habang gumagawa ng kapaki-pakinabang na gawain. Ang mga independiyenteng mananaliksik ay bumuo ng Agent Dojo, na may siyamnapu't pitong gawain at anim na raan at dalawampu't siyam na kaso ng seguridad. Sinusubukan nito kung kinokontrol ng hindi pinagkakatiwalaang data ang mga tool ng ahente.

2:04 Ito ang mga makasaysayang resulta ng laboratoryo mula 2024. Hindi pa nailalathala ang future dialog ng Apple, kaya wala pang nagtatagumpay. Sa isang configuration ng GPT-4o, ang target na pag-atake ay nagtagumpay ng halos apatnapu't walong porsyento ng oras. Ang pag-filter ng mga available na tool ay nagpababa nito sa halos pitong porsyento, na may kapaki-pakinabang na aralin sa disenyo.

Ano ang maaaring limitahan ng mga developer bago magpadala ang Apple?

2:21 Bigyan ang isang assistant ng data at tool na kailangan ng task. Ang isang project folder ay isang mas maliit na input surface kaysa sa isang buong account. Maaari ring ihiwalay ang read access mula sa pahintulot na magpadala o magtanggal. Iyan ay isang tradeoff ng produkto na pinagdadaanan na ng mga developer. Ang isang terminal o backup utility ay maaaring magkaroon ng lehitimong dahilan para sa malawak na access. Ang pagtanggal nito nang walang ingat ay lilikha ng isang napakaligtas na sirang workflow. Kaya ano ang binabago ng Apple? Ang itinakdang layunin ay mas malinaw, mas tahasang pahintulot para sa pambihirang access.

2:46 Kailangan pa rin natin ang implementasyon upang makita kung paano nito pinapanatili ang mga lehitimong paggamit na iyon.

Ano ang talagang ginagawa ng bagong editor ng pass ng Apple?

2:50 Ipinakilala rin ng Apple ang Pass Designer, isang visual editor para sa mga Wallet pass. Magsisimula ka sa isang template, magdadala ng iyong mga larawan, at i-preview ang pass habang ikaw nag-eedit. Sabi ng Apple, ginagamit ng preview ang parehong rendering gaya ng iPhone at Apple Watch. Binibigyang-bisa nito ang mga field at maaaring bumuo ng backward compatible pass mula sa semantic data. Inilalarawan ng mga semantic tag ang mga bagay tulad ng flight details at event dates. Ang iyong concert ticket ay sa wakas ay maaaring maging structured data bago maging isang malabong screenshot sa chat ng isang pamilya.

3:15 Ang beta ay nangangailangan ng macOS 27 o mas bago. Nakalista ang Apple ng libreng pagpaparehistro para sa pag-download. Nakakatulong ito sa pagdidisenyo ng mga pass; ang pagbibigay at pamamahagi ng mga ito ay nangangailangan ng sarili nitong workflow.

Bakit hindi perpektong mahanap ng isang website ang isang gumagamit ng VPN?

3:24 Pagkatapos ay may Utah, kung saan nais ng mga mambabatas na tukuyin ng mga covered adult website ang tunay na lokasyon ng mga gumagamit ng VPN o harangan sila. Isang pederal na hukom ang paunang humarang sa mga pinagtatalunang probisyon ng VPN. Sinipi ng Electronic Frontier Foundation ang korte na nagsasabing ang pagiging perpekto ng geolocation ay hindi pa posible sa kasalukuyan. Lumabas na ang network stack ay tumatangging ipatupad ang mga feature dahil lamang sa nagbukas ng ticket ang isang lehislatura. Nakikita ng isang website ang address ng VPN server.

3:49 Hindi nito itinatatag kung saan nakaupo ang tao. Ang pagtrato sa bawat nakatagong lokasyon bilang posibleng itulak ng Utah ang kinakailangan nang malayo lampas sa mga hangganan ng estado. Sinipi ng EFF ang pangangatwiran ng hukom na kailangan ni Aylo na beripikahin ang 28 milyong user upang masiguro ang pagsunod. Iyan ang halaga ng paghingi ng pagiging perpekto mula sa isang signal na hindi kayang ibigay ito. Ito ay isang paunang order.

4:08 Ang hiwalay na paghihigpit sa pagbabahagi ng impormasyon ng VPN ay hindi hinamon. Ang legal na diff ay mayroon pa ring mga linya na kailangan suriin. Ang lahat ng tatlong kuwento ay umiikot sa mga hangganan. Maaaring suriin ng isang pass editor ang isang field. Nakikita ng isang website ang exit address. Nakukuha ng isang ahente ang anumang access na talagang ipinagkakaloob ng nakapalibot na sistema. At ang tao mula sa simula ay sinumang nagpadala sa iyo ng mensahe.

Sino ang nalalantad nang hindi nagki-click ng Payagan?

4:27 Malinaw na binalaan ng Apple ang tungkol sa kanilang privacy din. Maaaring ilantad ng iyong pahintulot ang isang pag-uusap na naglalaman ng data ng ibang tao, at hindi nila kailanman na-click ang iyong Allow button. Ang headline ng Slashdot ay tinawag itong "increased risk." Ang mas malawak na bilog na iyon ang dahilan kung bakit ako nagmamalasakit. Kailangang ipaliwanag ng screen ng pahintulot kung ano ang matatanggap ng assistant. Kung mas gusto mong basahin ito kaysa pakinggan akong sabihin ito, ang diff ay dumarating sa iyong inbox tuwing umaga, libre sa thedailydiff.dev, link sa ibaba.

4:49 Kaya ang hatol ngayon, KAILANGAN SURIIN.

Ano ang aking hatol sa iminungkahing kontrol ng Apple?

4:51 Gusto ko ng mas malinaw na pahintulot at mas makitid na access, na may mga lehitimong workflow na pinapanatili. Ang implementasyon ng Apple ang magdedesisyon kung magagawa ito. Mag-subscribe, pindutin ang bell, at sabihin sa akin sa mga komento kung naiibang selyo ang ilalagay mo dito. At iyan ang diff para sa araw na ito. Ako si Niko mula sa Axrisi. Mag-merge nang may pananagutan.

Mga Pinagmulan

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Mga kaugnay na video