+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple vë në frenim Agjentët e AI

Apple planifikon kontrolle shtesë të Qasjes së Plotë në Disk në macOS, sepse agjentët autonomë të AI rrisin rreziqet e qasjes së gjerë në të dhëna.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple planifikon kontrolle shtesë të Qasjes së Plotë në Disk në macOS, sepse agjentët autonomë të AI rrisin rreziqet e qasjes së gjerë në të dhëna. Ne shqyrtojmë lejen aktuale, rastin e kontestuar të mesazheve Muse të Meta-s dhe provat historike të sigurisë së agjentëve, pastaj mbulojmë Pass Designer dhe rregullat e vendndodhjes VPN të Utah-s. Vendimi: NEVOJITET SHQYRTIM.

Lexoni edicionin e shkruar (anglisht) ↗

Çfarë mbulon kjo video

  • Pse një leje Mac bëhet papritmas një rrezik më i madh?
  • Çfarë hap saktësisht Qasja e Plotë në Disk?
  • Pse agjentët autonomë ndryshojnë shanset?
  • Çfarë mund të kufizojnë zhvilluesit para se Apple ta lëshojë?
  • Çfarë bën saktësisht redaktori i ri i kartave të Apple?

Pyetje dhe përgjigje

Çfarë mund të lexojë një aplikacion kur i jepni Akses të Plotë në Disk në një Mac?

Aksesi i Plotë në Disk mbulon të dhëna të mbrojtura si të dhënat e Mail, Messages dhe Safari, plus kopjet rezervë të Time Machine, në mënyrë që një aplikacion rezervë të funksionojë. Apple thotë se ky akses shmang kryesisht kontrollet e tjera të privatësisë. Ju e jepni atë përmes Cilësimeve të Sistemit, dhe leja tashmë ekziston. Njoftimi i Apple premton kontrolle shtesë rreth kësaj lejeje.

Shikoni këtë pjesë 0:40 · developer.apple.com · support.apple.com

Pse agjentët autonomë të AI-së e bëjnë aksesin e gjerë të skedarëve më të rrezikshëm se një aplikacion rezervë?

Një program rezervë kopjon skedarët tuaj, ndërsa një agjent interpreton atë që lexon dhe mund të thërrasë mjete për të vepruar mbi të, kështu që më shumë autonomi i bën pasojat e aksesit të gjerë më të vështira për t'u parashikuar. Një email ose faqe interneti mund të përmbajë udhëzime që përpiqen të ridrejtojnë asistentin, gjë që quhet injektim i kërkesës. Apple thotë se agjentët gjithnjë e më autonomë e bëjnë Aksesin e Plotë në Disk thelbësisht më të rrezikshëm.

Shikoni këtë pjesë 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Sa mund ta zvogëlojë kufizimi i mjeteve të një agjenti AI-së sulmet e injektimit të kërkesave?

Në vlerësimin AgentDojo, me nëntëdhjetë e shtatë detyra dhe gjashtëqind e njëzet e nëntë raste sigurie, një konfigurim GPT-40 u sulmua me sukses rreth dyzet e tetë për qind të kohës. Filtrimi i mjeteve të disponueshme e çoi këtë në rreth shtatë për qind. Këto janë rezultate historike laboratorike nga viti 2024, kështu që ato tregojnë një mësim dizajni sesa mënyrën se si do të performojnë kontrollet e Apple.

Shikoni këtë pjesë 2:21 · arxiv.org · agentdojo.spylab.ai

Pse një gjykatës federal bllokoi rregullat e vendndodhjes VPN të Utah?

Gjykatësi bllokoi paraprakisht dispozitat e kontestuara të VPN-së. Electronic Frontier Foundation citon gjykatën duke thënë se përsosmëria e gjeolokalizimit nuk është aktualisht e mundur. Një faqe interneti sheh adresën e serverit VPN, e cila nuk përcakton se ku ndodhet personi. Urdhri është paraprak, dhe kufizimi i veçantë për ndarjen e informacionit VPN nuk u kundërshtua.

Shikoni këtë pjesë 3:24 · www.eff.org

A është një ide e mirë plani i Apple për kontrolle më të rrepta të Aksesit të Plotë në Disk?

Vendimi i The Daily Diff ishte NEEDS REVIEW. Episodi kërkon pëlqim më të qartë dhe akses më të ngushtë me flukset legjitime të punës të ruajtura, dhe thotë se zbatimi i Apple do të vendosë nëse do ta ofrojë atë. Apple nuk ka publikuar asnjë dialog ose datë lëshimi. Privatësia e një personi tjetër është gjithashtu në rrezik, sepse leja juaj mund të ekspozojë një bisedë që përmban të dhënat e tyre.

Shikoni këtë pjesë 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Transkript i përkthyer

Përkthyer nga tregimi origjinal në anglisht. Audio dhe titrat e disponueshme kontrollohen nga YouTube.

Pse një leje Mac bëhet papritmas një rrezik më i madh?

0:00 Do të mendoje se klikimi i Lejo vendos se çfarë mund të shohë një aplikacion. Apple thotë se agjentët e AI gjithnjë e më autonomë e bëjnë Qasjen e Plotë në Disk thelbësisht më të rrezikshme, dhe po shton kontrolle. Në këtë video, çfarë mund të lexojnë agjentët? Çfarë po ndryshon Apple? Kush tjetër ekspozohet? Privatësia e dikujt tjetër është në rrezik në Mac-in tuaj. Do t'u kthehemi atyre para vendimit.

0:18 Është e shtunë, tre tetor, dhe ky është The Daily Diff. Të premten, Apple paralajmëroi zhvilluesit për qasjen e plotë në disk dhe prezantoi një redaktor i kartave Wallet. Ndërkohë, një gjykatës federal pezulloi rregullat e vendndodhjes VPN të Utah-s. Gazetarja e TechCrunch, Sarah Perez, e quajti njoftimin e Apple 'të shtëna të lëshuara'. Objektivi mbetet i paemëruar në postimin e Apple, që është një mënyrë tepër korporative për të filluar një argument. Dokumentacioni i Apple përfshin të dhënat e Mail dhe Messages,

Çfarë hap saktësisht Qasja e Plotë në Disk?

0:42 plus të dhënat e Safari. Përfshin gjithashtu kopje rezervë të Time Machine, në mënyrë që aplikacioni juaj i rezervave të funksionojë. Apple thotë se kjo anashkalon gjerësisht kontrollet e tjera të privatësisë. Ju e jepni atë përmes Cilësimeve të Sistemit, dhe leja ekziston tashmë. Njoftimi premton kontrolle shtesë rreth kësaj lejeje. Në X, javi u përgjigj, shpresoj t'ju pëlqejnë njoftimet për leje. Kjo është tensioni i zhvilluesit në gjashtë fjalë. Automatizimi vazhdon të na kërkojë të miratojmë manualisht automatizimin.

1:06 Megjithatë, mbani lejet në rregull. Aksessibility dhe Automation kanë hyrje të ndara në udhëzuesin e Apple. Leximi i të dhënave të mbrojtura dhe kontrollimi i një aplikacioni tjetër janë aftësi të ndryshme, me kontrolle të ndryshme.

Pse agjentët autonomë ndryshojnë shanset?

1:16 Një program rezervë kopjon skedarët tuaj. Një agjent interpreton atë që lexon dhe mund të thërrasë mjete për të vepruar mbi të. Më shumë autonomi i bën pasojat e qasjes së gjerë më të vështira për t'u parashikuar. Ekziston tashmë një shembull i kontestuar. Jason Aten tha se Muse e Meta-s lexoi mesazhet e tij pa leje. Meta thotë se integrimi kërkon si qasje të plotë në disk ashtu edhe konektorin e saj të Messages. Apple nuk përmend as Muse, as një datë lëshimi. Thotë se përdoruesit duhet ta kuptojnë këtë qasje dhe ta japin atë përmes një veprimi shumë të qartë.

1:42 Ndërfaqja aktuale mbetet një pamje e munguar. Këtu ka një problem më të thellë të agjentit. Një email ose faqe interneti mund të përmbajë udhëzime që përpiqen të ridrejtojnë asistentin. Kjo është injeksioni i prompt-it, dhe agjenti e ndesh atë ndërsa bën punë të dobishme. Studiuesit e pavarur ndërtuan Agent Dojo, me nëntëdhjetë e shtatë detyra dhe gjashtë qind e njëzet e nëntë raste sigurie. Ai teston nëse të dhënat e papranuara marrin kontrollin e mjeteve të një agjenti.

2:04 Këto janë rezultate historike laboratorike nga viti dy mijë e njëzet e katër. Dialogu i ardhshëm i Apple nuk është publikuar, kështu që askush nuk ka një xhiro fitoreje ende. Në një konfigurim GPT-4o, sulmi i synuar pati sukses rreth dyzet e tetë për qind të kohës. Filtimi i mjeteve të disponueshme e çoi atë në rreth shtatë për qind, me një mësim të dobishëm dizajni.

Çfarë mund të kufizojnë zhvilluesit para se Apple ta lëshojë?

2:21 Jepi një asistenti të dhënat dhe mjetet që i duhen për detyrën. Një dosje projekti është një sipërfaqe hyrëse më e vogël se një llogari e tërë. Aksesi në lexim mund të ndahet gjithashtu nga leja për të dërguar ose fshirë. Ky është një kompromis produkti me të cilin zhvilluesit jetojnë tashmë. Një terminal ose utilitar rezervë mund të ketë një arsye legjitime për qasje të gjerë. Heqja e tij pa kujdes do të krijonte një rrjedhë pune shumë të sigurt por të prishur. Pra, çfarë po ndryshon Apple? Qëllimi i deklaruar është pëlqimi më i qartë, më eksplicit për qasje të jashtëzakonshme.

2:46 Ne ende kemi nevojë për implementimin për të parë se si i ruan ato përdorime legjitime.

Çfarë bën saktësisht redaktori i ri i kartave të Apple?

2:50 Apple prezantoi gjithashtu Pass Designer, një redaktor vizual për kartat Wallet. Ju filloni me një shabllon, sillni imazhet tuaja dhe shikoni paraprakisht kartën ndërsa e redaktoni. Apple thotë se pamja paraprake përdor të njëjtin rendering si iPhone dhe Apple Watch. Ai vërteton fushat dhe mund të ndërtojë një kartë prapa-pajtueshme nga të dhënat semantike. Etiketat semantike përshkruajnë gjëra si detajet e fluturimit dhe datat e ngjarjeve. Bileta juaj e koncertit mund të bëhet më në fund të dhëna të strukturuara para se të bëhet një pamje e paqartë në bisedën e grupit familjar të dikujt.

3:15 Versioni beta kërkon macOS 14 ose më vonë. Apple liston regjistrim falas për shkarkim. Kjo ndihmon në dizajnimin e kartave; lëshimi dhe shpërndarja e tyre kërkon rrjedhën e vet të punës.

Pse një uebsajt nuk mund të lokalizojë në mënyrë perfekte një përdorues VPN?

3:24 Pastaj është Utah, ku ligjvënësit donin që uebsajtet e mbuluara për të rritur të identifikonin vendndodhjen reale të përdoruesve VPN ose t'i bllokonin ata. Një gjykatës federal ka bllokuar paraprakisht dispozitat e kontestuara të VPN-së. Electronic Frontier Foundation citon gjykatën duke thënë se përsosmëria e gjeolokacionit aktualisht nuk është e mundur. Rezulton se pakoja e rrjetit ende refuzon të implementojë veçori thjesht sepse një legjislaturë hapi një biletë. Një uebsajt sheh adresën e serverit VPN.

3:49 Kjo nuk përcakton se ku ndodhet personi. Trajtimi i çdo vendndodhjeje të fshehur si potencialisht Utah e shtyn kërkesën shumë përtej kufijve të shtetit. EFF citon arsyetimin e gjykatës se Aylo do të duhej të verifikonte njëzet e tetë milionë përdorues për të garantuar pajtueshmërinë. Ky është kostoja e kërkesës për përsosmëri nga një sinjal që nuk mund ta ofrojë atë. Ky është një urdhër paraprak.

4:08 Kufizimi i veçantë për ndarjen e informacionit VPN nuk u sfidua. Dallimi ligjor ka ende rreshta për t'u shqyrtuar. Të tre historitë mbështeten në kufijtë. Një redaktor i kartave mund të kontrollojë një fushë. Një uebsajt sheh një adresë dalëse. Një agjent merr çfarëdo qasjeje që sistemi përreth i jep në të vërtetë. Dhe personi nga hapja është ai që ju dërgoi mesazhin.

Kush ekspozohet pa klikuar Lejo?

4:27 Apple paralajmëron shprehimisht edhe për privatësinë e tyre. Leja juaj mund të ekspozojë një bisedë që përmban të dhënat e dikujt tjetër, dhe ata kurrë nuk klikuan butonin tuaj Lejo. Titulli i Slashdot e quan atë rrezik të shtuar. Ky rreth më i gjerë është arsyeja pse më intereson. Ekrani i lejeve duhet të shpjegojë se çfarë do të marrë asistenti. Nëse preferoni ta lexoni këtë sesa të më dëgjoni ta them, dallimi arrin në kutinë tuaj hyrëse çdo mëngjes, falas në thedailydiff.dev, linku më poshtë.

4:49 Pra, vendimi i sotëm, NEVOJITET SHQYRTIM.

Cili është vendimi im për kontrollet e propozuara të Apple?

4:51 Dua pëlqim më të qartë dhe qasje më të ngushtë, me rrjedha pune legjitime të ruajtura. Implementimi i Apple do të vendosë nëse e ofron këtë. Abonohuni, klikoni zilen dhe më tregoni në komente nëse do ta kishit vulosur ndryshe. Dhe ky është dallimi për sot. Unë jam Niko nga Axrisi. Bashkohuni me përgjegjësi.

Burimet

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Video të ngjashme