Apple bremser AI-agenter

Hva denne videoen dekker

• Hvorfor er én Mac-tillatelse plutselig en større risiko?
• Hva åpner Full Disk Access egentlig?
• Hvorfor endrer autonome agenter innsatsen?
• Hva kan utviklere begrense før Apple sender ut?
• Hva gjør Apples nye pass-redaktør egentlig?

Oversatt transkripsjon

Oversatt fra den originale engelske fortellingen. Tilgjengelig lyd og undertekster kontrolleres av YouTube.

Hvorfor er én Mac-tillatelse plutselig en større risiko?

0:00 Man skulle tro at et klikk på Tillat avgjør hva en app kan se. Apple sier stadig mer autonome AI-agenter gjør Full Disk Access vesentlig risikofylt, og de legger til kontroller. I denne videoen, hva kan agenter lese? Hva endrer Apple? Hvem andre blir eksponert? Noen andres personvern står på spill på din Mac. Vi kommer tilbake til dem før dommen.

0:18 Det er lørdag 3. oktober, og dette er The Daily Diff. På fredag advarte Apple utviklere om full disk tilgang og introduserte en Wallet pass-redaktør. I mellomtiden satte en føderal dommer Utahs VPN-lokasjonsregler på vent. TechCrunch-reporter Sarah Perez kalte Apples kunngjøring for skudd. Målet forblir ubenvnt i Apples innlegg, som er en imponerende corporate måte å starte en krangel på. Apples dokumentasjon inkluderer Mail- og Meldinger-data,

Hva åpner Full Disk Access egentlig?

0:42 pluss Safari-data. Den inkluderer også Time Machine-sikkerhetskopier, slik at sikkerhetskopieringsappen din kan fungere. Apple sier dette i stor grad omgår andre personvernkontroller. Du gir det via Systeminnstillinger, og tillatelsen eksisterer allerede. Kunngjøringen lover ytterligere kontroller rundt den tillatelsen. På X svarte javi: Jeg håper du liker tillatelsesspørsmål. Det er utviklerspenningen i seks ord. Automatisering fortsetter å be oss om manuelt å godkjenne automatiseringen.

1:06 Hold imidlertid tillatelsene rett. Tilgjengelighet og automatisering har separate oppføringer i Apples guide. Å lese beskyttet data og kontrollere en annen app er forskjellige funksjoner, med forskjellige kontroller.

Hvorfor endrer autonome agenter innsatsen?

1:16 Et sikkerhetskopieringsprogram kopierer filene dine. En agent tolker det den leser og kan kalle verktøy for å handle på det. Mer autonomi gjør konsekvensene av bred tilgang vanskeligere å forutsi. Det finnes allerede et omstridt eksempel. Jason Aten sa at Metas Muse leste meldingene hans uten tillatelse. Meta sier at integrasjonen krever både full disk tilgang og dens Meldinger kobling. Apple navngir verken Muse eller en utrullingsdato. Det sier at brukere bør forstå denne tilgangen og gi den gjennom en svært eksplisitt

1:42 handling. Det faktiske grensesnittet forblir et manglende skjermbilde. Det er et dypere agentproblem her. En e-post eller nettside kan inneholde instruksjoner som prøver å omdirigere assistenten. Det er prompt injeksjon, og agenten møter den mens den gjør nyttig arbeid. Uavhengige forskere bygde Agent Dojo, med nitti syv oppgaver og seks hundre og tjue ni sikkerhetssaker. Den tester om upålitelige data tar over en agents verktøy.

2:04 Dette er historiske laboratorieresultater fra 2024. Apples fremtidige dialog har ikke blitt publisert, så ingen får en seiersrunde ennå. I en GPT fire null konfigurasjon lyktes det målrettede angrepet omtrent førti åtte prosent av tiden. Filtrering av tilgjengelige verktøy reduserte det til omtrent syv prosent, med en nyttig designleksjon.

Hva kan utviklere begrense før Apple sender ut?

2:21 Gi en assistent dataene og verktøyene oppgaven trenger. En prosjektmappe er en mindre inndataflate enn en hel konto. Lesetilgang kan også skilles fra tillatelse til å sende eller slette. Det er en produktavveining utviklere allerede lever med. Et terminal- eller sikkerhetskopieringsverktøy kan ha en legitim grunn til bred tilgang. Å fjerne det uforsiktig ville skape en svært sikker ødelagt arbeidsflyt. Så hva endrer Apple? Det uttalte målet er klarere, mer eksplisitt samtykke for ekstraordinær tilgang.

2:46 Vi trenger fortsatt implementeringen for å se hvordan den bevarer disse legitime bruksområdene.

Hva gjør Apples nye pass-redaktør egentlig?

2:50 Apple introduserte også Pass Designer, en visuell redaktør for Wallet-pass. Du starter med en mal, henter inn bildene dine, og forhåndsviser passet mens du redigerer. Apple sier forhåndsvisningen bruker samme gjengivelse som iPhone og Apple Watch. Den validerer felt og kan bygge et bakoverkompatibelt pass fra semantiske data. Semantiske tagger beskriver ting som flydetaljer og arrangementsdatoer. Konsertbilletten din kan endelig bli strukturerte data før den blir et uskarpt skjermbilde i noens familiegruppe-chat.

3:15 Betaversjonen krever macOS 27 eller nyere. Apple lister opp gratis registrering for nedlastingen. Dette hjelper med å designe pass; utstedelse og distribusjon krever sin egen arbeidsflyt.

Hvorfor kan ikke en nettside perfekt lokalisere en VPN-bruker?

3:24 Så er det Utah, hvor lovgivere ønsket at nettsteder med vokseninnhold skulle identifisere den reelle plasseringen til VPN-brukere eller blokkere dem. En føderal dommer har foreløpig blokkert de omstridte VPN-bestemmelsene. Electronic Frontier Foundation siterer retten som sier at geolokalisering perfeksjon er for tiden ikke mulig. Det viser seg at nettverksstakken fortsatt nekter å implementere funksjoner bare fordi en lovgiver åpnet en sak. En nettside ser VPN-serverens adresse.

3:49 Det etablerer ikke hvor personen sitter. Å behandle hver skjulte plassering som potensielt Utah presser kravet langt utover statens grenser. EFF siterer dommerens begrunnelse om at Aylo måtte verifisere tjueåtte millioner brukere for å garantere overholdelse. Det er kostnaden ved å kreve perfeksjon fra et signal som ikke kan levere det. Dette er en foreløpig ordre.

4:08 Den separate begrensningen på deling av VPN-informasjon ble ikke utfordret. Den juridiske diffen har fortsatt linjer igjen å vurdere. Alle tre historiene handler om grenser. En pass-redaktør kan sjekke et felt. En nettside ser en utgangsadresse. En agent får uansett hvilken tilgang det omkringliggende systemet faktisk gir. Og personen fra åpningen er den som sendte deg meldingen.

Hvem blir eksponert uten å klikke Tillat?

4:27 Apple advarer eksplisitt om personvernet deres også. Din tillatelse kan eksponere en samtale som inneholder noen andres data, og de klikket aldri på din Tillat-knapp. Slashdots overskrift kaller det økt risiko. Den bredere sirkelen er grunnen til at jeg bryr meg. Tillatelsesskjermen må forklare hva assistenten vil motta. Hvis du heller vil lese dette enn å høre meg si det, lander diffen i innboksen din hver morgen, gratis på the daily diff dot dev, lenke nedenfor.

4:49 Så dagens dom, NEEDS REVIEW.

Hva er min dom over Apples foreslåtte kontroller?

4:51 Jeg ønsker klarere samtykke og sneverere tilgang, med legitime arbeidsflyter bevart. Apples implementering vil avgjøre om det leveres. Abonner, trykk på bjellen, og fortell meg i kommentarene om du ville ha stemplet det annerledes. Og det er diffen for i dag. Jeg er Niko fra Axrisi. Merge responsibly.

Kilder

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com