Apple koči AI agente

Što ovaj video pokriva

• Zašto je jedno Mac dopuštenje odjednom veći rizik?
• Što zapravo otvara Full Disk Access?
• Zašto autonomni agenti mijenjaju uloge?
• Što programeri mogu ograničiti prije nego što Apple isporuči?
• Što zapravo radi Appleov novi uređivač propusnica?

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

Zašto je jedno Mac dopuštenje odjednom veći rizik?

0:00 Mislili biste da klikom na Dopusti odlučujete što aplikacija može vidjeti. Apple kaže da sve autonomniji AI agenti čine Full Disk Access značajno rizičnijim i dodaje kontrole. U ovom videu, što agenti mogu čitati? Što Apple mijenja? Tko je još izložen? Tuđa je privatnost u pitanju na vašem Macu. Vratit ćemo im se prije presude.

0:18 Subota je, treći listopad, i ovo je The Daily Diff. U petak je Apple upozorio programere na puni pristup disku i predstavio urednik Wallet propusnica. U međuvremenu, savezni sudac privremeno je suspendirao pravila o VPN lokaciji u Utahu. Reporterka TechCruncha Sarah Perez nazvala je Appleovu objavu "ispaljeni hici". Meta ostaje neimenovana u Appleovoj objavi, što je impresivno korporativan način započinjanja rasprave. Appleova dokumentacija uključuje podatke o Mailu i Porukama,

Što zapravo otvara Full Disk Access?

0:42 plus Safari podaci. Uključuje i Time Machine sigurnosne kopije, tako da vaša aplikacija za sigurnosno kopiranje može raditi. Apple kaže da ovo uvelike zaobilazi druge kontrole privatnosti. Dajete ga putem System Settings, a dopuštenje već postoji. Objava obećava dodatne kontrole oko tog davanja. Na X-u, javi je odgovorio: "Nadam se da volite upite za dopuštenje." To je napetost programera u šest riječi. Automatizacija nas stalno traži da ručno odobrimo automatizaciju.

1:06 Ipak, držite dopuštenja ispravnima. Pristupačnost i automatizacija imaju zasebne unose u Appleovom vodiču. Čitanje zaštićenih podataka i kontrola druge aplikacije su različite mogućnosti, s različitim kontrolama.

Zašto autonomni agenti mijenjaju uloge?

1:16 Program za sigurnosno kopiranje kopira vaše datoteke. Agent interpretira ono što čita i može pozvati alate da djeluju na to. Veća autonomija čini posljedice širokog pristupa težima za predviđanje. Već postoji sporni primjer. Jason Aten rekao je da je Meta-in Muse čitao njegove poruke bez dopuštenja. Meta kaže da integracija zahtijeva i potpuni pristup disku i njezin Messages konektor. Apple ne imenuje ni Muse ni datum objave. Kaže da bi korisnici trebali razumjeti ovaj pristup i dodijeliti ga vrlo eksplicitnom

1:42 radnjom. Stvarno sučelje ostaje neobjavljena snimka zaslona. Ovdje postoji dublji problem agenta. E-pošta ili web-stranica mogu sadržavati upute koje pokušavaju preusmjeriti asistenta. To je "prompt injection", a agent ga susreće dok obavlja koristan posao. Nezavisni istraživači izgradili su Agent Dojo, s devedeset sedam zadataka i šest stotina dvadeset i devet sigurnosnih slučajeva. Testira preuzima li nepouzdani podatak alate agenta.

2:04 Ovo su povijesni laboratorijski rezultati iz 2024. godine. Appleov budući dijalog još nije objavljen, tako da nitko još ne dobiva pobjednički krug. U jednoj GPT-4 konfiguraciji, ciljani napad uspio je oko četrdeset osam posto vremena. Filtriranje dostupnih alata svelo je to na oko sedam posto, s korisnom lekcijom dizajna.

Što programeri mogu ograničiti prije nego što Apple isporuči?

2:21 Dajte asistentu podatke i alate koje zadatak zahtijeva. Mapa projekta je manja ulazna površina od cijelog računa. Pristup čitanju također se može odvojiti od dopuštenja za slanje ili brisanje. To je kompromis proizvoda s kojim programeri već žive. Terminal ili uslužni program za sigurnosno kopiranje mogu imati legitiman razlog za široki pristup. Nepromišljeno uklanjanje stvorilo bi vrlo siguran, ali pokvaren radni tok. Dakle, što Apple mijenja? Navedeni cilj je jasniji, eksplicitniji pristanak za izvanredan pristup.

2:46 Još uvijek nam je potrebna implementacija da vidimo kako čuva te legitimne uporabe.

Što zapravo radi Appleov novi uređivač propusnica?

2:50 Apple je također predstavio Pass Designer, vizualni uređivač za Wallet propusnice. Počinjete s predloškom, unosite svoje slike i pregledavate propusnicu dok je uređujete. Apple kaže da pregled koristi isto renderiranje kao iPhone i Apple Watch. Validira polja i može izgraditi unatrag kompatibilnu propusnicu iz semantičkih podataka. Semantičke oznake opisuju stvari poput detalja leta i datuma događaja. Vaša ulaznica za koncert konačno može postati strukturirani podatak prije nego što postane mutna snimka zaslona u nečijem obiteljskom grupnom chatu.

3:15 Beta verzija zahtijeva macOS 27 ili noviji. Apple navodi besplatnu registraciju za preuzimanje. To pomaže u dizajniranju propusnica; izdavanje i distribucija zahtijevaju vlastiti tijek rada.

Zašto web stranica ne može savršeno locirati korisnika VPN-a?

3:24 Zatim je tu Utah, gdje su zakonodavci željeli da pokrivene web stranice za odrasle identificiraju stvarnu lokaciju korisnika VPN-a ili ih blokiraju. Savezni sudac preliminarno je blokirao osporene odredbe o VPN-u. Electronic Frontier Foundation citira sud rekavši da je geolokacijska savršenost trenutno nemoguća. Ispostavilo se da mrežni stog i dalje odbija implementirati značajke samo zato što je zakonodavno tijelo otvorilo tiket. Web stranica vidi adresu VPN poslužitelja.

3:49 To ne utvrđuje gdje osoba sjedi. Tretiranje svake skrivene lokacije kao potencijalno Utah gura zahtjev daleko izvan granica države. EFF citira obrazloženje suca da bi Aylo trebao provjeriti dvadeset osam milijuna korisnika kako bi osigurao usklađenost. To je cijena zahtijevanja savršenosti od signala koji je ne može pružiti. Ovo je preliminarna odluka.

4:08 Zasebno ograničenje dijeljenja VPN informacija nije osporeno. Pravni diff još uvijek ima linije za pregled. Sve tri priče se svode na granice. Uređivač propusnica može provjeriti polje. Web stranica vidi izlaznu adresu. Agent dobiva pristup koji mu stvarno dodjeljuje okolni sustav. A osoba s početka je tko god vam je poslao poruku.

Tko je izložen bez klika na Dopusti?

4:27 Apple izričito upozorava i na njihovu privatnost. Vaše dopuštenje može otkriti razgovor koji sadrži tuđe podatke, a oni nikad nisu kliknuli vaš gumb Dopusti. Naslov Slashdota naziva to povećanim rizikom. Taj širi krug je razlog zašto mi je stalo. Ekran s dopuštenjem mora objasniti što će asistent primiti. Ako ovo radije čitate nego da me slušate, diff stiže u vaš inbox svako jutro, besplatno na the daily diff dot dev, link ispod.

4:49 Dakle, današnja presuda, NEEDS REVIEW.

Kakva je moja presuda o Appleovim predloženim kontrolama?

4:51 Želim jasniji pristanak i uži pristup, uz očuvane legitimne radne tijekove. Appleova implementacija odlučit će hoće li to ispuniti. Pretplatite se, kliknite zvono i recite mi u komentarima da li biste to drugačije ocijenili. I to je diff za danas. Ja sam Niko iz Axrisija. Spajajte odgovorno.

Izvori

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com