Apple zavira AI agente

Kaj zajema ta videoposnetek

• Zakaj je eno dovoljenje za Mac nenadoma večje tveganje?
• Kaj dejansko odpre popoln dostop do diska?
• Zakaj avtonomni agenti spremenijo vložke?
• Kaj lahko razvijalci omejijo, preden Apple izda?
• Kaj dejansko počne Applov novi urejevalnik passov?

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

Zakaj je eno dovoljenje za Mac nenadoma večje tveganje?

0:00 Mislili bi, da klik na »Dovoli« reši, kaj lahko aplikacija vidi. Apple pravi, da vse bolj avtonomni AI agenti bistveno povečujejo tveganje popolnega dostopa do diska in dodaja kontrole. V tem videu, kaj lahko agenti preberejo? Kaj spreminja Apple? Kdo je še izpostavljen? Na vašem Macu je v nevarnosti zasebnost nekoga drugega. Vrnil se bom k njim pred razsodbo.

0:18 Sobota, 3. oktober, in to je The Daily Diff. V petek je Apple opozoril razvijalce na popoln dostop do diska in predstavil urejevalnik Wallet passov. Medtem je zvezni sodnik začasno ustavil pravila države Utah o lokaciji VPN. Novinarka TechCrunch Sarah Perez je Applovo objavo označila za »streli so padli«. Tarča ostaja neimenovana v Applovi objavi, kar je impresivno korporativni način za začetek prepira. Applova dokumentacija vključuje podatke iz Maila in Messages,

Kaj dejansko odpre popoln dostop do diska?

0:42 plus podatke iz Safarija. Vključuje tudi varnostne kopije Time Machine, da lahko vaša aplikacija za varnostno kopiranje deluje. Apple pravi, da to v veliki meri zaobide druge kontrole zasebnosti. Dovoljenje podelite prek sistemskih nastavitev, in dovoljenje že obstaja. Objava obljublja dodatne kontrole v zvezi s to podelitvijo. Na X je javi odgovoril: »Upam, da so vam všeč pozivi za dovoljenja.« To je napetost med razvijalci v šestih besedah. Avtomatizacija nas nenehno prosi, naj ročno odobrimo avtomatizacijo.

1:06 Vendar pa naj bodo dovoljenja jasna. Dostopnost in avtomatizacija imata ločene vnose v Applovem vodniku. Branje zaščitenih podatkov in nadzor druge aplikacije so različne zmogljivosti, z različnimi kontrolami.

Zakaj avtonomni agenti spremenijo vložke?

1:16 Program za varnostno kopiranje kopira vaše datoteke. Agent interpretira, kar prebere, in lahko pokliče orodja za ukrepanje. Več avtonomije otežuje napovedovanje posledic širokega dostopa. Obstaja že sporni primer. Jason Aten je dejal, da je Meta's Muse bral njegova sporočila brez dovoljenja. Meta pravi, da integracija zahteva tako popoln dostop do diska kot njen priključek za Messages. Apple ne imenuje ne Muse ne datuma uvedbe. Pravi, da bi morali uporabniki razumeti ta dostop in ga podeliti z zelo eksplicitnim

1:42 dejanjem. Dejanski vmesnik ostaja manjkajoča posnetek zaslona. Tukaj je globlji problem agenta. E-pošta ali spletna stran lahko vsebuje navodila, ki poskušajo preusmeriti pomočnika. To je vbrizgavanje pozivov (prompt injection), in agent se z njim sreča med opravljanjem koristnega dela. Neodvisni raziskovalci so zgradili Agent Dojo, z sedemindevetdeset nalogami in šeststo devetindvajset varnostnimi primeri. Testira, ali nezaupljivi podatki prevzamejo orodja agenta.

2:04 To so zgodovinski laboratorijski rezultati iz leta 2024. Applovo prihodnje pogovorno okno še ni bilo objavljeno, zato še nihče ne zmaga. V eni konfiguraciji GPT four oh je bil ciljni napad uspešen približno oseminštirideset odstotkov časa. Filtriranje razpoložljivih orodij je to zmanjšalo na približno sedem odstotkov, s koristno lekcijo oblikovanja.

Kaj lahko razvijalci omejijo, preden Apple izda?

2:21 Pomočniku dajte podatke in orodja, ki jih naloga potrebuje. Projektna mapa je manjša vhodna površina kot celoten račun. Dostop za branje se lahko loči tudi od dovoljenja za pošiljanje ali brisanje. To je kompromis izdelka, s katerim razvijalci že živijo. Terminal ali pripomoček za varnostno kopiranje ima lahko zakonit razlog za širok dostop. Nepazljivo odstranjevanje bi ustvarilo zelo varen, a pokvarjen potek dela. Torej, kaj Apple spreminja? Navedeni cilj je jasnejše, bolj eksplicitno soglasje za izjemen dostop.

2:46 Implementacija bo morala pokazati, kako ohranja te zakonite uporabe.

Kaj dejansko počne Applov novi urejevalnik passov?

2:50 Apple je predstavil tudi Pass Designer, vizualni urejevalnik za Wallet passe. Začnete s predlogo, dodate svoje slike in si ogledate pass med urejanjem. Apple pravi, da predogled uporablja isto upodabljanje kot iPhone in Apple Watch. Potrjuje polja in lahko ustvari nazaj združljiv pass iz semantičnih podatkov. Semantične oznake opisujejo stvari, kot so podrobnosti o letu in datumi dogodkov. Vaša vstopnica za koncert lahko končno postane strukturirani podatki, preden postane zamegljena posnetek zaslona v nečigavem družinskem skupinskem klepetu.

3:15 Beta različica zahteva macOS 27 ali novejši. Apple navaja brezplačno registracijo za prenos. To pomaga pri oblikovanju passov; izdaja in distribucija zahtevata svoj potek dela.

Zakaj spletna stran ne more popolnoma locirati uporabnika VPN?

3:24 Potem je tu še Utah, kjer so zakonodajalci želeli, da pokrite spletne strani za odrasle identificirajo dejansko lokacijo uporabnikov VPN ali jih blokirajo. Zvezni sodnik je predhodno blokiral sporne določbe o VPN. Electronic Frontier Foundation citira sodišče, ki pravi, da geolokacija popolnost trenutno ni mogoča. Izkazalo se je, da omrežni sklad še vedno zavrača implementacijo funkcij samo zato, ker je zakonodaja odprla vstopnico. Spletna stran vidi naslov VPN strežnika.

3:49 To ne določa, kje sedi oseba. Obravnavanje vsake skrite lokacije kot potencialno Utah potisne zahtevo daleč prek meja države. EFF citira sodnikovo utemeljitev, da bi Aylo moral preveriti osemindvajset milijonov uporabnikov, da bi zagotovil skladnost. To je strošek zahtevanja popolnosti od signala, ki je ne more zagotoviti. To je predhodni nalog.

4:08 Ločena omejitev glede deljenja informacij o VPN ni bila izpodbijana. Pravni diff ima še vedno vrstice za pregled. Vse tri zgodbe se vrtijo okoli meja. Urejevalnik passov lahko preveri polje. Spletna stran vidi izhodni naslov. Agent dobi dostop, ki ga dejansko dodeli okoliški sistem. In oseba z začetka je kdor koli, ki vam je poslal sporočilo.

Kdo je izpostavljen, ne da bi kliknil »Dovoli«?

4:27 Apple izrecno opozarja tudi na njihovo zasebnost. Vaše dovoljenje lahko izpostavi pogovor, ki vsebuje podatke nekoga drugega, in oni niso nikoli kliknili vašega gumba »Dovoli«. Naslov Slashdota to imenuje povečano tveganje. Ta širši krog je razlog, zakaj mi je mar. Zaslon z dovoljenji mora pojasniti, kaj bo pomočnik prejel. Če bi raje to prebrali, kot pa da me slišite to povedati, diff pristane v vašem nabiralniku vsako jutro, brezplačno na daily diff dot dev, povezava spodaj.

4:49 Torej, današnja razsodba, NEEDS REVIEW.

Kakšna je moja razsodba o Applovih predlaganih kontrolah?

4:51 Želim jasnejše soglasje in ožji dostop, z ohranjenimi zakonitimi poteki dela. Applova implementacija bo odločila, ali bo to omogočila. Naročite se, kliknite zvonec in mi v komentarjih povejte, če bi to označili drugače. In to je diff za danes. Sem Niko iz Axrisi. Združujte odgovorno.

Viri

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com