+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple zavira AI agente

Apple načrtuje dodatne kontrole za popoln dostop do diska v sistemu macOS, ker avtonomni AI agenti povečujejo tveganje širokega dostopa do podatkov.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple načrtuje dodatne kontrole za popoln dostop do diska v sistemu macOS, ker avtonomni AI agenti povečujejo tveganje širokega dostopa do podatkov. Preučujemo trenutno dovoljenje, sporni primer Meta's Muse sporočil in zgodovinske dokaze o varnosti agentov, nato pa obravnavamo Pass Designer in pravila države Utah o lokaciji VPN. Razsodba: NEEDS REVIEW.

Preberi pisno izdajo (angleščina) ↗

Kaj zajema ta videoposnetek

  • Zakaj je eno dovoljenje za Mac nenadoma večje tveganje?
  • Kaj dejansko odpre popoln dostop do diska?
  • Zakaj avtonomni agenti spremenijo vložke?
  • Kaj lahko razvijalci omejijo, preden Apple izda?
  • Kaj dejansko počne Applov novi urejevalnik passov?

Vprašanja in odgovori

Kaj lahko aplikacija prebere, če ji na Macu podelite popoln dostop do diska?

Popoln dostop do diska zajema zaščitene podatke, kot so podatki Mail, Sporočila in Safari, ter varnostne kopije Time Machine, da lahko aplikacija za varnostno kopiranje deluje. Apple pravi, da ta dostop v veliki meri obide druge nadzorne mehanizme za zasebnost. Podelite ga prek Sistemskih nastavitev in dovoljenje že obstaja. Applova napoved obljublja dodatne kontrole okoli te podelitve.

Glej ta del 0:40 · developer.apple.com · support.apple.com

Zakaj avtonomni agenti umetne inteligence naredijo širok dostop do datotek bolj tvegan kot aplikacija za varnostno kopiranje?

Program za varnostno kopiranje kopira vaše datoteke, medtem ko agent interpretira, kar prebere, in lahko pokliče orodja za delovanje na njih, zato večja avtonomija otežuje napovedovanje posledic širokega dostopa. E-pošta ali spletna stran lahko vsebuje navodila, ki poskušajo preusmeriti pomočnika, kar se imenuje vbrizgavanje pozivov. Apple pravi, da vse bolj avtonomni agenti bistveno povečujejo tveganje popolnega dostopa do diska.

Glej ta del 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Koliko lahko omejitev orodij agenta umetne inteligence zmanjša napade z vbrizgavanjem pozivov?

V primerjalni analizi AgentDojo, z sedemindevetdesetimi nalogami in šeststo devetindvajsetimi varnostnimi primeri, je bila ena konfiguracija GPT-4 uspešno napadena v približno osemintridesetih odstotkih primerov. Filtriranje razpoložljivih orodij je to zmanjšalo na približno sedem odstotkov. To so zgodovinski laboratorijski rezultati iz leta 2024, zato kažejo lekcijo o oblikovanju in ne o tem, kako bodo delovale Applove kontrole.

Glej ta del 2:21 · arxiv.org · agentdojo.spylab.ai

Zakaj je zvezni sodnik blokiral utaška pravila o lokaciji VPN?

Sodnik je predhodno blokiral sporne določbe VPN. Electronic Frontier Foundation citira sodišče, ki pravi, da popolnost geolokacije trenutno ni mogoča. Spletna stran vidi naslov strežnika VPN, kar ne določa, kje oseba sedi. Odredba je predhodna in ločena omejitev glede deljenja informacij VPN ni bila izpodbijana.

Glej ta del 3:24 · www.eff.org

Je Applov načrt za strožje kontrole popolnega dostopa do diska dobra ideja?

Sodba The Daily Diff je bila POTREBNA PREGLED. Epizoda želi jasnejše soglasje in ožji dostop z ohranjenimi legitimnimi poteki dela ter pravi, da bo Applova implementacija odločila, ali bo to uresničeno. Apple ni objavil nobenega dialoga ali datuma uvedbe. Ogrožena je tudi zasebnost druge osebe, saj lahko vaše dovoljenje razkrije pogovor, ki vsebuje njene podatke.

Glej ta del 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

Zakaj je eno dovoljenje za Mac nenadoma večje tveganje?

0:00 Mislili bi, da klik na »Dovoli« reši, kaj lahko aplikacija vidi. Apple pravi, da vse bolj avtonomni AI agenti bistveno povečujejo tveganje popolnega dostopa do diska in dodaja kontrole. V tem videu, kaj lahko agenti preberejo? Kaj spreminja Apple? Kdo je še izpostavljen? Na vašem Macu je v nevarnosti zasebnost nekoga drugega. Vrnil se bom k njim pred razsodbo.

0:18 Sobota, 3. oktober, in to je The Daily Diff. V petek je Apple opozoril razvijalce na popoln dostop do diska in predstavil urejevalnik Wallet passov. Medtem je zvezni sodnik začasno ustavil pravila države Utah o lokaciji VPN. Novinarka TechCrunch Sarah Perez je Applovo objavo označila za »streli so padli«. Tarča ostaja neimenovana v Applovi objavi, kar je impresivno korporativni način za začetek prepira. Applova dokumentacija vključuje podatke iz Maila in Messages,

Kaj dejansko odpre popoln dostop do diska?

0:42 plus podatke iz Safarija. Vključuje tudi varnostne kopije Time Machine, da lahko vaša aplikacija za varnostno kopiranje deluje. Apple pravi, da to v veliki meri zaobide druge kontrole zasebnosti. Dovoljenje podelite prek sistemskih nastavitev, in dovoljenje že obstaja. Objava obljublja dodatne kontrole v zvezi s to podelitvijo. Na X je javi odgovoril: »Upam, da so vam všeč pozivi za dovoljenja.« To je napetost med razvijalci v šestih besedah. Avtomatizacija nas nenehno prosi, naj ročno odobrimo avtomatizacijo.

1:06 Vendar pa naj bodo dovoljenja jasna. Dostopnost in avtomatizacija imata ločene vnose v Applovem vodniku. Branje zaščitenih podatkov in nadzor druge aplikacije so različne zmogljivosti, z različnimi kontrolami.

Zakaj avtonomni agenti spremenijo vložke?

1:16 Program za varnostno kopiranje kopira vaše datoteke. Agent interpretira, kar prebere, in lahko pokliče orodja za ukrepanje. Več avtonomije otežuje napovedovanje posledic širokega dostopa. Obstaja že sporni primer. Jason Aten je dejal, da je Meta's Muse bral njegova sporočila brez dovoljenja. Meta pravi, da integracija zahteva tako popoln dostop do diska kot njen priključek za Messages. Apple ne imenuje ne Muse ne datuma uvedbe. Pravi, da bi morali uporabniki razumeti ta dostop in ga podeliti z zelo eksplicitnim

1:42 dejanjem. Dejanski vmesnik ostaja manjkajoča posnetek zaslona. Tukaj je globlji problem agenta. E-pošta ali spletna stran lahko vsebuje navodila, ki poskušajo preusmeriti pomočnika. To je vbrizgavanje pozivov (prompt injection), in agent se z njim sreča med opravljanjem koristnega dela. Neodvisni raziskovalci so zgradili Agent Dojo, z sedemindevetdeset nalogami in šeststo devetindvajset varnostnimi primeri. Testira, ali nezaupljivi podatki prevzamejo orodja agenta.

2:04 To so zgodovinski laboratorijski rezultati iz leta 2024. Applovo prihodnje pogovorno okno še ni bilo objavljeno, zato še nihče ne zmaga. V eni konfiguraciji GPT four oh je bil ciljni napad uspešen približno oseminštirideset odstotkov časa. Filtriranje razpoložljivih orodij je to zmanjšalo na približno sedem odstotkov, s koristno lekcijo oblikovanja.

Kaj lahko razvijalci omejijo, preden Apple izda?

2:21 Pomočniku dajte podatke in orodja, ki jih naloga potrebuje. Projektna mapa je manjša vhodna površina kot celoten račun. Dostop za branje se lahko loči tudi od dovoljenja za pošiljanje ali brisanje. To je kompromis izdelka, s katerim razvijalci že živijo. Terminal ali pripomoček za varnostno kopiranje ima lahko zakonit razlog za širok dostop. Nepazljivo odstranjevanje bi ustvarilo zelo varen, a pokvarjen potek dela. Torej, kaj Apple spreminja? Navedeni cilj je jasnejše, bolj eksplicitno soglasje za izjemen dostop.

2:46 Implementacija bo morala pokazati, kako ohranja te zakonite uporabe.

Kaj dejansko počne Applov novi urejevalnik passov?

2:50 Apple je predstavil tudi Pass Designer, vizualni urejevalnik za Wallet passe. Začnete s predlogo, dodate svoje slike in si ogledate pass med urejanjem. Apple pravi, da predogled uporablja isto upodabljanje kot iPhone in Apple Watch. Potrjuje polja in lahko ustvari nazaj združljiv pass iz semantičnih podatkov. Semantične oznake opisujejo stvari, kot so podrobnosti o letu in datumi dogodkov. Vaša vstopnica za koncert lahko končno postane strukturirani podatki, preden postane zamegljena posnetek zaslona v nečigavem družinskem skupinskem klepetu.

3:15 Beta različica zahteva macOS 27 ali novejši. Apple navaja brezplačno registracijo za prenos. To pomaga pri oblikovanju passov; izdaja in distribucija zahtevata svoj potek dela.

Zakaj spletna stran ne more popolnoma locirati uporabnika VPN?

3:24 Potem je tu še Utah, kjer so zakonodajalci želeli, da pokrite spletne strani za odrasle identificirajo dejansko lokacijo uporabnikov VPN ali jih blokirajo. Zvezni sodnik je predhodno blokiral sporne določbe o VPN. Electronic Frontier Foundation citira sodišče, ki pravi, da geolokacija popolnost trenutno ni mogoča. Izkazalo se je, da omrežni sklad še vedno zavrača implementacijo funkcij samo zato, ker je zakonodaja odprla vstopnico. Spletna stran vidi naslov VPN strežnika.

3:49 To ne določa, kje sedi oseba. Obravnavanje vsake skrite lokacije kot potencialno Utah potisne zahtevo daleč prek meja države. EFF citira sodnikovo utemeljitev, da bi Aylo moral preveriti osemindvajset milijonov uporabnikov, da bi zagotovil skladnost. To je strošek zahtevanja popolnosti od signala, ki je ne more zagotoviti. To je predhodni nalog.

4:08 Ločena omejitev glede deljenja informacij o VPN ni bila izpodbijana. Pravni diff ima še vedno vrstice za pregled. Vse tri zgodbe se vrtijo okoli meja. Urejevalnik passov lahko preveri polje. Spletna stran vidi izhodni naslov. Agent dobi dostop, ki ga dejansko dodeli okoliški sistem. In oseba z začetka je kdor koli, ki vam je poslal sporočilo.

Kdo je izpostavljen, ne da bi kliknil »Dovoli«?

4:27 Apple izrecno opozarja tudi na njihovo zasebnost. Vaše dovoljenje lahko izpostavi pogovor, ki vsebuje podatke nekoga drugega, in oni niso nikoli kliknili vašega gumba »Dovoli«. Naslov Slashdota to imenuje povečano tveganje. Ta širši krog je razlog, zakaj mi je mar. Zaslon z dovoljenji mora pojasniti, kaj bo pomočnik prejel. Če bi raje to prebrali, kot pa da me slišite to povedati, diff pristane v vašem nabiralniku vsako jutro, brezplačno na daily diff dot dev, povezava spodaj.

4:49 Torej, današnja razsodba, NEEDS REVIEW.

Kakšna je moja razsodba o Applovih predlaganih kontrolah?

4:51 Želim jasnejše soglasje in ožji dostop, z ohranjenimi zakonitimi poteki dela. Applova implementacija bo odločila, ali bo to omogočila. Naročite se, kliknite zvonec in mi v komentarjih povejte, če bi to označili drugače. In to je diff za danes. Sem Niko iz Axrisi. Združujte odgovorno.

Viri

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Povezani videoposnetki