Apple pune frână Agenților AI

Ce acoperă acest videoclip

• De ce o permisiune Mac devine brusc un risc mai mare?
• Ce deschide de fapt Full Disk Access?
• De ce agenții autonomi schimbă mizele?
• Ce pot limita dezvoltatorii înainte ca Apple să lanseze?
• Ce face de fapt noul editor de permisiuni Apple?

Transcrierea tradusă

Tradus din narațiunea originală în engleză. Audio-ul și subtitrările disponibile sunt controlate de YouTube.

De ce o permisiune Mac devine brusc un risc mai mare?

0:00 Ai crede că un clic pe Permite stabilește ce poate vedea o aplicație. Apple spune că agenții AI din ce în ce mai autonomi fac accesul complet la disc substanțial mai riscant, și adaugă controale. În acest videoclip, ce pot citi agenții? Ce schimbă Apple? Cine mai este expus? Confidențialitatea altcuiva este în joc pe Mac-ul tău. Ne vom întoarce la ei înainte de verdict.

0:18 Este sâmbătă, trei octombrie, și acesta este The Daily Diff. Vineri, Apple a avertizat dezvoltatorii cu privire la accesul complet la disc și a introdus un editor de permisiuni Wallet. Între timp, un judecător federal a suspendat regulile Utah privind locația VPN. Reporterul TechCrunch, Sarah Perez, a numit anunțul Apple „focuri de avertisment”. Ținta rămâne nenumită în postarea Apple, ceea ce este o manieră impresionant de corporatistă de a începe o discuție. Documentația Apple include date din Mail și Mesaje,

Ce deschide de fapt Full Disk Access?

0:42 plus date din Safari. Include, de asemenea, backup-uri Time Machine, astfel încât aplicația ta de backup să poată funcționa. Apple spune că acest lucru ocolește în mare măsură alte controale de confidențialitate. Acordarea se face prin Setări sistem, iar permisiunea există deja. Anunțul promite controale suplimentare în jurul acestei acordări. Pe X, javi a răspuns: „Sper că vă plac solicitările de permisiune.” Aceasta este tensiunea dezvoltatorilor în șase cuvinte. Automatizarea ne cere în continuare să aprobăm manual automatizarea.

1:06 Păstrați permisiunile clare, totuși. Accesibilitatea și automatizarea au intrări separate în ghidul Apple. Citirea datelor protejate și controlul unei alte aplicații sunt capabilități diferite, cu controale diferite.

De ce agenții autonomi schimbă mizele?

1:16 Un program de backup copiază fișierele tale. Un agent interpretează ceea ce citește și poate apela instrumente pentru a acționa asupra acestuia. O autonomie mai mare face ca consecințele accesului amplu să fie mai greu de prezis. Există deja un exemplu disputat. Jason Aten a spus că Muse de la Meta i-a citit mesajele fără permisiune. Meta spune că integrarea necesită atât acces complet la disc, cât și conectorul său de mesaje. Apple nu numește nici Muse, nici o dată de lansare. Spune că utilizatorii ar trebui să înțeleagă acest acces și să-l acorde printr-o acțiune foarte explicită.

1:42 Interfața reală rămâne o captură de ecran lipsă. Există o problemă mai profundă a agenților aici. Un e-mail sau o pagină web poate conține instrucțiuni care încearcă să redirecționeze asistentul. Aceasta este injectarea de prompt, iar agentul o întâlnește în timp ce face muncă utilă. Cercetători independenți au construit Agent Dojo, cu nouăzeci și șapte de sarcini și șase sute douăzeci și nouă de cazuri de securitate. Testează dacă datele neîncredere preiau controlul asupra instrumentelor unui agent.

2:04 Acestea sunt rezultate istorice de laborator din două mii douăzeci și patru. Dialogul viitor al Apple nu a fost publicat, așa că nimeni nu obține încă o victorie. Într-o configurație GPT-4.0, atacul țintit a reușit în aproximativ patruzeci și opt la sută din cazuri. Filtrarea instrumentelor disponibile a redus acest procent la aproximativ șapte la sută, cu o lecție utilă de design. Oferiți unui asistent datele și instrumentele de care are nevoie sarcina.

Ce pot limita dezvoltatorii înainte ca Apple să lanseze?

2:21 Un folder de proiect este o suprafață de intrare mai mică decât un cont întreg. Accesul de citire poate fi, de asemenea, separat de permisiunea de a trimite sau șterge. Acesta este un compromis de produs cu care dezvoltatorii trăiesc deja. Un utilitar de terminal sau de backup poate avea un motiv legitim pentru acces amplu. Îndepărtarea neglijentă ar crea un flux de lucru foarte sigur, dar rupt. Deci, ce schimbă Apple? Scopul declarat este un consimțământ mai clar și mai explicit pentru accesul extraordinar. Avem încă nevoie de implementare pentru a vedea cum păstrează acele utilizări legitime.

2:46 Apple a introdus, de asemenea, Pass Designer, un editor vizual pentru permisiunile Wallet.

Ce face de fapt noul editor de permisiuni Apple?

2:50 Începeți cu un șablon, aduceți imaginile și previzualizați permisiunea pe măsură ce o editați. Apple spune că previzualizarea utilizează aceeași redare ca iPhone și Apple Watch. Validează câmpurile și poate construi o permisiune compatibilă invers din date semantice. Etichetele semantice descriu lucruri precum detaliile zborului și datele evenimentelor. Biletul tău de concert poate deveni în sfârșit date structurate înainte de a deveni o captură de ecran neclară într-un chat de grup familial al cuiva. Versiunea beta necesită macOS 27 sau o versiune ulterioară.

3:15 Apple listează înregistrarea gratuită pentru descărcare. Acest lucru ajută la proiectarea permisiunilor; emiterea și distribuirea lor necesită propriul flux de lucru. Apoi este Utah, unde legiuitorii au vrut ca site-urile web pentru adulți să identifice

De ce un site web nu poate localiza perfect un utilizator VPN?

3:24 locația reală a utilizatorilor VPN sau să-i blocheze. Un judecător federal a blocat provizoriu prevederile contestate privind VPN-ul. Electronic Frontier Foundation citează instanța spunând că perfecțiunea geolocalizării nu este posibilă în prezent. Se pare că stiva de rețea refuză în continuare să implementeze funcții doar pentru că o legislatură a deschis un bilet. Un site web vede adresa serverului VPN. Asta nu stabilește unde stă persoana.

3:49 Tratând fiecare locație ascunsă ca potențial Utah împinge cerința mult dincolo de granițele statului. EFF citează raționamentul judecătorului că Aylo ar trebui să verifice douăzeci și opt de milioane de utilizatori pentru a garanta conformitatea. Acesta este costul cererii de perfecțiune de la un semnal care nu o poate furniza. Aceasta este o ordine preliminară. Restricția separată privind partajarea informațiilor VPN nu a fost contestată.

4:08 Diferența legală mai are rânduri de revizuit. Toate cele trei povestiri se bazează pe limite. Un editor de permisiuni poate verifica un câmp. Un site web vede o adresă de ieșire. Un agent primește orice acces pe care sistemul înconjurător îl acordă de fapt. Și persoana de la început este oricine ți-a trimis mesajul. Apple avertizează explicit și despre confidențialitatea lor.

Cine este expus fără să facă clic pe Permite?

4:27 Permisiunea ta poate expune o conversație care conține datele altcuiva, și ei nu au făcut niciodată clic pe butonul tău Permite. Titlul Slashdot o numește risc crescut. Acest cerc mai larg este motivul pentru care îmi pasă. Ecranul de permisiuni trebuie să explice ce va primi asistentul. Dacă preferați să citiți asta decât să mă auziți spunând-o, diff-ul ajunge în inbox-ul dvs. în fiecare dimineață, gratuit la thedailydiff.dev, link mai jos. Deci verdictul de astăzi, NECESITĂ REVIZUIRE.

4:49 Vreau un consimțământ mai clar și

Care este verdictul meu cu privire la controalele propuse de Apple?

4:51 un acces mai restrâns, cu fluxuri de lucru legitime păstrate. Implementarea Apple va decide dacă va livra. Abonați-vă, apăsați clopoțelul și spuneți-mi în comentarii dacă ați fi ștampilat-o diferit. Și asta este diferența pentru astăzi. Sunt Niko de la Axrisi. Îmbinați responsabil. Mergeți responsabil.

Surse

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com