+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple stabdo DI agentų veiklą

„Apple“ planuoja papildomas „macOS Full Disk Access“ (visiškos prieigos prie disko) valdymo priemones, nes autonominiai DI agentai padidina plataus duomenų prieinamumo riziką.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

„Apple“ planuoja papildomas „macOS Full Disk Access“ (visiškos prieigos prie disko) valdymo priemones, nes autonominiai DI agentai padidina plataus duomenų prieinamumo riziką. Nagrinėjame dabartinį leidimą, „Meta“ ginčijamą „Muse“ žinučių atvejį ir istorinius agentų saugumo įrodymus, tada aptariame „Pass Designer“ ir Jutos VPN vietos nustatymo taisykles. Verdiktas: NEEDS REVIEW.

Skaityti rašytinę versiją (anglų k.) ↗

Kas aptariama šiame vaizdo įraše

  • Kodėl vienas „Mac“ leidimas staiga kelia didesnę riziką?
  • Ką iš tikrųjų atveria visiškas disko prieinamumas?
  • Kodėl autonominiai agentai keičia statymus?
  • Ką kūrėjai gali apriboti prieš „Apple“ išleidžiant?
  • Ką iš tikrųjų daro naujas „Apple“ leidimų redaktorius?

Klausimai ir atsakymai

Ką programa gali skaityti, kai suteikiate jai visos disko prieigos leidimą „Mac“?

Visos disko prieigos leidimas apima apsaugotus duomenis, tokius kaip „Mail“, „Messages“ ir „Safari“ duomenis, taip pat „Time Machine“ atsargines kopijas, kad atsarginių kopijų kūrimo programa galėtų veikti. „Apple“ teigia, kad ši prieiga iš esmės apeina kitus privatumo valdiklius. Ją suteikiate per sistemos nustatymus, ir leidimas jau egzistuoja. „Apple“ pranešimas žada papildomus valdiklius, susijusius su tuo leidimu.

Žiūrėkite šią dalį 0:40 · developer.apple.com · support.apple.com

Kodėl autonominiai AI agentai daro plačią prieigą prie failų rizikingesnę nei atsarginių kopijų kūrimo programa?

Atsarginių kopijų programa kopijuoja jūsų failus, o agentas interpretuoja tai, ką perskaito, ir gali kviesti įrankius, kad veiktų pagal tai, todėl didesnis autonomiškumas daro plačios prieigos pasekmes sunkiau nuspėjamomis. El. laiškas ar tinklalapis gali turėti instrukcijų, kurios bando peradresuoti asistentą, o tai vadinama užklausos injekcija. „Apple“ teigia, kad vis labiau autonominiai agentai daro visos disko prieigos leidimą gerokai rizikingesniu.

Žiūrėkite šią dalį 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Kiek apribojus AI agento įrankius galima sumažinti užklausos injekcijos atakas?

„AgentDojo“ palyginamojoje analizėje, atliekant devyniasdešimt septynias užduotis ir šešis šimtus dvidešimt devynis saugumo atvejus, viena GPT keturių konfigūracija buvo sėkmingai atakuota maždaug keturiasdešimt aštuonis procentus laiko. Galimų įrankių filtravimas sumažino tai iki maždaug septynių procentų. Tai yra istoriniai laboratoriniai rezultatai nuo dviejų tūkstančių dvidešimt ketvirtųjų metų, todėl jie rodo dizaino pamoką, o ne tai, kaip veiks „Apple“ valdikliai.

Žiūrėkite šią dalį 2:21 · arxiv.org · agentdojo.spylab.ai

Kodėl federalinis teisėjas užblokavo Jutos VPN vietos taisykles?

Teisėjas preliminariai užblokavo ginčijamas VPN nuostatas. Elektroninės sienos fondas cituoja teismą, teigiantį, kad geolokacijos tobulumas šiuo metu neįmanomas. Svetainė mato VPN serverio adresą, kuris nenustato, kur sėdi asmuo. Įsakymas yra preliminarus, ir atskiras apribojimas dalintis VPN informacija nebuvo ginčijamas.

Žiūrėkite šią dalį 3:24 · www.eff.org

Ar „Apple“ planas sugriežtinti visos disko prieigos valdiklius yra gera idėja?

„The Daily Diff“ nuosprendis buvo „NEEDS REVIEW“. Epizodas reikalauja aiškesnio sutikimo ir siauresnės prieigos, išsaugant teisėtus darbo eigas, ir teigia, kad „Apple“ įgyvendinimas lems, ar tai bus įvykdyta. „Apple“ nepaskelbė dialogo ar išleidimo datos. Kito asmens privatumas taip pat yra pavojuje, nes jūsų leidimas gali atskleisti pokalbį, kuriame yra jų duomenys.

Žiūrėkite šią dalį 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

Kodėl vienas „Mac“ leidimas staiga kelia didesnę riziką?

0:00 Manoma, kad paspaudus „Leisti“, nusprendžiama, ką programa gali matyti. „Apple“ teigia, kad vis labiau autonominiai DI agentai daro „Full Disk Access“ iš esmės rizikingesniu, ir ji prideda kontrolės priemonių. Šiame vaizdo įraše, ką agentai gali skaityti? Ką keičia „Apple“? Kas dar lieka atidengtas? Kito asmens privatumas yra pavojuje jūsų „Mac“ kompiuteryje. Grįšime prie jų prieš verdiktą.

0:18 Šeštadienis, spalio trečia, ir tai yra The Daily Diff. Penktadienį „Apple“ perspėjo kūrėjus apie visišką prieigą prie disko ir pristatė „Wallet“ leidimų redaktorių. Tuo tarpu federalinis teisėjas sustabdė Jutos VPN vietos nustatymo taisykles. „TechCrunch“ reporterė Sarah Perez pavadino „Apple“ pranešimą „šūviais“. Tačiau taikinys lieka neįvardintas „Apple“ įraše, o tai yra įspūdingai korporatyvinis būdas pradėti ginčą. „Apple“ dokumentacija apima „Mail“ ir „Messages“ duomenis,

Ką iš tikrųjų atveria visiškas disko prieinamumas?

0:42 plius „Safari“ duomenis. Ji taip pat apima „Time Machine“ atsargines kopijas, kad jūsų atsarginių kopijų programa galėtų veikti. „Apple“ teigia, kad tai iš esmės aplenkia kitas privatumo kontrolės priemones. Jūs suteikiate ją per sistemos nustatymus, o leidimas jau egzistuoja. Pranešimas žada papildomas kontrolės priemones dėl šio leidimo. Tinkle X, javi atsakė: „Tikiuosi, kad jums patinka leidimų raginimai.“ Tai kūrėjų įtampa šešiais žodžiais. Automatika nuolat prašo mūsų rankiniu būdu patvirtinti automatizavimą.

1:06 Tačiau išlaikykite leidimus tvarkingus. Prieinamumas ir automatizavimas turi atskirus įrašus „Apple“ vadove. Saugomų duomenų skaitymas ir kitos programos valdymas yra skirtingos galimybės, su skirtingomis kontrolės priemonėmis.

Kodėl autonominiai agentai keičia statymus?

1:16 Atsarginė programa kopijuoja jūsų failus. Agentas interpretuoja tai, ką skaito, ir gali kviesti įrankius, kad atliktų veiksmus su jais. Didesnis autonomiškumas sunkina plataus prieinamumo pasekmių prognozavimą. Jau yra ginčijamas pavyzdys. Jason Aten sakė, kad „Meta“ „Muse“ skaitė jo žinutes be leidimo. „Meta“ teigia, kad integracijai reikalinga ir visiškas disko prieinamumas, ir jos „Messages“ jungtis. „Apple“ neįvardija nei „Muse“, nei išleidimo datos. Ji teigia, kad vartotojai turėtų suprasti šią prieigą ir suteikti ją labai aiškiu

1:42 veiksmu. Pati sąsaja lieka trūkstama ekrano nuotrauka. Čia yra gilesnė agentų problema. El. laiške ar tinklalapyje gali būti instrukcijos, kurios bando peradresuoti asistentą. Tai yra raginimo įpurškimas, ir agentas su juo susiduria atlikdamas naudingą darbą. Nepriklausomi tyrėjai sukūrė „Agent Dojo“, su devyniasdešimt septyniomis užduotimis ir šešiais šimtais dvidešimt devyniais saugumo atvejais. Jis tikrina, ar nepatikimi duomenys perima agento įrankius.

2:04 Tai yra istoriniai laboratorijos rezultatai iš 2024 metų. „Apple“ ateities dialogas nebuvo paskelbtas, todėl niekas dar negali džiaugtis pergale. Vienoje „GPT four oh“ konfigūracijoje tikslinis puolimas pavyko maždaug keturiasdešimt aštuoniais procentais atvejų. Galimų įrankių filtravimas sumažino tai iki maždaug septynių procentų, su naudinga dizaino pamoka.

Ką kūrėjai gali apriboti prieš „Apple“ išleidžiant?

2:21 Pateikite asistentui duomenis ir įrankius, kurių reikia užduočiai. Projekto aplankas yra mažesnis įvesties paviršius nei visa paskyra. Skaitymo prieiga taip pat gali būti atskirta nuo leidimo siųsti ar ištrinti. Tai yra produkto kompromisas, su kuriuo kūrėjai jau gyvena. Terminalas ar atsarginė programa gali turėti teisėtą priežastį plataus prieinamumo. Neatsargiai jį pašalinus, būtų sukurtas labai saugus, bet neveikiantis darbo procesas. Taigi, ką keičia „Apple“? Nurodytas tikslas yra aiškesnis, aiškesnis sutikimas dėl išskirtinės prieigos.

2:46 Mums vis dar reikia įgyvendinimo, kad pamatytume, kaip jis išsaugo tuos teisėtus naudojimo atvejus.

Ką iš tikrųjų daro naujas „Apple“ leidimų redaktorius?

2:50 „Apple“ taip pat pristatė „Pass Designer“, vizualinį „Wallet“ leidimų redaktorių. Pradedate nuo šablono, įkeliate savo vaizdus ir peržiūrite leidimą, kai redaguojate. „Apple“ teigia, kad peržiūra naudoja tą patį atvaizdavimą kaip „iPhone“ ir „Apple Watch“. Jis patvirtina laukus ir gali sukurti atgal suderinamą leidimą iš semantinių duomenų. Semantinės žymės aprašo tokius dalykus kaip skrydžio detalės ir įvykių datos. Jūsų koncerto bilietas pagaliau gali tapti struktūrizuotais duomenimis, prieš tampant išsiliejusia ekrano nuotrauka kažkieno šeimos grupiniame pokalbyje.

3:15 Beta versijai reikalinga „macOS 27“ ar naujesnė versija. „Apple“ nurodo nemokamą registraciją atsisiuntimui. Tai padeda kurti leidimus; jų išdavimui ir platinimui reikalingas atskiras darbo procesas.

Kodėl svetainė negali tiksliai nustatyti VPN vartotojo vietos?

3:24 Tada yra Juta, kur įstatymų leidėjai norėjo, kad suaugusiems skirtos svetainės nustatytų tikrąją VPN vartotojų vietą arba jas blokuotų. Federalinis teisėjas preliminariai užblokavo užginčytas VPN nuostatas. Elektroninės laisvės fondas (Electronic Frontier Foundation) cituoja teismą, sakantį, kad geografinės vietos nustatymo tobulumas šiuo metu neįmanomas. Pasirodo, tinklo protokolo krūva vis dar atsisako diegti funkcijas tik todėl, kad įstatymų leidžiamoji valdžia sukūrė bilietą. Svetainė mato VPN serverio adresą.

3:49 Tai nenustato, kur sėdi žmogus. Kiekvienos paslėptos vietos traktavimas kaip potencialios Jutos stumia reikalavimą toli už valstijos sienų. EFF cituoja teisėjo argumentą, kad „Aylo“ turėtų patikrinti dvidešimt aštuonis milijonus vartotojų, kad užtikrintų atitiktį. Tai yra kaina reikalaujant tobulumo iš signalo, kuris negali jo pateikti. Tai yra preliminarus įsakymas.

4:08 Atskira apribojimas dalintis VPN informacija nebuvo užginčytas. Teisinėje srityje dar yra eilučių, kurias reikia peržiūrėti. Visos trys istorijos sukasi aplink ribas. Leidimų redaktorius gali patikrinti lauką. Svetainė mato išėjimo adresą. Agentas gauna visą prieigą, kurią iš tikrųjų suteikia aplinkinė sistema. O asmuo iš įžangos yra tas, kas jums atsiuntė žinutę.

Kas lieka atidengtas, nepaspaudęs „Leisti“?

4:27 „Apple“ aiškiai perspėja ir apie jų privatumą. Jūsų leidimas gali atskleisti pokalbį, kuriame yra kito asmens duomenys, o jie niekada nepaspaudė jūsų mygtuko „Leisti“. „Slashdot“ antraštė vadina tai padidėjusia rizika. Šis platesnis ratas yra priežastis, kodėl man rūpi. Leidimo ekrane turi būti paaiškinta, ką asistentas gaus. Jei norite tai perskaityti, o ne išgirsti mane sakant, skirtumas ateina į jūsų pašto dėžutę kiekvieną rytą, nemokamai daily diff dot dev, nuoroda žemiau.

4:49 Taigi, šiandienos verdiktas, NEEDS REVIEW.

Koks mano verdiktas dėl „Apple“ siūlomų kontrolių?

4:51 Noriu aiškesnio sutikimo ir siauresnės prieigos, išlaikant teisėtus darbo procesus. „Apple“ įgyvendinimas nulems, ar tai bus pasiekta. Prenumeruokite, paspauskite varpelį ir pasakykite komentaruose, ar būtumėte pažymėję tai kitaip. Ir tai yra šiandienos skirtumas. Aš esu Niko iš Axrisi. Apjungti atsakingai.

Šaltiniai

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Susiję vaizdo įrašai