Apple stabdo DI agentų veiklą

Kas aptariama šiame vaizdo įraše

• Kodėl vienas „Mac“ leidimas staiga kelia didesnę riziką?
• Ką iš tikrųjų atveria visiškas disko prieinamumas?
• Kodėl autonominiai agentai keičia statymus?
• Ką kūrėjai gali apriboti prieš „Apple“ išleidžiant?
• Ką iš tikrųjų daro naujas „Apple“ leidimų redaktorius?

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

Kodėl vienas „Mac“ leidimas staiga kelia didesnę riziką?

0:00 Manoma, kad paspaudus „Leisti“, nusprendžiama, ką programa gali matyti. „Apple“ teigia, kad vis labiau autonominiai DI agentai daro „Full Disk Access“ iš esmės rizikingesniu, ir ji prideda kontrolės priemonių. Šiame vaizdo įraše, ką agentai gali skaityti? Ką keičia „Apple“? Kas dar lieka atidengtas? Kito asmens privatumas yra pavojuje jūsų „Mac“ kompiuteryje. Grįšime prie jų prieš verdiktą.

0:18 Šeštadienis, spalio trečia, ir tai yra The Daily Diff. Penktadienį „Apple“ perspėjo kūrėjus apie visišką prieigą prie disko ir pristatė „Wallet“ leidimų redaktorių. Tuo tarpu federalinis teisėjas sustabdė Jutos VPN vietos nustatymo taisykles. „TechCrunch“ reporterė Sarah Perez pavadino „Apple“ pranešimą „šūviais“. Tačiau taikinys lieka neįvardintas „Apple“ įraše, o tai yra įspūdingai korporatyvinis būdas pradėti ginčą. „Apple“ dokumentacija apima „Mail“ ir „Messages“ duomenis,

Ką iš tikrųjų atveria visiškas disko prieinamumas?

0:42 plius „Safari“ duomenis. Ji taip pat apima „Time Machine“ atsargines kopijas, kad jūsų atsarginių kopijų programa galėtų veikti. „Apple“ teigia, kad tai iš esmės aplenkia kitas privatumo kontrolės priemones. Jūs suteikiate ją per sistemos nustatymus, o leidimas jau egzistuoja. Pranešimas žada papildomas kontrolės priemones dėl šio leidimo. Tinkle X, javi atsakė: „Tikiuosi, kad jums patinka leidimų raginimai.“ Tai kūrėjų įtampa šešiais žodžiais. Automatika nuolat prašo mūsų rankiniu būdu patvirtinti automatizavimą.

1:06 Tačiau išlaikykite leidimus tvarkingus. Prieinamumas ir automatizavimas turi atskirus įrašus „Apple“ vadove. Saugomų duomenų skaitymas ir kitos programos valdymas yra skirtingos galimybės, su skirtingomis kontrolės priemonėmis.

Kodėl autonominiai agentai keičia statymus?

1:16 Atsarginė programa kopijuoja jūsų failus. Agentas interpretuoja tai, ką skaito, ir gali kviesti įrankius, kad atliktų veiksmus su jais. Didesnis autonomiškumas sunkina plataus prieinamumo pasekmių prognozavimą. Jau yra ginčijamas pavyzdys. Jason Aten sakė, kad „Meta“ „Muse“ skaitė jo žinutes be leidimo. „Meta“ teigia, kad integracijai reikalinga ir visiškas disko prieinamumas, ir jos „Messages“ jungtis. „Apple“ neįvardija nei „Muse“, nei išleidimo datos. Ji teigia, kad vartotojai turėtų suprasti šią prieigą ir suteikti ją labai aiškiu

1:42 veiksmu. Pati sąsaja lieka trūkstama ekrano nuotrauka. Čia yra gilesnė agentų problema. El. laiške ar tinklalapyje gali būti instrukcijos, kurios bando peradresuoti asistentą. Tai yra raginimo įpurškimas, ir agentas su juo susiduria atlikdamas naudingą darbą. Nepriklausomi tyrėjai sukūrė „Agent Dojo“, su devyniasdešimt septyniomis užduotimis ir šešiais šimtais dvidešimt devyniais saugumo atvejais. Jis tikrina, ar nepatikimi duomenys perima agento įrankius.

2:04 Tai yra istoriniai laboratorijos rezultatai iš 2024 metų. „Apple“ ateities dialogas nebuvo paskelbtas, todėl niekas dar negali džiaugtis pergale. Vienoje „GPT four oh“ konfigūracijoje tikslinis puolimas pavyko maždaug keturiasdešimt aštuoniais procentais atvejų. Galimų įrankių filtravimas sumažino tai iki maždaug septynių procentų, su naudinga dizaino pamoka.

Ką kūrėjai gali apriboti prieš „Apple“ išleidžiant?

2:21 Pateikite asistentui duomenis ir įrankius, kurių reikia užduočiai. Projekto aplankas yra mažesnis įvesties paviršius nei visa paskyra. Skaitymo prieiga taip pat gali būti atskirta nuo leidimo siųsti ar ištrinti. Tai yra produkto kompromisas, su kuriuo kūrėjai jau gyvena. Terminalas ar atsarginė programa gali turėti teisėtą priežastį plataus prieinamumo. Neatsargiai jį pašalinus, būtų sukurtas labai saugus, bet neveikiantis darbo procesas. Taigi, ką keičia „Apple“? Nurodytas tikslas yra aiškesnis, aiškesnis sutikimas dėl išskirtinės prieigos.

2:46 Mums vis dar reikia įgyvendinimo, kad pamatytume, kaip jis išsaugo tuos teisėtus naudojimo atvejus.

Ką iš tikrųjų daro naujas „Apple“ leidimų redaktorius?

2:50 „Apple“ taip pat pristatė „Pass Designer“, vizualinį „Wallet“ leidimų redaktorių. Pradedate nuo šablono, įkeliate savo vaizdus ir peržiūrite leidimą, kai redaguojate. „Apple“ teigia, kad peržiūra naudoja tą patį atvaizdavimą kaip „iPhone“ ir „Apple Watch“. Jis patvirtina laukus ir gali sukurti atgal suderinamą leidimą iš semantinių duomenų. Semantinės žymės aprašo tokius dalykus kaip skrydžio detalės ir įvykių datos. Jūsų koncerto bilietas pagaliau gali tapti struktūrizuotais duomenimis, prieš tampant išsiliejusia ekrano nuotrauka kažkieno šeimos grupiniame pokalbyje.

3:15 Beta versijai reikalinga „macOS 27“ ar naujesnė versija. „Apple“ nurodo nemokamą registraciją atsisiuntimui. Tai padeda kurti leidimus; jų išdavimui ir platinimui reikalingas atskiras darbo procesas.

Kodėl svetainė negali tiksliai nustatyti VPN vartotojo vietos?

3:24 Tada yra Juta, kur įstatymų leidėjai norėjo, kad suaugusiems skirtos svetainės nustatytų tikrąją VPN vartotojų vietą arba jas blokuotų. Federalinis teisėjas preliminariai užblokavo užginčytas VPN nuostatas. Elektroninės laisvės fondas (Electronic Frontier Foundation) cituoja teismą, sakantį, kad geografinės vietos nustatymo tobulumas šiuo metu neįmanomas. Pasirodo, tinklo protokolo krūva vis dar atsisako diegti funkcijas tik todėl, kad įstatymų leidžiamoji valdžia sukūrė bilietą. Svetainė mato VPN serverio adresą.

3:49 Tai nenustato, kur sėdi žmogus. Kiekvienos paslėptos vietos traktavimas kaip potencialios Jutos stumia reikalavimą toli už valstijos sienų. EFF cituoja teisėjo argumentą, kad „Aylo“ turėtų patikrinti dvidešimt aštuonis milijonus vartotojų, kad užtikrintų atitiktį. Tai yra kaina reikalaujant tobulumo iš signalo, kuris negali jo pateikti. Tai yra preliminarus įsakymas.

4:08 Atskira apribojimas dalintis VPN informacija nebuvo užginčytas. Teisinėje srityje dar yra eilučių, kurias reikia peržiūrėti. Visos trys istorijos sukasi aplink ribas. Leidimų redaktorius gali patikrinti lauką. Svetainė mato išėjimo adresą. Agentas gauna visą prieigą, kurią iš tikrųjų suteikia aplinkinė sistema. O asmuo iš įžangos yra tas, kas jums atsiuntė žinutę.

Kas lieka atidengtas, nepaspaudęs „Leisti“?

4:27 „Apple“ aiškiai perspėja ir apie jų privatumą. Jūsų leidimas gali atskleisti pokalbį, kuriame yra kito asmens duomenys, o jie niekada nepaspaudė jūsų mygtuko „Leisti“. „Slashdot“ antraštė vadina tai padidėjusia rizika. Šis platesnis ratas yra priežastis, kodėl man rūpi. Leidimo ekrane turi būti paaiškinta, ką asistentas gaus. Jei norite tai perskaityti, o ne išgirsti mane sakant, skirtumas ateina į jūsų pašto dėžutę kiekvieną rytą, nemokamai daily diff dot dev, nuoroda žemiau.

4:49 Taigi, šiandienos verdiktas, NEEDS REVIEW.

Koks mano verdiktas dėl „Apple“ siūlomų kontrolių?

4:51 Noriu aiškesnio sutikimo ir siauresnės prieigos, išlaikant teisėtus darbo procesus. „Apple“ įgyvendinimas nulems, ar tai bus pasiekta. Prenumeruokite, paspauskite varpelį ir pasakykite komentaruose, ar būtumėte pažymėję tai kitaip. Ir tai yra šiandienos skirtumas. Aš esu Niko iš Axrisi. Apjungti atsakingai.

Šaltiniai

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com