Apple jarruttaa tekoälyagentteja
Apple suunnittelee ylimääräisiä macOS:n koko levyn käyttöoikeusvalvontoja, koska autonomiset tekoälyagentit lisäävät laajan tiedonsaannin riskejä.
Apple suunnittelee ylimääräisiä macOS:n koko levyn käyttöoikeusvalvontoja, koska autonomiset tekoälyagentit lisäävät laajan tiedonsaannin riskejä. Tarkastelemme nykyistä lupaa, Metan kiistanalaista Muse-viestitapausta ja historiallisia agenttiturvallisuustodisteita, minkä jälkeen käsitellään Pass Designer -sovellusta ja Utahin VPN-sijaintisääntöjä. Tuomio: NEEDS REVIEW.
Lue kirjoitettu versio (englanniksi) ↗
Mitä tämä video käsittelee
- Miksi yksi Macin lupa on yhtäkkiä suurempi riski?
- Mitä koko levyn käyttöoikeus todella avaa?
- Miksi autonomiset agentit muuttavat panoksia?
- Mitä kehittäjät voivat rajoittaa ennen kuin Apple julkaisee?
- Mitä Applen uusi passieditori todella tekee?
Kysymyksiä ja vastauksia
Mitä sovellus voi lukea, kun sille myönnetään täysi pääsy levylle Macissa?
Täysi levyn käyttöoikeus kattaa suojatut tiedot, kuten Mail-, Messages- ja Safari-tiedot, sekä Time Machine -varmuuskopiot, jotta varmuuskopiointisovellus voi toimia. Apple sanoo, että tämä pääsy ohittaa suurelta osin muut tietosuoja-asetukset. Se myönnetään Järjestelmäasetusten kautta, ja lupa on jo olemassa. Applen ilmoitus lupaa lisäkontrolleja tämän myöntämisen ympärille.
Miksi autonomiset tekoälyagentit tekevät laajasta tiedostojen käytöstä riskialttiimpaa kuin varmuuskopiointisovellus?
Varmuuskopiointiohjelma kopioi tiedostosi, kun taas agentti tulkitsee lukemaansa ja voi kutsua työkaluja toimimaan sen pohjalta, joten suurempi autonomia tekee laajan pääsyn seurauksista vaikeammin ennustettavia. Sähköposti tai verkkosivu voi sisältää ohjeita, jotka yrittävät ohjata avustajaa, jota kutsutaan prompt-injektioksi. Apple sanoo, että yhä autonomisemmat agentit tekevät täydestä levyn käyttöoikeudesta huomattavasti riskialttiimpaa.
Kuinka paljon tekoälyagentin työkalujen rajoittaminen voi vähentää prompt-injektiohyökkäyksiä?
AgentDojo-vertailuarvossa, jossa oli yhdeksänkymmentäseitsemän tehtävää ja kuusisataakaksikymmentäyhdeksän tietoturvatapausta, yksi GPT-4-kokoonpano onnistuttiin hyökkäämään noin neljäkymmentäkahdeksan prosenttia ajasta. Saatavilla olevien työkalujen suodattaminen laski sen noin seitsemään prosenttiin. Nämä ovat historiallisia laboratoriotuloksia vuodelta 2024, joten ne osoittavat suunnittelun opetuksen pikemminkin kuin sen, miten Applen kontrollit toimivat.
Miksi liittovaltion tuomari esti Utahin VPN-sijaintisäännöt?
Tuomari esti alustavasti kyseenalaistetut VPN-määräykset. Electronic Frontier Foundation lainaa tuomioistuinta sanoneen, että maantieteellinen sijainnin täydellisyys ei ole tällä hetkellä mahdollista. Verkkosivusto näkee VPN-palvelimen osoitteen, joka ei vahvista henkilön istumapaikkaa. Määräys on alustava, eikä erillistä rajoitusta VPN-tietojen jakamiselle kyseenalaistettu.
Onko Applen suunnitelma tiukemmista täyden levyn käyttöoikeuden kontrolleista hyvä idea?
The Daily Diffin tuomio oli NEEDS REVIEW. Jakso haluaa selkeämmän suostumuksen ja kapeamman pääsyn laillisten työnkulkujen säilyessä, ja sanoo, että Applen toteutus päättää, saavuttaako se tavoitteensa. Apple ei ole julkaissut vuoropuhelua tai julkaisupäivää. Myös toisen henkilön yksityisyys on vaakalaudalla, koska lupasi voi paljastaa keskustelun, joka sisältää heidän tietojaan.
Käännetty transkriptio
Käännetty alkuperäisestä englanninkielisestä selostuksesta. Käytettävissä olevan äänen ja tekstitysten hallinta tapahtuu YouTuben kautta.
Miksi yksi Macin lupa on yhtäkkiä suurempi riski?
0:00 Luulisi, että Salli-napin klikkaaminen ratkaisee, mitä sovellus voi nähdä. Apple sanoo, että yhä autonomisemmat tekoälyagentit tekevät koko levyn käyttöoikeudesta huomattavasti riskialttiimman, ja se lisää hallintalaitteita. Mitä agentit voivat lukea tässä videossa? Mitä Apple muuttaa? Kuka muu altistuu? Jonkun toisen yksityisyys on vaakalaudalla Macissasi. Palaamme niihin ennen tuomiota.
0:18 On lauantai, lokakuun kolmas, ja tämä on The Daily Diff. Perjantaina Apple varoitti kehittäjiä koko levyn käyttöoikeudesta ja esitteli Wallet-passieditorin. Samaan aikaan liittovaltion tuomari keskeytti Utahin VPN-sijaintisäännöt. TechCrunch-toimittaja Sarah Perez kutsui Applen ilmoitusta laukausten antamiseksi. Kohde jää nimeämättömäksi Applen postauksessa, mikä on vaikuttavan yritysmäinen tapa aloittaa kiista. Applen dokumentaatio sisältää Mail- ja Viestit-tiedot,
Mitä koko levyn käyttöoikeus todella avaa?
0:42 sekä Safarin tiedot. Se sisältää myös Time Machine -varmuuskopiot, jotta varmuuskopiointisovelluksesi voi toimia. Apple sanoo, että tämä ohittaa suurelta osin muut yksityisyydensuojatoiminnot. Myönnät sen Järjestelmäasetusten kautta, ja lupa on jo olemassa. Ilmoitus lupaa lisävalvontatoimia tuon luvan ympärille. X:ssä javi vastasi: Toivottavasti pidät lupakehotteista. Se on kehittäjän jännite kuudessa sanassa. Automaatio pyytää meitä jatkuvasti hyväksymään automaation manuaalisesti.
1:06 Pidä kuitenkin luvat suorana. Esteettömyydellä ja automaatiolla on erilliset merkinnät Applen oppaassa. Suojattujen tietojen lukeminen ja toisen sovelluksen hallinta ovat erilaisia ominaisuuksia, erilaisilla hallintalaitteilla.
Miksi autonomiset agentit muuttavat panoksia?
1:16 Varmuuskopio-ohjelma kopioi tiedostosi. Agentti tulkitsee lukemansa ja voi kutsua työkaluja toimimaan sen perusteella. Lisääntynyt autonomia tekee laajan pääsyn seurauksista vaikeammin ennustettavia. On jo olemassa kiistanalainen esimerkki. Jason Aten sanoi, että Metan Muse luki hänen viestinsä ilman lupaa. Meta sanoo, että integraatio vaatii sekä koko levyn käyttöoikeuden että sen Viestit- liittimen. Apple ei nimeä Musea eikä julkaisupäivää. Se sanoo, että käyttäjien tulisi ymmärtää tämä pääsy ja myöntää se hyvin nimenomaisella
1:42 toiminnalla. Todellinen käyttöliittymä jää puuttuvaksi kuvakaappaukseksi. Tässä on syvempi agenttiongelma. Sähköposti tai verkkosivu voi sisältää ohjeita, jotka yrittävät ohjata assistentin uudelleen. Tätä kutsutaan prompt injectioniksi, ja agentti kohtaa sen tehdessään hyödyllistä työtä. Riippumattomat tutkijat rakensivat Agent Dojon, jossa oli 97 tehtävää ja 629 turvallisuustapausta. Se testaa, ottaako luottamaton data haltuun agentin työkalut.
2:04 Nämä ovat historiallisia laboratoriotuloksia vuodelta 2024. Applen tulevaa vuoropuhelua ei ole vielä julkaistu, joten kukaan ei saa vielä voitonkierrosta. Yhdessä GPT-4.0-kokoonpanossa kohdistettu hyökkäys onnistui noin 48 prosenttia ajasta. Saatavilla olevien työkalujen suodattaminen toi sen noin seitsemään prosenttiin, hyödyllisen suunnitteluoppitunnin kera.
Mitä kehittäjät voivat rajoittaa ennen kuin Apple julkaisee?
2:21 Anna assistentille tehtävään tarvittavat tiedot ja työkalut. Projektikansio on pienempi syötepinta kuin koko tili. Lukuoikeus voidaan myös erottaa lähetys- tai poisto-oikeudesta. Se on tuotteen kompromissi, jonka kehittäjät jo tuntevat. Terminaali- tai varmuuskopiointisovelluksella voi olla perusteltu syy laajaan pääsyyn. Sen huolimaton poistaminen loisi erittäin turvallisen mutta rikkinäisen työnkulun. Mitä Apple siis muuttaa? Ilmoitettu tavoite on selkeämpi, nimenomaisempi suostumus poikkeukselliseen pääsyyn.
2:46 Tarvitsemme yhä toteutuksen nähdäksemme, miten se säilyttää nuo oikeutetut käyttötarkoitukset.
Mitä Applen uusi passieditori todella tekee?
2:50 Apple esitteli myös Pass Designerin, visuaalisen editorin Wallet-passeille. Aloitat mallipohjalla, tuot kuvasi ja esikatselut passia muokatessasi. Apple sanoo, että esikatselu käyttää samaa renderöintiä kuin iPhone ja Apple Watch. Se vahvistaa kentät ja voi rakentaa taaksepäin yhteensopivan passin semanttisista tiedoista. Semanttiset tunnisteet kuvaavat esimerkiksi lentotietoja ja tapahtumapäiviä. Konserttilippusi voi vihdoin muuttua strukturoiduksi tiedoksi, ennen kuin siitä tulee sumea kuvakaappaus jonkun perheen ryhmäkeskustelussa.
3:15 Beta vaatii macOS 17:n tai uudemman. Apple ilmoittaa ilmaisen rekisteröinnin latausta varten. Tämä auttaa passien suunnittelussa; niiden myöntäminen ja jakelu tarvitsee oman työnkulunsa.
Miksi verkkosivusto ei voi täydellisesti paikantaa VPN-käyttäjää?
3:24 Sitten on Utah, missä lainsäätäjät halusivat, että suojatut aikuisille suunnatut verkkosivustot tunnistavat VPN-käyttäjien todellisen sijainnin tai estävät heidät. Liittovaltion tuomari on alustavasti estänyt kyseenalaistetut VPN-määräykset. Electronic Frontier Foundation lainaa tuomioistuinta sanoin, että maantieteellinen paikannus täydellisyys ei ole tällä hetkellä mahdollista. Ilmeisesti verkkopino kieltäytyy yhä toteuttamasta ominaisuuksia vain siksi, että lainsäädäntöelin avasi tiketin. Verkkosivusto näkee VPN-palvelimen osoitteen.
3:49 Se ei osoita, missä henkilö istuu. Käsittelemällä jokaista piilotettua sijaintia potentiaalisesti Utahina vaatimus ulottuu kauas osavaltion rajojen ulkopuolelle. EFF lainaa tuomarin perustelua, jonka mukaan Aylon olisi varmennettava 28 miljoonaa käyttäjää vaatimusten noudattamisen takaamiseksi. Se on täydellisyyden vaatimisen hinta signaalilta, joka ei voi sitä tarjota. Tämä on alustava määräys.
4:08 Erillistä VPN-tietojen jakamista koskevaa rajoitusta ei kyseenalaistettu. Oikeudellisessa diffissä on vielä rivejä tarkistettavaksi. Kaikki kolme tarinaa käsittelevät rajoja. Passieditori voi tarkistaa kentän. Verkkosivusto näkee uloskirjautumisosoitteen. Agentti saa kaiken pääsyn, jonka ympäröivä järjestelmä todella myöntää. Ja avauskohdan henkilö on se, joka lähetti sinulle viestin.
Kuka altistuu klikkaamatta Salli?
4:27 Apple varoittaa nimenomaisesti myös heidän yksityisyydestään. Lupasi voi paljastaa keskustelun, joka sisältää jonkun muun tietoja, eivätkä he koskaan klikanneet Salli-nappiasi. Slashdotin otsikko kutsuu sitä lisääntyneeksi riskiksi. Se laajempi ympyrä on syy, miksi välitän. Lupakehotteen tulee selittää, mitä assistentti vastaanottaa. Jos haluat mieluummin lukea tämän kuin kuulla minun sanovan sen, ero laskeutuu postilaatikkoosi joka aamu, ilmaiseksi thedailydiff.dev-sivustolta, linkki alla.
4:49 Joten tämän päivän tuomio, NEEDS REVIEW.
Mikä on tuomioni Applen ehdottamista valvonnasta?
4:51 Haluan selkeämmän suostumuksen ja kavennetun pääsyn, kun lailliset työnkulut säilytetään. Applen toteutus päättää, toteutuuko se. Tilaa, paina kelloa ja kerro kommenteissa, olisitko leimannut sen eri tavalla. Ja siinä on päivän ero. Olen Niko Axrisista. Yhdistä vastuullisesti.
Lähteet
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



