Apple pidurdab tehisintellekti agente

Mida see video hõlmab

• Miks on üks Maci luba ootamatult suurem risk?
• Mida Full Disk Access tegelikult avab?
• Miks autonoomsed agendid olukorda muudavad?
• Mida saavad arendajad piirata enne, kui Apple need välja annab?
• Mida Apple'i uus piletiredaktor tegelikult teeb?

Tõlgitud transkriptsioon

Tõlgitud ingliskeelsest originaaljutustusest. Saadaolevat heli ja subtiitreid kontrollib YouTube.

Miks on üks Maci luba ootamatult suurem risk?

0:00 Võiks arvata, et nupule „Luba“ klõpsamine määrab ära, mida rakendus näeb. Apple ütleb, et järjest autonoomsemad tehisintellekti agendid muudavad Full Disk Accessi oluliselt riskantsemaks ja lisab uusi kontrolle. Mida agendid selles videos lugeda saavad? Mida Apple muudab? Kes veel paljastatakse? Kellegi teise privaatsus on teie Macis ohus. Tuleme nende juurde tagasi enne otsust.

0:18 On laupäev, kolmas oktoober ja see on The Daily Diff. Reedel hoiatas Apple arendajaid kogu ketta ligipääsu eest ja tutvustas Wallet'i passiredaktorit. Samal ajal pani föderaalkohtunik Utah' VPN-i asukoha reeglid ootele. TechCrunch'i reporter Sarah Perez nimetas Apple'i teadaannet "võtted tehtud". Sihtmärk jääb Apple'i postituses nimetamata, mis on muljetavaldavalt korporatiivne viis vaidluse alustamiseks. Apple'i dokumentatsioon sisaldab Maili ja Sõnumite andmeid,

Mida Full Disk Access tegelikult avab?

0:42 pluss Safari andmeid. See hõlmab ka Time Machine'i varukoopiaid, et teie varundusrakendus saaks töötada. Apple ütleb, et see väldib suures osas teisi privaatsuskontrolle. Te annate selle süsteemi seadete kaudu ja luba juba eksisteerib. Teade lubab selle loa ümber täiendavaid kontrolle. X-is vastas javi: „Loodan, et teile meeldivad loa küsimised.“ See on arendajate pinge kuue sõnaga. Automaatika palub meil endiselt automaatikat käsitsi heaks kiita.

1:06 Hoidke load siiski paigas. Juurdepääsetavusel ja Automaatikal on Apple'i juhendis eraldi kirjed. Kaitstud andmete lugemine ja teise rakenduse juhtimine on erinevad võimalused, erinevate kontrollidega.

Miks autonoomsed agendid olukorda muudavad?

1:16 Varundusprogramm kopeerib teie failid. Agent tõlgendab seda, mida ta loeb, ja võib tööriistu kasutada sellega tegutsemiseks. Suurem autonoomia muudab laia juurdepääsu tagajärjed raskemini prognoositavaks. Vaieldav näide on juba olemas. Jason Aten ütles, et Meta Muse luges tema sõnumeid ilma loata. Meta ütleb, et integratsioon nõuab nii täielikku kettajuurdepääsu kui ka selle Sõnumite konnektorit. Apple ei nimeta Muse'i ega väljalaske kuupäeva. See ütleb, et kasutajad peaksid seda juurdepääsu mõistma ja andma selle väga selgesõnalise

1:42 tegevusega. Tegelik liides jääb puuduvaks ekraanipildiks. Siin on sügavam agentide probleem. E-kiri või veebileht võib sisaldada juhiseid, mis proovivad assistenti ümber suunata. See on viipade sisestamine ja agent kohtab seda kasulikku tööd tehes. Sõltumatud teadlased ehitasid Agent Dojo, millel on 97 ülesannet ja 629 turvalisusjuhtumit. See testib, kas usaldamatud andmed võtavad üle agendi tööriistad.

2:04 Need on ajaloolised laboritulemused aastast 2024. Apple'i tulevast dialoogi pole veel avaldatud, nii et keegi ei saa veel võiduringi teha. Ühes GPT-4 oh konfiguratsioonis õnnestus sihipärane rünnak umbes 48 protsendil juhtudest. Saadaval olevate tööriistade filtreerimine viis selle umbes seitsme protsendini, kasuliku disainitunniga.

Mida saavad arendajad piirata enne, kui Apple need välja annab?

2:21 Andke assistendile ülesande jaoks vajalikud andmed ja tööriistad. Projekti kaust on väiksem sisestuspind kui kogu konto. Lugemisjuurdepääsu saab samuti eraldada saatmise või kustutamise loast. See on toote kompromiss, millega arendajad juba elavad. Terminalil või varundusutiliidil võib olla seaduslik põhjus laia juurdepääsu jaoks. Selle hooletu eemaldamine looks väga turvalise, kuid mittetöötava töövoo. Mida siis Apple muudab? Välja toodud eesmärk on selgem, täpsem nõusolek erakordse juurdepääsu jaoks.

2:46 Meil on ikkagi vaja rakendust, et näha, kuidas see neid seaduslikke kasutusviise säilitab.

Mida Apple'i uus piletiredaktor tegelikult teeb?

2:50 Apple tutvustas ka Pass Designerit, visuaalset redaktorit Wallet Passide jaoks. Alustate malliga, lisate oma pildid ja eelvaadate passi seda muutes. Apple ütleb, et eelvaade kasutab sama renderdust nagu iPhone ja Apple Watch. See valideerib välju ja suudab ehitada tagasiühilduva passi semantilistest andmetest. Semantilised märgendid kirjeldavad asju, nagu lennuandmed ja sündmuse kuupäevad. Teie kontserdipiletist võib lõpuks saada struktureeritud andmed, enne kui sellest saab kellegi pererühma vestluses ähmane ekraanipilt.

3:15 Beetaversioon nõuab macOS 27 või uuemat. Apple loetleb tasuta registreerimise allalaadimiseks. See aitab passe kujundada; nende väljastamine ja levitamine vajab oma töövoogu.

Miks veebisait ei suuda VPN-i kasutajat täpselt asukohaga määrata?

3:24 Siis on veel Utah, kus seadusandjad soovisid, et kaetud täiskasvanutele mõeldud veebisaidid identifitseeriksid VPN-i kasutajate tegeliku asukoha või blokeeriksid nad. Föderaalkohtunik on vaidlustatud VPN-i sätteid esialgselt blokeerinud. Electronic Frontier Foundation tsiteerib kohtu ütlust, et geolokatsiooni täiuslikkus ei ole praegu võimalik. Selgub, et võrgukaart keeldub endiselt funktsioone rakendamast, pelgalt seetõttu, et seadusandja avas pileti. Veebisait näeb VPN-serveri aadressi.

3:49 See ei määra, kus inimene istub. Iga peidetud asukoha käsitlemine kui potentsiaalselt Utah's nihutab nõude kaugele väljapoole osariigi piire. EFF tsiteerib kohtuniku põhjendust, et Aylo peaks vastavuse tagamiseks kontrollima 28 miljonit kasutajat. See on kulu, mis kaasneb täiuslikkuse nõudmisega signaalilt, mis seda pakkuda ei suuda. See on esialgne korraldus.

4:08 Eraldi piirangut VPN-i teabe jagamisele ei vaidlustatud. Õiguslikul erinevusel on veel ridu, mida üle vaadata. Kõik kolm lugu keerlevad piiride ümber. Piletiredaktor saab välja kontrollida. Veebisait näeb väljumisaadressi. Agent saab igasuguse juurdepääsu, mida ümbritsev süsteem tegelikult annab. Ja avastseenis olev inimene on see, kes teile sõnumi saatis.

Kes satub ohtu ilma Luba klõpsamata?

4:27 Apple hoiatab selgesõnaliselt ka nende privaatsuse eest. Teie luba võib paljastada vestluse, mis sisaldab kellegi teise andmeid, ja nad ei klõpsanud kunagi teie „Luba“ nuppu. Slashdoti pealkiri nimetab seda suurenenud riskiks. See laiem ring on põhjus, miks ma hoolin. Loa ekraan peab selgitama, mida assistent vastu võtab. Kui eelistaksite seda lugeda, mitte kuulda minu suust, siis erinevus ilmub teie postkasti igal hommikul, tasuta saidil thedailyiff.dev, link allpool.

4:49 Nii et tänane otsus, NEEDS REVIEW.

Mis on minu otsus Apple'i pakutud kontrollide kohta?

4:51 Soovin selgemat nõusolekut ja kitsamat juurdepääsu, kusjuures seaduslikud töövoogud on säilitatud. Apple'i rakendus otsustab, kas see seda ka pakub. Tellige, vajutage kella ja öelge mulle kommentaarides, kas oleksite sellele erinevalt templi pannud. Ja see on tänane erinevus. Mina olen Niko Axrisist. Ühendage vastutustundlikult.

Allikad

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com