+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Az Apple fékezi az AI ügynököket

Az Apple további macOS teljes lemezhozzáférési vezérlőket tervez, mert az autonóm AI ügynökök növelik a széleskörű adathozzáférés kockázatát.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Az Apple további macOS teljes lemezhozzáférési vezérlőket tervez, mert az autonóm AI ügynökök növelik a széleskörű adathozzáférés kockázatát. Megvizsgáljuk a jelenlegi engedélyt, a Meta vitatott Muse üzenet esetét és a történelmi ügynök-biztonsági bizonyítékokat, majd szóba kerül a Pass Designer és Utah VPN-helymeghatározási szabályai. Ítélet: ÁTTEKINTÉS SZÜKSÉGES.

Olvassa el az írott kiadást (angolul) ↗

Amit ez a videó tartalmaz

  • Miért jelent hirtelen nagyobb kockázatot egy Mac engedély?
  • Mit nyit meg valójában a teljes lemezhozzáférés?
  • Miért változtatják meg az autonóm ügynökök a téteket?
  • Mit korlátozhatnak a fejlesztők, mielőtt az Apple szállítana?
  • Mit csinál valójában az Apple új pass-szerkesztője?

Kérdések és válaszok

Mit olvashat egy alkalmazás, ha teljes lemezhozzáférést ad neki egy Macen?

A teljes lemezhozzáférés olyan védett adatokat fed le, mint a Mail, Üzenetek és Safari adatok, valamint a Time Machine biztonsági mentései, így egy biztonsági mentési alkalmazás működhet. Az Apple szerint ez a hozzáférés nagyrészt megkerüli az egyéb adatvédelmi ellenőrzéseket. A Rendszerbeállításokon keresztül adhatja meg, és az engedély már létezik. Az Apple bejelentése további ellenőrzéseket ígér ezen engedély körül.

Nézze meg ezt a részt 0:40 · developer.apple.com · support.apple.com

Miért teszik az autonóm AI-ügynökök a széles fájlhozzáférést kockázatosabbá, mint egy biztonsági mentési alkalmazás?

Egy biztonsági mentési program lemásolja a fájljait, míg egy ügynök értelmezi, amit olvas, és eszközöket hívhat meg a cselekvéshez, így a nagyobb autonómia megnehezíti a széles hozzáférés következményeinek előrejelzését. Egy e-mail vagy weboldal utasításokat tartalmazhat, amelyek megpróbálják átirányítani az asszisztenst, amit prompt injekciónak neveznek. Az Apple szerint az egyre autonómabb ügynökök jelentősen kockázatosabbá teszik a teljes lemezhozzáférést.

Nézze meg ezt a részt 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Mennyire csökkentheti az AI-ügynök eszközeinek korlátozása a prompt injekciós támadásokat?

Az AgentDojo benchmarkban, kilencvenhét feladattal és hatszázhuszonkilenc biztonsági esettel, egy GPT négy nulla konfigurációt az idő körülbelül negyvennyolc százalékában sikeresen megtámadtak. A rendelkezésre álló eszközök szűrése ezt körülbelül hét százalékra csökkentette. Ezek történelmi laboratóriumi eredmények huszonnégyből, így tervezési tanulságot mutatnak, nem pedig azt, hogy az Apple vezérlői hogyan fognak működni.

Nézze meg ezt a részt 2:21 · arxiv.org · agentdojo.spylab.ai

Miért blokkolta egy szövetségi bíró Utah VPN-helymeghatározási szabályait?

A bíró előzetesen blokkolta a vitatott VPN-rendelkezéseket. Az Electronic Frontier Foundation idézi a bíróságot, amely szerint a pontos földrajzi helymeghatározás jelenleg nem lehetséges. Egy weboldal látja a VPN-szerver címét, ami nem állapítja meg, hol ül a személy. A végzés előzetes, és a VPN-információk megosztására vonatkozó külön korlátozást nem támadták meg.

Nézze meg ezt a részt 3:24 · www.eff.org

Jó ötlet-e az Apple terve a szigorúbb teljes lemezhozzáférés-szabályozásra?

A Daily Diff ítélete NEEDS REVIEW volt. Az epizód világosabb beleegyezést és szűkebb hozzáférést szeretne, megőrizve a jogszerű munkafolyamatokat, és azt mondja, hogy az Apple megvalósítása dönti el, hogy megvalósul-e. Az Apple nem tett közzé párbeszédet vagy bevezetési dátumot. Egy másik személy magánélete is veszélyben van, mert az Ön engedélye olyan beszélgetést tehet közzé, amely az ő adatait tartalmazza.

Nézze meg ezt a részt 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Lefordított átirat

Az eredeti angol narrációból fordítva. A rendelkezésre álló hangot és feliratokat a YouTube vezérli.

Miért jelent hirtelen nagyobb kockázatot egy Mac engedély?

0:00 Azt gondolná, hogy az Engedélyezés gombra kattintva eldől, hogy mit láthat egy alkalmazás. Az Apple szerint az egyre autonómabb AI ügynökök jelentősen kockázatosabbá teszik a teljes lemezhozzáférést, és további vezérlőket ad hozzá. Ebben a videóban mit olvashatnak az ügynökök? Mit változtat az Apple? Ki más van kitéve a veszélynek? Valaki más magánélete forog kockán a Mac-jén. Még a verdikt előtt visszatérünk rájuk.

0:18 Szombat van, október harmadika, és ez a The Daily Diff. Pénteken az Apple figyelmeztette a fejlesztőket a teljes lemezhozzáférésre, és bevezetett egy Wallet pass-szerkesztőt. Eközben egy szövetségi bíró felfüggesztette Utah VPN helymeghatározási szabályait. Sarah Perez, a TechCrunch riportere az Apple bejelentését lövések leadásának nevezte. A célpont megnevezése az Apple bejegyzésében továbbra is elmarad, ami lenyűgözően vállalati módja egy vita elindításának. Az Apple dokumentációja tartalmazza a Mail és Üzenetek adatokat,

Mit nyit meg valójában a teljes lemezhozzáférés?

0:42 valamint a Safari adatokat. Tartalmazza a Time Machine biztonsági másolatokat is, így a biztonsági mentési alkalmazása működhet. Az Apple szerint ez nagyrészt megkerüli a többi adatvédelmi ellenőrzést. A Rendszerbeállításokon keresztül adja meg, és az engedély már létezik. A bejelentés további vezérlőket ígér az engedély megadása körül. Az X-en javi válaszolt: "Remélem, szereti az engedélykéréseket." Ez a fejlesztői feszültség hat szóban. Az automatizálás folyamatosan arra kér minket, hogy manuálisan hagyjuk jóvá az automatizálást.

1:06 Viszont tartsa rendben az engedélyeket. Az Apple útmutatójában az Akadálymentesítés és az Automatizálás külön bejegyzésekkel szerepel. A védett adatok olvasása és egy másik alkalmazás vezérlése különböző képességek, különböző vezérlőkkel.

Miért változtatják meg az autonóm ügynökök a téteket?

1:16 Egy biztonsági mentési program másolja a fájljait. Egy ügynök értelmezi, amit olvas, és eszközöket hívhat meg a cselekvéshez. A nagyobb autonómia megnehezíti a széleskörű hozzáférés következményeinek előrejelzését. Már van egy vitatott példa. Jason Aten szerint a Meta Muse engedély nélkül olvasta az üzeneteit. A Meta szerint az integrációhoz mind a teljes lemezhozzáférésre, mind a Messages csatlakozójára szükség van. Az Apple nem nevezi meg sem a Muse-t, sem a bevezetés dátumát. Azt mondja, a felhasználóknak meg kell érteniük ezt a hozzáférést, és nagyon kifejezett

1:42 cselekvéssel kell megadniuk. A tényleges felület továbbra is egy hiányzó képernyőkép. Van itt egy mélyebb ügynökprobléma. Egy e-mail vagy weboldal tartalmazhat olyan utasításokat, amelyek megpróbálják átirányítani az asszisztenst. Ez a prompt injekció, és az ügynök hasznos munka közben találkozik vele. Független kutatók építették az Agent Dojo-t, kilencvenhét feladattal és hatszáz huszonkilenc biztonsági esettel. Teszteli, hogy a nem megbízható adatok átveszik-e az ügynök eszközeit.

2:04 Ezek történelmi laboratóriumi eredmények huszonnégyből. Az Apple jövőbeli párbeszéde még nem jelent meg, így még senki sem ünnepelhet. Egy GPT négy nullás konfigurációban a célzott támadás körülbelül negyven nyolc százalékban volt sikeres. Az elérhető eszközök szűrése ezt körülbelül hét százalékra csökkentette, egy hasznos tervezési leckével.

Mit korlátozhatnak a fejlesztők, mielőtt az Apple szállítana?

2:21 Adjon az asszisztensnek olyan adatokat és eszközöket, amelyekre a feladathoz szüksége van. Egy projektmappa kisebb bemeneti felület, mint egy egész fiók. Az olvasási hozzáférés is elválasztható a küldési vagy törlési engedélytől. Ez egy termékkompromisszum, amellyel a fejlesztők már együtt élnek. Egy terminálnak vagy biztonsági mentési segédprogramnak lehet jogos oka a széleskörű hozzáférésre. Gondatlan eltávolítása nagyon biztonságos, hibás munkafolyamatot hozna létre. Szóval mit változtat az Apple? A meghirdetett cél a világosabb, explicitebb beleegyezés a rendkívüli hozzáféréshez.

2:46 Még szükségünk van a megvalósításra, hogy lássuk, hogyan őrzi meg ezeket a jogos felhasználási módokat.

Mit csinál valójában az Apple új pass-szerkesztője?

2:50 Az Apple bemutatta a Pass Designert is, egy vizuális szerkesztőt a Wallet kártyákhoz. Egy sablonnal kezdi, beilleszti a képeit, és szerkesztés közben előnézetben megtekinti a kártyát. Az Apple szerint az előnézet ugyanazt a renderelést használja, mint az iPhone és az Apple Watch. Érvényesíti a mezőket és képes visszafelé kompatibilis kártyát építeni szemantikus adatokból. A szemantikus címkék olyan dolgokat írnak le, mint a járat részletei és az eseménydátumok. A koncertjegye végre strukturált adattá válhat, mielőtt elmosódott képernyőképpé válna valaki családi csoportos csevegésében.

3:15 A béta verzióhoz macOS huszonhét vagy újabb verzió szükséges. Az Apple ingyenes regisztrációt ír elő a letöltéshez. Ez segít a kártyák tervezésében; kiadásukhoz és terjesztésükhöz saját munkafolyamatra van szükség.

Miért nem tud egy weboldal tökéletesen elhelyezni egy VPN-felhasználót?

3:24 Aztán ott van Utah, ahol a jogalkotók azt akarták, hogy a felnőtt webhelyek azonosítsák a VPN-felhasználók valós helyét, vagy blokkolják őket. Egy szövetségi bíró előzetesen blokkolta a vitatott VPN-rendelkezéseket. Az Electronic Frontier Foundation a bíróságot idézi, amely szerint a földrajzi helymeghatározás tökéletessége jelenleg nem lehetséges. Kiderült, hogy a hálózati stack továbbra sem hajlandó funkciókat implementálni pusztán azért, mert egy törvényhozás jegyet nyitott. Egy weboldal látja a VPN-szerver címét.

3:49 Ez nem állapítja meg, hol ül az illető. Minden rejtett helyet potenciálisan Utah-ként kezelni messze túlmegy az állam határain. túllépi az állam határait. Az EFF idézi a bíró érvelését, miszerint Aylo-nak huszonnyolc millió felhasználót kellene ellenőriznie a megfelelőség garantálásához. Ez a tökéletesség követelésének ára egy olyan jeltől, amely nem tudja biztosítani. Ez egy előzetes végzés.

4:08 A VPN-információk megosztására vonatkozó külön korlátozást nem támadták meg. A jogi eltérések még mindig felülvizsgálatra várnak. Mindhárom történet határokra épül. Egy pass-szerkesztő ellenőrizhet egy mezőt. Egy weboldal lát egy kilépési címet. Egy ügynök hozzáférést kap ahhoz, amit a környező rendszer ténylegesen megad. És a nyitányban említett személy az, aki elküldte önnek az üzenetet.

Ki van kitéve a veszélynek anélkül, hogy az Engedélyezés gombra kattintana?

4:27 Az Apple kifejezetten figyelmeztet az ő magánéletükre is. Az Ön engedélye felfedhet egy beszélgetést, amely valaki más adatait tartalmazza, és ők soha nem kattintottak az Ön Engedélyezés gombjára. A Slashdot címe "fokozott kockázatnak" nevezi. Ez a szélesebb kör az, amiért érdekel. Az engedélyképernyőnek el kell magyaráznia, mit fog kapni az asszisztens. Ha inkább elolvasná, mintsem hallaná tőlem, a diff minden reggel megérkezik a postaládájába, ingyenesen a thedailydiff.dev címen, link lent.

4:49 Tehát a mai ítélet: ÁTTEKINTÉS SZÜKSÉGES.

Mi az ítéletem az Apple javasolt vezérlőiről?

4:51 Világosabb beleegyezést és szűkebb hozzáférést szeretnék, a jogos munkafolyamatok megőrzésével. Az Apple implementációja dönti el, hogy megvalósul-e. Iratkozz fel, nyomd meg a harangot, és írd meg kommentben, ha máshogy bélyegezted volna meg. És ez a mai diff. Niko vagyok az Axrisitől. Felelősségteljesen egyesítsen.

Források

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Kapcsolódó videók