Az Apple fékezi az AI ügynököket

Amit ez a videó tartalmaz

• Miért jelent hirtelen nagyobb kockázatot egy Mac engedély?
• Mit nyit meg valójában a teljes lemezhozzáférés?
• Miért változtatják meg az autonóm ügynökök a téteket?
• Mit korlátozhatnak a fejlesztők, mielőtt az Apple szállítana?
• Mit csinál valójában az Apple új pass-szerkesztője?

Lefordított átirat

Az eredeti angol narrációból fordítva. A rendelkezésre álló hangot és feliratokat a YouTube vezérli.

Miért jelent hirtelen nagyobb kockázatot egy Mac engedély?

0:00 Azt gondolná, hogy az Engedélyezés gombra kattintva eldől, hogy mit láthat egy alkalmazás. Az Apple szerint az egyre autonómabb AI ügynökök jelentősen kockázatosabbá teszik a teljes lemezhozzáférést, és további vezérlőket ad hozzá. Ebben a videóban mit olvashatnak az ügynökök? Mit változtat az Apple? Ki más van kitéve a veszélynek? Valaki más magánélete forog kockán a Mac-jén. Még a verdikt előtt visszatérünk rájuk.

0:18 Szombat van, október harmadika, és ez a The Daily Diff. Pénteken az Apple figyelmeztette a fejlesztőket a teljes lemezhozzáférésre, és bevezetett egy Wallet pass-szerkesztőt. Eközben egy szövetségi bíró felfüggesztette Utah VPN helymeghatározási szabályait. Sarah Perez, a TechCrunch riportere az Apple bejelentését lövések leadásának nevezte. A célpont megnevezése az Apple bejegyzésében továbbra is elmarad, ami lenyűgözően vállalati módja egy vita elindításának. Az Apple dokumentációja tartalmazza a Mail és Üzenetek adatokat,

Mit nyit meg valójában a teljes lemezhozzáférés?

0:42 valamint a Safari adatokat. Tartalmazza a Time Machine biztonsági másolatokat is, így a biztonsági mentési alkalmazása működhet. Az Apple szerint ez nagyrészt megkerüli a többi adatvédelmi ellenőrzést. A Rendszerbeállításokon keresztül adja meg, és az engedély már létezik. A bejelentés további vezérlőket ígér az engedély megadása körül. Az X-en javi válaszolt: "Remélem, szereti az engedélykéréseket." Ez a fejlesztői feszültség hat szóban. Az automatizálás folyamatosan arra kér minket, hogy manuálisan hagyjuk jóvá az automatizálást.

1:06 Viszont tartsa rendben az engedélyeket. Az Apple útmutatójában az Akadálymentesítés és az Automatizálás külön bejegyzésekkel szerepel. A védett adatok olvasása és egy másik alkalmazás vezérlése különböző képességek, különböző vezérlőkkel.

Miért változtatják meg az autonóm ügynökök a téteket?

1:16 Egy biztonsági mentési program másolja a fájljait. Egy ügynök értelmezi, amit olvas, és eszközöket hívhat meg a cselekvéshez. A nagyobb autonómia megnehezíti a széleskörű hozzáférés következményeinek előrejelzését. Már van egy vitatott példa. Jason Aten szerint a Meta Muse engedély nélkül olvasta az üzeneteit. A Meta szerint az integrációhoz mind a teljes lemezhozzáférésre, mind a Messages csatlakozójára szükség van. Az Apple nem nevezi meg sem a Muse-t, sem a bevezetés dátumát. Azt mondja, a felhasználóknak meg kell érteniük ezt a hozzáférést, és nagyon kifejezett

1:42 cselekvéssel kell megadniuk. A tényleges felület továbbra is egy hiányzó képernyőkép. Van itt egy mélyebb ügynökprobléma. Egy e-mail vagy weboldal tartalmazhat olyan utasításokat, amelyek megpróbálják átirányítani az asszisztenst. Ez a prompt injekció, és az ügynök hasznos munka közben találkozik vele. Független kutatók építették az Agent Dojo-t, kilencvenhét feladattal és hatszáz huszonkilenc biztonsági esettel. Teszteli, hogy a nem megbízható adatok átveszik-e az ügynök eszközeit.

2:04 Ezek történelmi laboratóriumi eredmények huszonnégyből. Az Apple jövőbeli párbeszéde még nem jelent meg, így még senki sem ünnepelhet. Egy GPT négy nullás konfigurációban a célzott támadás körülbelül negyven nyolc százalékban volt sikeres. Az elérhető eszközök szűrése ezt körülbelül hét százalékra csökkentette, egy hasznos tervezési leckével.

Mit korlátozhatnak a fejlesztők, mielőtt az Apple szállítana?

2:21 Adjon az asszisztensnek olyan adatokat és eszközöket, amelyekre a feladathoz szüksége van. Egy projektmappa kisebb bemeneti felület, mint egy egész fiók. Az olvasási hozzáférés is elválasztható a küldési vagy törlési engedélytől. Ez egy termékkompromisszum, amellyel a fejlesztők már együtt élnek. Egy terminálnak vagy biztonsági mentési segédprogramnak lehet jogos oka a széleskörű hozzáférésre. Gondatlan eltávolítása nagyon biztonságos, hibás munkafolyamatot hozna létre. Szóval mit változtat az Apple? A meghirdetett cél a világosabb, explicitebb beleegyezés a rendkívüli hozzáféréshez.

2:46 Még szükségünk van a megvalósításra, hogy lássuk, hogyan őrzi meg ezeket a jogos felhasználási módokat.

Mit csinál valójában az Apple új pass-szerkesztője?

2:50 Az Apple bemutatta a Pass Designert is, egy vizuális szerkesztőt a Wallet kártyákhoz. Egy sablonnal kezdi, beilleszti a képeit, és szerkesztés közben előnézetben megtekinti a kártyát. Az Apple szerint az előnézet ugyanazt a renderelést használja, mint az iPhone és az Apple Watch. Érvényesíti a mezőket és képes visszafelé kompatibilis kártyát építeni szemantikus adatokból. A szemantikus címkék olyan dolgokat írnak le, mint a járat részletei és az eseménydátumok. A koncertjegye végre strukturált adattá válhat, mielőtt elmosódott képernyőképpé válna valaki családi csoportos csevegésében.

3:15 A béta verzióhoz macOS huszonhét vagy újabb verzió szükséges. Az Apple ingyenes regisztrációt ír elő a letöltéshez. Ez segít a kártyák tervezésében; kiadásukhoz és terjesztésükhöz saját munkafolyamatra van szükség.

Miért nem tud egy weboldal tökéletesen elhelyezni egy VPN-felhasználót?

3:24 Aztán ott van Utah, ahol a jogalkotók azt akarták, hogy a felnőtt webhelyek azonosítsák a VPN-felhasználók valós helyét, vagy blokkolják őket. Egy szövetségi bíró előzetesen blokkolta a vitatott VPN-rendelkezéseket. Az Electronic Frontier Foundation a bíróságot idézi, amely szerint a földrajzi helymeghatározás tökéletessége jelenleg nem lehetséges. Kiderült, hogy a hálózati stack továbbra sem hajlandó funkciókat implementálni pusztán azért, mert egy törvényhozás jegyet nyitott. Egy weboldal látja a VPN-szerver címét.

3:49 Ez nem állapítja meg, hol ül az illető. Minden rejtett helyet potenciálisan Utah-ként kezelni messze túlmegy az állam határain. túllépi az állam határait. Az EFF idézi a bíró érvelését, miszerint Aylo-nak huszonnyolc millió felhasználót kellene ellenőriznie a megfelelőség garantálásához. Ez a tökéletesség követelésének ára egy olyan jeltől, amely nem tudja biztosítani. Ez egy előzetes végzés.

4:08 A VPN-információk megosztására vonatkozó külön korlátozást nem támadták meg. A jogi eltérések még mindig felülvizsgálatra várnak. Mindhárom történet határokra épül. Egy pass-szerkesztő ellenőrizhet egy mezőt. Egy weboldal lát egy kilépési címet. Egy ügynök hozzáférést kap ahhoz, amit a környező rendszer ténylegesen megad. És a nyitányban említett személy az, aki elküldte önnek az üzenetet.

Ki van kitéve a veszélynek anélkül, hogy az Engedélyezés gombra kattintana?

4:27 Az Apple kifejezetten figyelmeztet az ő magánéletükre is. Az Ön engedélye felfedhet egy beszélgetést, amely valaki más adatait tartalmazza, és ők soha nem kattintottak az Ön Engedélyezés gombjára. A Slashdot címe "fokozott kockázatnak" nevezi. Ez a szélesebb kör az, amiért érdekel. Az engedélyképernyőnek el kell magyaráznia, mit fog kapni az asszisztens. Ha inkább elolvasná, mintsem hallaná tőlem, a diff minden reggel megérkezik a postaládájába, ingyenesen a thedailydiff.dev címen, link lent.

4:49 Tehát a mai ítélet: ÁTTEKINTÉS SZÜKSÉGES.

Mi az ítéletem az Apple javasolt vezérlőiről?

4:51 Világosabb beleegyezést és szűkebb hozzáférést szeretnék, a jogos munkafolyamatok megőrzésével. Az Apple implementációja dönti el, hogy megvalósul-e. Iratkozz fel, nyomd meg a harangot, és írd meg kommentben, ha máshogy bélyegezted volna meg. És ez a mai diff. Niko vagyok az Axrisitől. Felelősségteljesen egyesítsen.

Források

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com