Apple setur bremsur á gervigreindarkerfi

Það sem þetta myndband fjallar um

• Af hverju er eitt Mac leyfi allt í einu meiri áhætta?
• Hvað opnar Full Disk Access í raun?
• Af hverju breyta sjálfstæð kerfi stöðunni?
• Hvað geta þróunaraðilar takmarkað áður en Apple sendir?
• Hvað gerir nýr passa ritill Apple í raun?

Þýtt afrit

Þýtt úr upprunalegri enskri frásögn. Tiltækt hljóð og textar eru stjórnaðir af YouTube.

Af hverju er eitt Mac leyfi allt í einu meiri áhætta?

0:00 Þú myndir halda að það að smella á „Leyfa“ myndi ráða því hvað forrit sér. Apple segir að sífellt sjálfstæðari gervigreindarkerfi geri Full Disk Access verulega áhættumeira, og það er að bæta við stýringum. Í þessu myndbandi, hvað geta kerfi lesið? Hvað er Apple að breyta? Hverjir aðrir verða afhjúpaðir? Persónuvernd einhvers annars er í húfi á Mac tölvunni þinni. Við komum aftur að þeim áður en dómurinn fellur.

0:18 Það er laugardagur, þriðji október, og þetta er The Daily Diff. Á föstudaginn varaði Apple þróunaraðila við fullum diskaðgangi og kynnti Wallet pass ritil. Á meðan stöðvaði alríkisdómari reglur Utah um staðsetningu VPN. Sarah Perez, fréttamaður TechCrunch, kallaði tilkynningu Apple „skot hleypt af“. Markmiðið er enn ónefnt í færslu Apple, sem er áhrifamikill fyrirtækislegur háttur til að hefja rifrildi. Skjöl Apple innihalda gögn frá Mail og Messages,

Hvað opnar Full Disk Access í raun?

0:42 auk Safari gagna. Það inniheldur einnig Time Machine öryggisafrit, svo öryggisafritunarforritið þitt getur virkað. Apple segir að þetta sniðgangi að miklu leyti aðrar persónuverndarstýringar. Þú veitir það í gegnum System Settings, og leyfið er nú þegar til. Tilkynningin lofar viðbótarstýringum varðandi þessa veitingu. Á X svaraði javi: „Ég vona að þér líki við leyfistilkynningar“. Það er spenna þróunaraðila í sex orðum. Sjálfvirkni heldur áfram að biðja okkur um að samþykkja sjálfvirkni handvirkt.

1:06 Haltu leyfunum réttum, þó. Aðgengi og sjálfvirkni hafa aðskildar færslur í leiðbeiningum Apple. Að lesa vernduð gögn og stjórna öðru forriti eru ólíkir eiginleikar, með mismunandi stýringum.

Af hverju breyta sjálfstæð kerfi stöðunni?

1:16 Öryggisafritunarforrit afritar skrárnar þínar. Kerfi túlkar það sem það les og getur kallað á verkfæri til að vinna með það. Meiri sjálfstæði gerir afleiðingar víðtæks aðgangs erfiðari að spá fyrir um. Það er nú þegar umdeilt dæmi. Jason Aten sagði að Muse frá Meta hefði lesið skilaboð hans án leyfis. Meta segir að samþættingin krefjist bæði fulls diskaðgangs og Messages tengilsins. Apple nefnir hvorki Muse né útgáfudagsetningu. Það segir að notendur ættu að skilja þennan aðgang og veita hann með mjög skýrum

1:42 aðgerðum. Raunverulegt viðmót er enn óbirt skjámynd. Það er dýpra kerfisvandamál hér. Tölvupóstur eða vefsíða getur innihaldið leiðbeiningar sem reyna að beina aðstoðarmanninum. Það er prompt injection, og kerfið lendir í því á meðan það er að vinna gagnlega vinnu. Óháðir rannsóknaraðilar byggðu Agent Dojo, með níutíu og sjö verkefnum og sex hundruð tuttugu og níu öryggismálum. Það prófar hvort ótreyst gögn ná yfir stjórn verkfæra kerfis.

2:04 Þetta eru sögulegar rannsóknarstofuniðurstöður frá 2024. Framtíðarsamtal Apple hefur ekki verið birt, svo enginn fær sigurhring ennþá. Í einni GPT-4o stillingu tókst markvissa árásin um fjörutíu og átta prósent af tilfellunum. Að sía tiltæk verkfæri minnkaði það í um sjö prósent, með gagnlegri hönnunarkennslu.

Hvað geta þróunaraðilar takmarkað áður en Apple sendir?

2:21 Gefðu aðstoðarmanni gögnin og verkfærin sem verkefnið þarfnast. Verkefnamappa er minni innsláttarflötur en heill reikningur. Lestrarheimild er einnig hægt að aðskilja frá leyfi til að senda eða eyða. Þetta er vöruvíxli sem þróunaraðilar þekkja nú þegar. Fjartölvu- eða öryggisafritunartól gæti haft lögmæta ástæðu fyrir víðtækum aðgangi. Að fjarlægja það kærulauslega myndi skapa mjög öruggt en brotið verkferli. Svo hvað er Apple að breyta? Tilgreint markmið er skýrara, skýrara samþykki fyrir óvenjulegum aðgangi.

2:46 Við þurfum enn að sjá útfærsluna til að sjá hvernig hún varðveitir þessa lögmætu notkun.

Hvað gerir nýr passa ritill Apple í raun?

2:50 Apple kynnti einnig Pass Designer, sjónrænan ritil fyrir Wallet passa. Þú byrjar með sniðmáti, setur inn myndirnar þínar og forskoðar passann á meðan þú breytir. Apple segir að forskoðun noti sömu birtingu og iPhone og Apple Watch. Það staðfestir reiti og getur byggt afturvirkan samhæfan passa úr merkingartengdum gögnum. Merkingartengd merki lýsa hlutum eins og flugupplýsingum og dagsetningum atburða. Tónleikamiðinn þinn getur loksins orðið skipulögð gögn áður en hann verður óskýr skjámynd í fjölskylduhóp spjallrás einhvers.

3:15 Beta útgáfan krefst macOS 27 eða nýrri. Apple listar ókeypis skráningu fyrir niðurhal. Þetta hjálpar við að hanna passa; útgáfa og dreifing þeirra þarf sitt eigið verkferli.

Af hverju getur vefsíða ekki fullkomlega staðsett VPN notanda?

3:24 Síðan er það Utah, þar sem löggjafar vildu að vefsíður fyrir fullorðna myndu auðkenna raunverulega staðsetningu VPN notenda eða loka á þá. Alríkisdómari hefur stöðvað umdeildar VPN ákvæði tímabundið. Electronic Frontier Foundation vitnar í dómstólinn sem segir að landfræðileg staðsetning fullkomnun sé ekki möguleg eins og er. Það kemur í ljós að netstafinn neitar enn að innleiða eiginleika eingöngu vegna þess að löggjafi opnaði miða. Vefsíða sér heimilisfang VPN miðlarans.

3:49 Það staðfestir ekki hvar manneskjan situr. Að meðhöndla sérhvern falinn stað sem hugsanlega Utah þrýstir kröfunni langt út fyrir landamæri ríkisins. EFF vitnar í rökstuðning dómarans um að Aylo myndi þurfa að staðfesta tuttugu og átta milljónir notenda til að tryggja samræmi. Það er kostnaðurinn við að krefjast fullkomnunar frá merki sem getur ekki veitt hana. Þetta er bráðabirgðaúrskurður.

4:08 Sérstök takmörkun á deilingu VPN upplýsinga var ekki mótmælt. Lagalega diff hefur enn línur eftir til að fara yfir. Allar þrjár sögurnar snúast um mörk. Passa ritill getur athugað reit. Vefsíða sér útgöngu heimilisfang. Kerfi fær þann aðgang sem umhverfiskerfið veitir. Og sá sem var í upphafi er sá sem sendi þér skilaboðin.

Hver verður afhjúpaður án þess að smella á „Leyfa“?

4:27 Apple varar beinlínis við persónuvernd þeirra líka. Leyfi þitt getur afhjúpað samtal sem inniheldur gögn einhvers annars, og þeir smelltu aldrei á „Leyfa“ hnappinn þinn. Fyrirsögn Slashdot kallar það aukna áhættu. Þessi víðari hringur er ástæðan fyrir því að mér er annt. Leyfisskjárinn þarf að útskýra hvað aðstoðarmaðurinn mun fá. Ef þú vilt frekar lesa þetta en heyra mig segja það, þá lendir diff í pósthólfinu þínu á hverjum morgni, ókeypis á thedailydiff.dev, hlekkur hér að neðan.

4:49 Svo dómurinn í dag: NEEDS REVIEW.

Hver er dómur minn um fyrirhugaðar stýringar Apple?

4:51 Ég vil skýrara samþykki og þrengri aðgang, með lögmætum verkferlum varðveittum. Útfærsla Apple mun ráða því hvort það skilar árangri. Gerðu áskrifandi, smelltu á bjölluna og segðu mér í athugasemdunum hvort þú hefðir stimplað það öðruvísi. Og það er diffið í dag. Ég er Niko frá Axrisi. Sameinaðu á ábyrgan hátt.

Heimildir

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com