Apple AI агенттерди токтотот
Apple кошумча macOS Full Disk Access башкаруусун пландаштырууда, анткени автономдуу AI агенттери кеңири маалыматтарга жетүү коркунучун жогорулатат.
Apple кошумча macOS Full Disk Access башкаруусун пландаштырууда, анткени автономдуу AI агенттери кеңири маалыматтарга жетүү коркунучун жогорулатат. Биз учурдагы уруксатты, Meta компаниясынын талаштуу Muse билдирүүлөр ишин жана тарыхый агент-коопсуздук далилдерин карап чыгабыз, андан кийин Pass Designer жана Юта штатынын VPN-жайгашкан жери боюнча эрежелерин карайбыз. Өкүм: КАРАП ЧЫГУУ КЕРЕК.
Жазма басылышын окуу (Англисче) ↗
Бул видео эмнелерди камтыйт
- Эмне үчүн бир Mac уруксаты күтүүсүздөн чоңураак коркунуч жаратат?
- Full Disk Access иш жүзүндө эмнени ачат?
- Эмне үчүн автономдуу агенттер коюмдарды өзгөртөт?
- Apple жеткиргенге чейин иштеп чыгуучулар эмнени чектей алышат?
- Apple'дын жаңы өтүү редактору иш жүзүндө эмне кылат?
Суроолор жана жооптор
Mac компьютериңизге Толук Дискке Кирүү уруксатын бергениңизде, колдонмо эмнелерди окуй алат?
Толук Дискке Кирүү Mail, Messages жана Safari маалыматтары сыяктуу корголгон маалыматтарды, ошондой эле Time Machine камдык көчүрмөлөрүн камтыйт, ошондуктан камдык көчүрмө колдонмосу иштей алат. Apple бул кирүү башка купуялуулук көзөмөлүнөн өтүп кетет дейт. Сиз аны Системдик Орнотуулар аркылуу бересиз жана уруксат буга чейин бар. Apple'дин жарыясы бул гранттын айланасында кошумча көзөмөлдөрдү убада кылат.
Эмне үчүн автономдуу AI агенттери файлга кеңири кирүүнү камдык көчүрмө колдонмосуна караганда кооптуураак кылышат?
Камдык көчүрмө программасы файлдарыңызды көчүрөт, ал эми агент окуганын чечмелейт жана ага аракет кылуу үчүн куралдарды чакырышы мүмкүн, ошондуктан автономиянын жогорулашы кеңири жетүүнүн кесепеттерин алдын ала айтууну кыйындатат. Электрондук почта же веб-баракча жардамчыны багыттоого аракет кылган көрсөтмөлөрдү камтышы мүмкүн, бул "prompt injection" деп аталат. Apple барган сайын автономдуу агенттер Толук Дискке Кирүүнү бир топ кооптуу кылат дейт.
AI агентинин куралдарын чектөө prompt injection чабуулдарын канчалык азайта алат?
AgentDojo эталонунда, токсон жети тапшырма жана алты жүз жыйырма тогуз коопсуздук учурлары менен, бир GPT four oh конфигурациясы болжол менен кырк сегиз пайыз учурда ийгиликтүү чабуулга кабылган. Жеткиликтүү куралдарды чыпкалоо аны болжол менен жети пайызга чейин төмөндөткөн. Бул жыйырма жыйырма төртүнчү жылдагы тарыхый лабораториялык натыйжалар, ошондуктан алар Apple'дин көзөмөлү кандай иштей тургандыгын эмес, дизайн сабагын көрсөтөт.
Эмне үчүн федералдык судья Юта штатынын VPN жайгашкан жери боюнча эрежелерин токтотту?
Судья чакырылган VPN жоболорун алдын ала токтотту. Электрондук Чек Ара Фондусу соттун геолокациянын кемчиликсиздиги учурда мүмкүн эмес деп айтканын келтирет. Веб-сайт VPN серверинин дарегин көрөт, бул адамдын кайда отурганын аныктабайт. Буйрук алдын ала, жана VPN маалыматын бөлүшүүгө өзүнчө чектөөгө каршы чыккан жок.
Apple'дин Толук Дискке Кирүү көзөмөлүн күчөтүү планы жакшы идеябы?
The Daily Diff'тин өкүмү NEEDS REVIEW болгон. Эпизод ачыкыраак макулдукту жана мыйзамдуу иш процесстерин сактоо менен тар кирүүнү каалайт жана Apple'дин ишке ашырылышы анын ишке ашырылышын чечет дейт. Apple эч кандай диалог же ишке киргизүү күнүн жарыялаган эмес. Башка адамдын купуялуулугу да коркунучта, анткени сиздин уруксатыңыз алардын маалыматтарын камтыган сүйлөшүүнү ачыкка чыгарышы мүмкүн.
Котормо стенограмма
Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.
Эмне үчүн бир Mac уруксаты күтүүсүздөн чоңураак коркунуч жаратат?
0:00 Сиз Уруксат берүү баскычын басуу колдонмо эмнени көрө ала турганын чечет деп ойлосоңуз керек. Apple компаниясы AI агенттеринин автономиясы жогорулап жаткандыктан, Full Disk Access уруксатын олуттуу коркунучтуу кылат жана ал кошумча көзөмөлдөрдү киргизүүдө дейт. Бул видеодо агенттер эмнени окуй алышат? Apple эмнени өзгөртүп жатат? Дагы кимдер ачыкка чыгат? Башка бирөөнүн купуялыгы сиздин Mac'ыңызда коркунучта турат. Өкүмгө чейин аларга кайра кайрылабыз.
0:18 Бүгүн ишемби, октябрдын үчүнчү күнү, жана бул The Daily Diff. Жума күнү Apple иштеп чыгуучуларга толук дискке жетүү жөнүндө эскертип, жаңы Wallet өтүү редакторун киргизди. Ошол эле учурда, федералдык сот Юта штатынын VPN жайгашкан жери боюнча эрежелерин убактылуу токтотту. TechCrunch кабарчысы Сара Перес Apple'дын жарыясын ок атуу деп атады. Максат Apple'дын постунда аталбай калган, бул таң калыштуу корпоративдик талашты баштоонун жолу. Apple'дын документтерине почта жана билдирүүлөр маалыматтары,
Full Disk Access иш жүзүндө эмнени ачат?
0:42 плюс Safari маалыматтары кирет. Ал ошондой эле Time Machine камдык көчүрмөлөрүн камтыйт, ошондуктан камдык көчүрмө колдонмоңуз иштей алат. Apple бул башка купуялуулук көзөмөлдөрүн айланып өтөт дейт. Сиз аны Системалык Жөндөөлөр аркылуу бересиз, жана уруксат буга чейин бар. Жарыя ал уруксаттын айланасында кошумча көзөмөлдөрдү убада кылат. X тармагында Хави: «Сиз уруксат сурамдарын жакшы көрөсүз деп үмүттөнөм» деп жооп берди. Бул иштеп чыгуучулардын чыңалуусу алты сөздө. Автоматташтыруу бизден автоматташтырууну кол менен жактырууну сурай берет.
1:06 Бирок уруксаттарды туура сактаңыз. Жеткиликтүүлүк жана Автоматташтыруу Apple'дын колдонмосунда өзүнчө жазууларга ээ. Корголгон маалыматтарды окуу жана башка колдонмону башкаруу ар башка мүмкүнчүлүктөр, ар башка көзөмөлдөр менен.
Эмне үчүн автономдуу агенттер коюмдарды өзгөртөт?
1:16 Камдык көчүрмө программасы файлдарыңызды көчүрөт. Агент окуган нерсесин чечмелейт жана ага ылайык иш-аракет кылуу үчүн куралдарды чакырышы мүмкүн. Көбүрөөк автономия кеңири жетүүнүн кесепеттерин алдын ала айтууну кыйындатат. Буга чейин талаштуу мисал бар. Джейсон Атен Meta'нын Muse программасы анын билдирүүлөрүн уруксатсыз окугандыгын айтты. Meta интеграция толук дискке жетүүнү жана анын Messages туташтыргычын талап кылат дейт. Apple Muse'ди да, ишке киргизүү күнүн да атабайт. Ал колдонуучулар бул жетүүнү түшүнүп, аны абдан ачык
1:42 аракет аркылуу бериши керек дейт. Чыныгы интерфейс дагы деле скриншотсуз. Бул жерде тереңирээк агент көйгөйү бар. Электрондук почта же веб-баракча жардамчыны багыттоого аракет кылган көрсөтмөлөрдү камтышы мүмкүн. Бул prompt injection, жана агент аны пайдалуу иш аткарып жатканда кездештирет. Көз карандысыз изилдөөчүлөр Agent Dojo'ну, токсон жети тапшырма жана алты жүз жыйырма тогуз коопсуздук учуру менен курушкан. Бул ишенимсиз маалыматтар агенттин куралдарын басып алабы же жокпу текшерет.
2:04 Бул жыйырма жыйырма төртүнчү жылдагы тарыхый лабораториялык натыйжалар. Apple'дын келечектеги диалогу жарыялана элек, ошондуктан эч ким азырынча жеңишке жете элек. Бир GPT төрт нөл конфигурациясында, максаттуу чабуул кырк сегиз пайызга жакын учурда ийгиликтүү болгон. Жеткиликтүү куралдарды фильтрлөө аны жети пайызга чейин түшүргөн, пайдалуу дизайн сабагы менен.
Apple жеткиргенге чейин иштеп чыгуучулар эмнени чектей алышат?
2:21 Жардамчыга тапшырмага керектүү маалыматтарды жана куралдарды бериңиз. Долбоор папкасы бүтүндөй аккаунтка караганда кичине киргизүү бети. Окуу мүмкүнчүлүгүн жөнөтүү же жок кылуу уруксатынан да бөлүп кароого болот. Бул иштеп чыгуучулар буга чейин эле жашап келген продукт компромисси. Терминал же камдык көчүрмө утилитасы кеңири жетүү үчүн мыйзамдуу себепке ээ болушу мүмкүн. Аны этиятсыздык менен алып салуу өтө коопсуз, бузулган иш процессин жаратат. Анда Apple эмнени өзгөртүп жатат? Айтылган максат - өзгөчө жетүү үчүн ачык, так макулдук.
2:46 Биз ал мыйзамдуу колдонууларды кантип сактап калаарын көрүү үчүн ишке ашырууну дагы эле күтөбүз.
Apple'дын жаңы өтүү редактору иш жүзүндө эмне кылат?
2:50 Apple ошондой эле Wallet билеттери үчүн визуалдык редактор болгон Pass Designer'ди сунуштады. Сиз шаблондон баштап, сүрөттөрүңүздү киргизип, түзөтүп жатканда билетти алдын ала көрөсүз. Apple алдын ала көрүү iPhone жана Apple Watch сыяктуу эле рендерингди колдонот дейт. Ал талааларды текшерет жана семантикалык маалыматтардан артка шайкеш билетти кура алат. Семантикалык тегдер учуунун чоо-жайы жана окуянын даталары сыяктуу нерселерди сүрөттөйт. Сиздин концерт билетиңиз кимдир бирөөнүн үй-бүлөлүк тобундагы бүдөмүк скриншот болгонго чейин, акыры структураланган маалыматка айлана алат. Сиздин концерт билетиңиз кимдир бирөөнүн үй-бүлөлүк тобундагы бүдөмүк скриншот болгонго чейин, акыры структураланган маалыматка айлана алат.
3:15 Бета версиясы macOS жыйырма жети же андан кийинкисин талап кылат. Apple жүктөө үчүн акысыз каттоодон өтүүнү сунуштайт. Бул билеттерди долбоорлоого жардам берет; аларды чыгаруу жана бөлүштүрүү өзүнчө иш процессин талап кылат.
Эмне үчүн веб-сайт VPN колдонуучусун так таба албайт?
3:24 Андан кийин Юта бар, ал жерде мыйзам чыгаруучулар чоңдор үчүн веб-сайттардан VPN колдонуучуларынын чыныгы жайгашкан жерин аныктоону же аларды бөгөттөөнү талап кылышкан. Андан кийин Юта бар, ал жерде мыйзам чыгаруучулар чоңдор үчүн веб-сайттардан VPN колдонуучуларынын чыныгы жайгашкан жерин аныктоону же аларды бөгөттөөнү талап кылышкан. Федералдык судья талаштуу VPN жоболорун алдын ала бөгөттөдү. Электрондук Чек ара Фонду соттун геолокация кемчиликсиздиги учурда мүмкүн эмес деген сөздөрүн келтирет. Көрсө, тармак стеги жөн гана мыйзам чыгаруу органы билет ачкандыктан функцияларды ишке ашыруудан баш тартып жатыптыр. Көрсө, тармак стеги жөн гана мыйзам чыгаруу органы билет ачкандыктан функцияларды ишке ашыруудан баш тартып жатыптыр. Веб-сайт VPN серверинин дарегин көрөт.
3:49 Бул адамдын кайда отурганын аныктабайт. Ар бир жашыруун жайгашкан жерди Юта деп эсептөө талапты штаттын чек арасынан алыс түртөт. EFF судьянын Аylo шайкештикти кепилдөө үчүн жыйырма сегиз миллион колдонуучуну текшерүүгө муктаж болот деген жүйөсүн келтирет. EFF судьянын Аylo шайкештикти кепилдөө үчүн жыйырма сегиз миллион колдонуучуну текшерүүгө муктаж болот деген жүйөсүн келтирет. Бул аны камсыздай албаган сигналдан кемчиликсиздикти талап кылуунун баасы. Бул алдын ала буйрук.
4:08 VPN маалыматын бөлүшүүгө өзүнчө чектөө талашталган эмес. Юридикалык айырмачылыкты карап чыгуу үчүн дагы саптар бар. Үч окуя тең чектерге байланыштуу. Билет редактору талааны текшере алат. Веб-сайт чыгуу дарегин көрөт. Агент айланадагы система иш жүзүндө кандай жетүүнү берсе, ошол жетүүнү алат. Жана башындагы адам сизге билдирүү жөнөткөн адам.
Уруксат берүү баскычын баспай туруп кимдер ачыкка чыгат?
4:27 Apple алардын купуялыгы жөнүндө да ачык эскертет. Сиздин уруксатыңыз башка бирөөнүн маалыматтарын камтыган сүйлөшүүнү ачыкка чыгарышы мүмкүн, жана алар эч качан сиздин Уруксат берүү баскычыңызды баскан эмес. Slashdot'тун аталышы аны жогорулатылган тобокелдик деп атайт. Ошол кеңири чөйрө менин эмне үчүн кам көрөрүмдүн себеби. Уруксат экраны жардамчы эмне алаарын түшүндүрүшү керек. Эгер сиз муну мен айткандан көрө окууну кааласаңыз, айырмачылык ар күнү эртең менен сиздин почтаңызга келет, thedailydiff.dev дарегинде акысыз, шилтеме төмөндө.
4:49 Ошондуктан бүгүнкү өкүм, КАРАП ЧЫГУУ КЕРЕК.
Apple сунуштаган көзөмөлдөр боюнча менин өкүмүм кандай?
4:51 Мага так макулдук жана мыйзамдуу иш процесстери сакталган тар жетүү керек. Apple'дын ишке ашыруусу ал жеткиреби же жокпу чечет. Жазылыңыз, коңгуроону басыңыз жана комментарийлерде аны башкача мөөр басаар белеңиз айтыңыз. Жана бүгүнкү айырмачылык ушул. Мен Axrisi'ден Нико. Жоопкерчилик менен бириктиргиле.
Булактар
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



