+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple memperlahankan Ejen AI

Apple merancang kawalan Akses Cakera Penuh macOS tambahan kerana ejen AI autonomi meningkatkan risiko akses data yang meluas.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple merancang kawalan Akses Cakera Penuh macOS tambahan kerana ejen AI autonomi meningkatkan risiko akses data yang meluas. Kami meneliti kebenaran semasa, kes mesej Muse yang dipertikaikan oleh Meta dan bukti keselamatan ejen bersejarah, kemudian meliputi Pass Designer dan peraturan lokasi VPN Utah. Keputusan: PERLU SEMAKAN.

Baca edisi bertulis (Bahasa Inggeris) ↗

Apa yang diliputi video ini

  • Mengapa satu kebenaran Mac tiba-tiba menjadi risiko yang lebih besar?
  • Apa sebenarnya yang dibuka oleh Akses Cakera Penuh?
  • Mengapa ejen autonomi mengubah risikonya?
  • Apa yang boleh dihadkan oleh pembangun sebelum Apple menghantar?
  • Apa sebenarnya yang dilakukan oleh editor pas baharu Apple?

Soalan dan jawapan

Apakah yang boleh dibaca oleh aplikasi apabila anda memberikannya Akses Cakera Penuh pada Mac?

Akses Cakera Penuh meliputi data yang dilindungi seperti data Mel, Mesej dan Safari, serta sandaran Time Machine supaya aplikasi sandaran boleh berfungsi. Apple menyatakan akses ini sebahagian besarnya memintas kawalan privasi lain. Anda memberikannya melalui Tetapan Sistem, dan kebenaran sudah wujud. Pengumuman Apple menjanjikan kawalan tambahan sekitar pemberian tersebut.

Tonton bahagian ini 0:40 · developer.apple.com · support.apple.com

Mengapa agen AI autonomi menjadikan akses fail yang luas lebih berisiko daripada aplikasi sandaran?

Program sandaran menyalin fail anda, manakala agen mentafsir apa yang dibacanya dan mungkin memanggil alatan untuk bertindak ke atasnya, jadi lebih banyak autonomi menjadikan akibat akses yang luas lebih sukar diramalkan. E-mel atau halaman web boleh mengandungi arahan yang cuba mengalihkan pembantu, yang dipanggil suntikan arahan. Apple menyatakan agen yang semakin autonomi menjadikan Akses Cakera Penuh lebih berisiko secara substansial.

Tonton bahagian ini 1:16 · developer.apple.com · techcrunch.com · arxiv.org

Berapa banyak pembatasan alatan agen AI dapat mengurangkan serangan suntikan arahan?

Dalam penanda aras AgentDojo, dengan sembilan puluh tujuh tugas dan enam ratus dua puluh sembilan kes keselamatan, satu konfigurasi GPT four oh berjaya diserang kira-kira empat puluh lapan peratus daripada masa. Penapisan alatan yang tersedia mengurangkan kepada kira-kira tujuh peratus. Ini adalah hasil makmal sejarah dari dua puluh dua puluh empat, jadi ia menunjukkan pelajaran reka bentuk dan bukannya bagaimana kawalan Apple akan berfungsi.

Tonton bahagian ini 2:21 · arxiv.org · agentdojo.spylab.ai

Mengapa seorang hakim persekutuan menyekat peraturan lokasi VPN Utah?

Hakim secara awal menyekat peruntukan VPN yang dicabar. Electronic Frontier Foundation memetik mahkamah yang mengatakan kesempurnaan geolokasi tidak mungkin buat masa ini. Laman web melihat alamat pelayan VPN, yang tidak menetapkan di mana orang itu duduk. Perintah itu adalah awal, dan sekatan berasingan terhadap perkongsian maklumat VPN tidak dicabar.

Tonton bahagian ini 3:24 · www.eff.org

Adakah rancangan Apple untuk kawalan Akses Cakera Penuh yang lebih ketat adalah idea yang baik?

Keputusan The Daily Diff adalah NEEDS REVIEW. Episod itu mahukan persetujuan yang lebih jelas dan akses yang lebih sempit dengan aliran kerja yang sah dikekalkan, dan menyatakan pelaksanaan Apple akan menentukan sama ada ia berjaya. Apple belum menerbitkan sebarang dialog atau tarikh pelancaran. Privasi orang lain juga dipertaruhkan, kerana kebenaran anda boleh mendedahkan perbualan yang mengandungi data mereka.

Tonton bahagian ini 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

Transkrip terjemahan

Diterjemahkan daripada penceritaan asal Bahasa Inggeris. Audio dan kapsyen yang tersedia dikawal oleh YouTube.

Mengapa satu kebenaran Mac tiba-tiba menjadi risiko yang lebih besar?

0:00 Anda mungkin fikir mengklik Benarkan menyelesaikan apa yang boleh dilihat oleh aplikasi. Apple mengatakan ejen AI yang semakin autonomi menjadikan Akses Cakera Penuh lebih berisiko, dan ia menambah kawalan. Dalam video ini, apa yang boleh dibaca oleh ejen? Apa yang diubah oleh Apple? Siapa lagi yang terdedah? Privasi orang lain dipertaruhkan pada Mac anda. Kami akan kembali kepada mereka sebelum keputusan.

0:18 Ini hari Sabtu, tiga Oktober, dan ini The Daily Diff. Pada hari Jumaat, Apple memberi amaran kepada pembangun mengenai akses cakera penuh dan memperkenalkan editor pas Wallet. Sementara itu, seorang hakim persekutuan menangguhkan peraturan lokasi VPN Utah. Wartawan TechCrunch Sarah Perez memanggil pengumuman Apple sebagai tembakan yang dilepaskan. Sasaran kekal tanpa nama dalam catatan Apple, yang merupakan cara yang sangat korporat untuk memulakan perbalahan. Dokumentasi Apple termasuk data Mel dan Mesej,

Apa sebenarnya yang dibuka oleh Akses Cakera Penuh?

0:42 berserta data Safari. Ia juga termasuk sandaran Time Machine, supaya aplikasi sandaran anda boleh berfungsi. Apple mengatakan ini sebahagian besarnya memintas kawalan privasi lain. Anda memberikannya melalui Tetapan Sistem, dan kebenaran sudah wujud. Pengumuman itu menjanjikan kawalan tambahan di sekitar pemberian itu. Di X, javi menjawab, Saya harap anda suka arahan kebenaran. Itulah ketegangan pembangun dalam enam perkataan. Automasi terus meminta kami untuk meluluskan automasi secara manual.

1:06 Namun, pastikan kebenaran itu lurus. Kebolehcapaian dan Automasi mempunyai entri berasingan dalam panduan Apple. Membaca data terlindung dan mengawal aplikasi lain adalah keupayaan yang berbeza, dengan kawalan yang berbeza.

Mengapa ejen autonomi mengubah risikonya?

1:16 Program sandaran menyalin fail anda. Ejen menafsirkan apa yang dibacanya dan mungkin memanggil alat untuk bertindak ke atasnya. Lebih banyak autonomi menjadikan akibat akses yang meluas lebih sukar untuk diramal. Sudah ada contoh yang dipertikaikan. Jason Aten berkata Muse Meta membaca mesejnya tanpa kebenaran. Meta mengatakan integrasi itu memerlukan kedua-dua akses cakera penuh dan penyambung Mesejnya. Apple tidak menamakan Muse mahupun tarikh pelancaran. Ia mengatakan pengguna harus memahami akses ini dan memberikannya melalui tindakan

1:42 yang sangat eksplisit. Antara muka sebenar kekal sebagai tangkapan skrin yang hilang. Terdapat masalah ejen yang lebih mendalam di sini. E-mel atau halaman web boleh mengandungi arahan yang cuba mengalihkan pembantu. Itu adalah suntikan arahan, dan ejen menemuinya semasa melakukan kerja yang berguna. Penyelidik bebas membina Agent Dojo, dengan sembilan puluh tujuh tugas dan enam ratus dua puluh sembilan kes keselamatan. Ia menguji sama ada data yang tidak dipercayai mengambil alih alat ejen.

2:04 Ini adalah hasil makmal bersejarah dari tahun dua puluh dua puluh empat. Dialog masa depan Apple belum diterbitkan, jadi tiada siapa yang mendapat kemenangan lagi. Dalam satu konfigurasi GPT empat oh, serangan yang disasarkan berjaya kira-kira empat puluh lapan peratus daripada masa. Penapisan alat yang tersedia membawa itu kepada kira-kira tujuh peratus, dengan pelajaran reka bentuk yang berguna.

Apa yang boleh dihadkan oleh pembangun sebelum Apple menghantar?

2:21 Berikan pembantu data dan alat yang diperlukan oleh tugas itu. Folder projek adalah permukaan input yang lebih kecil daripada akaun keseluruhan. Akses baca juga boleh dipisahkan daripada kebenaran untuk menghantar atau memadam. Itu adalah pertukaran produk yang sudah dihadapi oleh pembangun. Utiliti terminal atau sandaran mungkin mempunyai alasan yang sah untuk akses yang luas. Mengalih keluarnya secara sembarangan akan mewujudkan aliran kerja yang sangat selamat tetapi rosak. Jadi apa yang diubah oleh Apple? Matlamat yang dinyatakan adalah persetujuan yang lebih jelas dan lebih eksplisit untuk akses luar biasa.

2:46 Kita masih memerlukan pelaksanaan untuk melihat bagaimana ia mengekalkan penggunaan yang sah itu.

Apa sebenarnya yang dilakukan oleh editor pas baharu Apple?

2:50 Apple juga memperkenalkan Pass Designer, editor visual untuk pas Wallet. Anda bermula dengan templat, membawa masuk imej anda, dan pratonton pas semasa anda mengedit. Apple mengatakan pratonton menggunakan rendering yang sama seperti iPhone dan Apple Watch. Ia mengesahkan medan dan boleh membina pas yang serasi ke belakang daripada data semantik. Tag semantik menerangkan perkara seperti butiran penerbangan dan tarikh acara. Tiket konsert anda akhirnya boleh menjadi data berstruktur sebelum menjadi tangkapan skrin kabur dalam sembang kumpulan keluarga seseorang.

3:15 Beta memerlukan macOS dua puluh tujuh atau lebih baru. Apple menyenaraikan pendaftaran percuma untuk muat turun. Ini membantu mereka bentuk pas; mengeluarkan dan mengedarkannya memerlukan aliran kerja sendiri.

Mengapa laman web tidak dapat mengesan lokasi pengguna VPN dengan tepat?

3:24 Kemudian ada Utah, di mana penggubal undang-undang mahu laman web dewasa yang dilindungi untuk mengenal pasti lokasi sebenar pengguna VPN atau menyekat mereka. Seorang hakim persekutuan telah menyekat sementara peruntukan VPN yang dicabar. Electronic Frontier Foundation memetik mahkamah mengatakan kesempurnaan geolokasi tidak mungkin buat masa ini. Ternyata tumpukan rangkaian masih enggan melaksanakan ciri hanya kerana badan perundangan membuka tiket. Laman web melihat alamat pelayan VPN.

3:49 Itu tidak menetapkan di mana orang itu duduk. Menganggap setiap lokasi tersembunyi sebagai berpotensi Utah menolak keperluan itu jauh melangkaui sempadan negeri. EFF memetik alasan hakim bahawa Aylo perlu mengesahkan dua puluh lapan juta pengguna untuk menjamin pematuhan. Itulah kos menuntut kesempurnaan daripada isyarat yang tidak dapat membekalkannya. Ini adalah perintah awal.

4:08 Sekatan berasingan terhadap perkongsian maklumat VPN tidak dicabar. Perbezaan undang-undang masih mempunyai baris yang perlu disemak. Kesemua tiga cerita bergantung pada sempadan. Editor pas boleh menyemak medan. Laman web melihat alamat keluar. Ejen mendapat apa sahaja akses yang sebenarnya diberikan oleh sistem sekeliling. Dan orang dari pembukaan adalah sesiapa yang menghantar mesej kepada anda.

Siapa yang terdedah tanpa mengklik Benarkan?

4:27 Apple secara eksplisit memberi amaran tentang privasi mereka juga. Kebenaran anda boleh mendedahkan perbualan yang mengandungi data orang lain, dan mereka tidak pernah mengklik butang Benarkan anda. Tajuk Slashdot memanggilnya peningkatan risiko. Lingkaran yang lebih luas itulah sebabnya saya peduli. Skrin kebenaran perlu menjelaskan apa yang akan diterima oleh pembantu. Jika anda lebih suka membaca ini daripada mendengar saya mengatakannya, diff itu tiba di peti masuk anda setiap pagi, percuma di the daily diff dot dev, pautan di bawah.

4:49 Jadi keputusan hari ini, PERLU SEMAKAN.

Apakah keputusan saya mengenai kawalan yang dicadangkan oleh Apple?

4:51 Saya mahu persetujuan yang lebih jelas dan akses yang lebih sempit, dengan aliran kerja yang sah dipelihara. Pelaksanaan Apple akan menentukan sama ada ia berjaya. Langgan, tekan loceng, dan beritahu saya dalam komen jika anda akan mencopnya secara berbeza. Dan itu perbezaan untuk hari ini. Saya Niko dari Axrisi. Gabung secara bertanggungjawab.

Sumber

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Video berkaitan