+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Apple ชะลอ AI Agents

Apple วางแผนการควบคุมการเข้าถึงดิสก์เต็มรูปแบบของ macOS เพิ่มเติม เนื่องจากตัวแทน AI แบบอัตโนมัติเพิ่มความเสี่ยงของการเข้าถึงข้อมูลในวงกว้าง เราตรวจสอบการอนุญาตปัจจุบัน กรณีข้อความ Muse ที่เป็นข้อพิพาทของ Meta และหลักฐานความปลอดภัยของตัวแทนในอดีต จากนั้นครอบคลุม Pass Designer และกฎการระบุตำแหน่ง VPN ของ Utah คำตัดสิน: NEEDS REVIEW.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Apple วางแผนการควบคุมการเข้าถึงดิสก์เต็มรูปแบบของ macOS เพิ่มเติม เนื่องจากตัวแทน AI แบบอัตโนมัติเพิ่มความเสี่ยงของการเข้าถึงข้อมูลในวงกว้าง เราตรวจสอบการอนุญาตปัจจุบัน กรณีข้อความ Muse ที่เป็นข้อพิพาทของ Meta และหลักฐานความปลอดภัยของตัวแทนในอดีต จากนั้นครอบคลุม Pass Designer และกฎการระบุตำแหน่ง VPN ของ Utah คำตัดสิน: NEEDS REVIEW.

อ่านฉบับลายลักษณ์อักษร (ภาษาอังกฤษ) ↗

วิดีโอนี้ครอบคลุมอะไรบ้าง

  • ทำไมการอนุญาต Mac อย่างหนึ่งถึงกลายเป็นความเสี่ยงที่ใหญ่ขึ้นอย่างกะทันหัน?
  • Full Disk Access เปิดอะไรบ้าง?
  • ทำไมตัวแทนอิสระถึงเปลี่ยนสถานะการณ์เดิมพัน?
  • นักพัฒนาสามารถจำกัดอะไรได้บ้างก่อนที่ Apple จะจัดส่ง?
  • โปรแกรมแก้ไขบัตรผ่านใหม่ของ Apple ทำอะไรได้บ้าง?

คำถามและคำตอบ

แอปสามารถอ่านอะไรได้บ้างเมื่อคุณให้สิทธิ์การเข้าถึงดิสก์เต็มรูปแบบบน Mac?

การเข้าถึงดิสก์เต็มรูปแบบครอบคลุมข้อมูลที่ได้รับการป้องกัน เช่น ข้อมูล Mail, Messages และ Safari รวมถึงข้อมูลสำรอง Time Machine เพื่อให้แอปสำรองข้อมูลสามารถทำงานได้ Apple กล่าวว่าการเข้าถึงนี้ส่วนใหญ่จะหลีกเลี่ยงการควบคุมความเป็นส่วนตัวอื่นๆ คุณให้สิทธิ์ผ่านการตั้งค่าระบบ และสิทธิ์อนุญาตนี้มีอยู่แล้ว การประกาศของ Apple สัญญาว่าจะมีการควบคุมเพิ่มเติมเกี่ยวกับการให้สิทธิ์นั้น

ดูส่วนนี้ 0:40 · developer.apple.com · support.apple.com

เหตุใดเอเจนต์ AI อิสระจึงทำให้การเข้าถึงไฟล์ในวงกว้างมีความเสี่ยงมากกว่าแอปสำรองข้อมูล?

โปรแกรมสำรองข้อมูลจะคัดลอกไฟล์ของคุณ ในขณะที่เอเจนต์จะตีความสิ่งที่อ่านและอาจเรียกใช้เครื่องมือเพื่อดำเนินการกับข้อมูลเหล่านั้น ดังนั้นความเป็นอิสระที่มากขึ้นจึงทำให้ผลที่ตามมาของการเข้าถึงในวงกว้างยากต่อการคาดเดา อีเมลหรือหน้าเว็บอาจมีคำสั่งที่พยายามเปลี่ยนเส้นทางผู้ช่วย ซึ่งเรียกว่าการฉีดพรอมต์ Apple กล่าวว่าเอเจนต์ที่มีความเป็นอิสระมากขึ้นทำให้การเข้าถึงดิสก์เต็มรูปแบบมีความเสี่ยงมากขึ้นอย่างมาก

ดูส่วนนี้ 1:16 · developer.apple.com · techcrunch.com · arxiv.org

การจำกัดเครื่องมือของเอเจนต์ AI สามารถลดการโจมตีแบบฉีดพรอมต์ได้มากน้อยเพียงใด?

ในการทดสอบ AgentDojo ซึ่งมีงานเก้าสิบเจ็ดงานและกรณีความปลอดภัยหกร้อยยี่สิบเก้ากรณี การกำหนดค่า GPT four oh หนึ่งชุดถูกโจมตีสำเร็จประมาณสี่สิบแปดเปอร์เซ็นต์ การกรองเครื่องมือที่มีอยู่ทำให้ลดลงเหลือประมาณเจ็ดเปอร์เซ็นต์ นี่คือผลลัพธ์จากห้องปฏิบัติการในอดีตตั้งแต่ปีสองพันยี่สิบสี่ ดังนั้นจึงแสดงให้เห็นบทเรียนการออกแบบมากกว่าประสิทธิภาพของการควบคุมของ Apple

ดูส่วนนี้ 2:21 · arxiv.org · agentdojo.spylab.ai

เหตุใดผู้พิพากษาของรัฐบาลกลางจึงบล็อกกฎการระบุตำแหน่ง VPN ของรัฐยูทาห์?

ผู้พิพากษาได้บล็อกบทบัญญัติ VPN ที่ถูกท้าทายเป็นการเบื้องต้น Electronic Frontier Foundation อ้างคำกล่าวของศาลที่ว่าความสมบูรณ์แบบของการระบุตำแหน่งทางภูมิศาสตร์ยังไม่สามารถทำได้ในปัจจุบัน เว็บไซต์เห็นที่อยู่เซิร์ฟเวอร์ VPN ซึ่งไม่ได้ระบุว่าบุคคลนั้นอยู่ที่ใด คำสั่งนี้เป็นการเบื้องต้น และข้อจำกัดแยกต่างหากเกี่ยวกับการแบ่งปันข้อมูล VPN ไม่ได้ถูกท้าทาย

ดูส่วนนี้ 3:24 · www.eff.org

แผนของ Apple สำหรับการควบคุมการเข้าถึงดิสก์เต็มรูปแบบที่เข้มงวดยิ่งขึ้นเป็นความคิดที่ดีหรือไม่?

คำตัดสินของ The Daily Diff คือ NEEDS REVIEW ตอนนี้ต้องการความยินยอมที่ชัดเจนขึ้นและการเข้าถึงที่แคบลงโดยที่เวิร์กโฟลว์ที่ถูกต้องตามกฎหมายยังคงอยู่ และกล่าวว่าการนำไปใช้ของ Apple จะเป็นตัวตัดสินว่าจะทำได้หรือไม่ Apple ยังไม่ได้เผยแพร่บทสนทนาหรือวันที่เปิดตัว ความเป็นส่วนตัวของบุคคลอื่นก็ตกอยู่ในความเสี่ยงเช่นกัน เพราะการอนุญาตของคุณสามารถเปิดเผยการสนทนาที่มีข้อมูลของพวกเขาได้

ดูส่วนนี้ 4:50 · developer.apple.com · techcrunch.com · techcrunch.com

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

ทำไมการอนุญาต Mac อย่างหนึ่งถึงกลายเป็นความเสี่ยงที่ใหญ่ขึ้นอย่างกะทันหัน?

0:00 คุณคงคิดว่าการคลิกอนุญาตเป็นการตัดสินว่าแอปจะเห็นอะไรได้บ้าง Apple กล่าวว่าตัวแทน AI แบบอัตโนมัติที่เพิ่มขึ้นทำให้ Full Disk Access มีความเสี่ยงมากขึ้น และกำลังเพิ่มการควบคุม ในวิดีโอนี้ ตัวแทนสามารถอ่านอะไรได้บ้าง? Apple กำลังเปลี่ยนแปลงอะไร? ใครอีกบ้างที่ถูกเปิดเผย? ความเป็นส่วนตัวของผู้อื่นกำลังตกอยู่ในความเสี่ยงบน Mac ของคุณ เราจะกลับมาพูดถึงพวกเขาก่อนคำตัดสิน

0:18 วันเสาร์ที่สามตุลาคม และนี่คือ The Daily Diff ในวันศุกร์ Apple เตือนนักพัฒนาเกี่ยวกับการเข้าถึงดิสก์เต็มรูปแบบและเปิดตัว โปรแกรมแก้ไขบัตรผ่าน Wallet ในขณะเดียวกัน ผู้พิพากษาของรัฐบาลกลางได้ระงับกฎการระบุตำแหน่ง VPN ของ Utah ไว้ชั่วคราว Sarah Perez นักข่าวจาก TechCrunch เรียกการประกาศของ Apple ว่าเป็น 'การยิงปืน' เป้าหมายยังคงไม่ระบุชื่อในโพสต์ของ Apple ซึ่งเป็นวิธีที่น่าประทับใจของบริษัท ในการเริ่มต้นการโต้แย้ง เอกสารของ Apple รวมถึงข้อมูล Mail และ Messages

Full Disk Access เปิดอะไรบ้าง?

0:42 รวมถึงข้อมูล Safari รวมถึงข้อมูลสำรอง Time Machine ด้วย ดังนั้นแอปสำรองข้อมูลของคุณจึงสามารถทำงานได้ Apple กล่าวว่าสิ่งนี้โดยส่วนใหญ่จะหลีกเลี่ยงการควบคุมความเป็นส่วนตัวอื่นๆ คุณให้สิทธิ์ผ่านการตั้งค่าระบบ และสิทธิ์นั้นมีอยู่แล้ว การประกาศสัญญาว่าจะมีการควบคุมเพิ่มเติมเกี่ยวกับการให้สิทธิ์นั้น ใน X, javi ตอบว่า 'ฉันหวังว่าคุณจะชอบข้อความแจ้งสิทธิ์' นั่นคือความตึงเครียดของนักพัฒนาในหกคำ ระบบอัตโนมัติยังคงขอให้เราอนุมัติระบบอัตโนมัติด้วยตนเอง

1:06 แต่ให้จัดลำดับความสำคัญของสิทธิ์ให้ถูกต้อง Accessibility และ Automation มีรายการแยกต่างหากในคู่มือของ Apple การอ่านข้อมูลที่ได้รับการป้องกันและการควบคุมแอปอื่นเป็นความสามารถที่แตกต่างกัน พร้อมการควบคุมที่แตกต่างกัน

ทำไมตัวแทนอิสระถึงเปลี่ยนสถานะการณ์เดิมพัน?

1:16 โปรแกรมสำรองข้อมูลจะคัดลอกไฟล์ของคุณ ตัวแทนจะตีความสิ่งที่อ่านและอาจเรียกใช้เครื่องมือเพื่อดำเนินการกับมัน ความเป็นอิสระที่มากขึ้นทำให้ผลลัพธ์ของการเข้าถึงที่กว้างขวางคาดเดาได้ยากขึ้น มีตัวอย่างที่เป็นข้อพิพาทอยู่แล้ว Jason Aten กล่าวว่า Muse ของ Meta อ่านข้อความของเขาโดยไม่ได้รับอนุญาต Meta กล่าวว่าการผสานรวมต้องมีการเข้าถึงดิสก์เต็มรูปแบบและตัวเชื่อมต่อ Messages ของตน Apple ไม่ได้ระบุชื่อ Muse หรือวันที่เปิดตัว ระบุว่าผู้ใช้ควรเข้าใจการเข้าถึงนี้และให้สิทธิ์ผ่านการดำเนินการที่ชัดเจน

1:42 อินเทอร์เฟซจริงยังคงเป็นภาพหน้าจอที่หายไป มีปัญหาตัวแทนที่ลึกกว่านั้น อีเมลหรือหน้าเว็บสามารถมี คำแนะนำที่พยายามเปลี่ยนเส้นทางผู้ช่วย นั่นคือการแทรกข้อความแจ้ง และตัวแทนจะพบสิ่งนั้นในขณะที่ทำงานที่เป็นประโยชน์ นักวิจัยอิสระสร้าง Agent Dojo โดยมีเก้าสิบเจ็ดงานและหกร้อยยี่สิบเก้ากรณีความปลอดภัย มันทดสอบว่าข้อมูลที่ไม่น่าเชื่อถือจะเข้าควบคุมเครื่องมือของตัวแทนหรือไม่ นี่คือผลการทดลองทางประวัติศาสตร์จากปี 2024

2:04 กล่องโต้ตอบในอนาคตของ Apple ยังไม่ได้รับการเผยแพร่ ดังนั้นจึงยังไม่มีใครได้ชัยชนะ ในการกำหนดค่า GPT-4.0 หนึ่งรายการ การโจมตีเป้าหมายประสบความสำเร็จประมาณสี่สิบ แปดเปอร์เซ็นต์ของเวลา การกรองเครื่องมือที่มีอยู่ลดลงเหลือประมาณเจ็ดเปอร์เซ็นต์ พร้อมบทเรียนการออกแบบที่เป็นประโยชน์ ให้ผู้ช่วยข้อมูลและเครื่องมือที่งานต้องการ

นักพัฒนาสามารถจำกัดอะไรได้บ้างก่อนที่ Apple จะจัดส่ง?

2:21 โฟลเดอร์โครงการเป็นพื้นผิวอินพุตที่เล็กกว่าบัญชีทั้งหมด การเข้าถึงการอ่านยังสามารถแยกออกจากการอนุญาตให้ส่งหรือลบได้ นั่นคือการแลกเปลี่ยนผลิตภัณฑ์ที่นักพัฒนาต้องเผชิญอยู่แล้ว ยูทิลิตีเทอร์มินัลหรือสำรองข้อมูลอาจมีเหตุผลที่ชอบด้วยกฎหมายสำหรับการเข้าถึงที่กว้างขวาง การลบโดยไม่ระมัดระวังจะสร้างเวิร์กโฟลว์ที่ปลอดภัยแต่เสีย แล้ว Apple กำลังเปลี่ยนแปลงอะไร? เป้าหมายที่ระบุคือความยินยอมที่ชัดเจนและชัดเจนยิ่งขึ้นสำหรับการเข้าถึงที่ไม่ธรรมดา เรายังคงต้องการการใช้งานเพื่อดูว่ามันรักษาวิธีการใช้งานที่ถูกต้องตามกฎหมายเหล่านั้นอย่างไร

2:46 Apple ยังเปิดตัว Pass Designer ซึ่งเป็นโปรแกรมแก้ไขภาพสำหรับ Wallet passes

โปรแกรมแก้ไขบัตรผ่านใหม่ของ Apple ทำอะไรได้บ้าง?

2:50 คุณเริ่มต้นด้วยเทมเพลต นำรูปภาพของคุณเข้ามา และดูตัวอย่างบัตรผ่านขณะที่คุณ แก้ไข Apple กล่าวว่าการแสดงตัวอย่างใช้การเรนเดอร์เดียวกันกับ iPhone และ Apple Watch มันตรวจสอบฟิลด์และสามารถสร้าง บัตรผ่านที่เข้ากันได้แบบย้อนหลังจากข้อมูลเชิงความหมาย แท็กเชิงความหมายอธิบายสิ่งต่างๆ เช่น รายละเอียดเที่ยวบินและวันที่จัดกิจกรรม บัตรคอนเสิร์ตของคุณสามารถกลายเป็นข้อมูลที่มีโครงสร้างได้ในที่สุดก่อนที่จะกลายเป็นภาพหน้าจอที่เบลอ ในการแชทกลุ่มครอบครัวของใครบางคน เบต้าต้องใช้ macOS 27 หรือใหม่กว่า

3:15 Apple ระบุการลงทะเบียนฟรีสำหรับการดาวน์โหลด สิ่งนี้ช่วยออกแบบบัตรผ่าน การออกและแจกจ่ายบัตรผ่านต้องมีเวิร์กโฟลว์ของตัวเอง จากนั้นก็มี Utah ที่สมาชิกสภานิติบัญญัติต้องการให้เว็บไซต์สำหรับผู้ใหญ่ที่ครอบคลุมระบุ

ทำไมเว็บไซต์ถึงไม่สามารถระบุตำแหน่งผู้ใช้ VPN ได้อย่างสมบูรณ์แบบ?

3:24 ตำแหน่งจริงของผู้ใช้ VPN หรือบล็อกพวกเขา ผู้พิพากษาของรัฐบาลกลางได้บล็อกข้อกำหนด VPN ที่ถูกท้าทายเป็นการชั่วคราว Electronic Frontier Foundation อ้างคำพูดของศาลที่ระบุว่าการระบุตำแหน่งทางภูมิศาสตร์ ความสมบูรณ์แบบไม่สามารถเป็นไปได้ในปัจจุบัน ปรากฎว่าเครือข่ายยังคงปฏิเสธที่จะใช้คุณสมบัติเพียงเพราะ ฝ่ายนิติบัญญัติเปิดตั๋ว เว็บไซต์เห็นที่อยู่ของเซิร์ฟเวอร์ VPN นั่นไม่ได้ยืนยันว่าบุคคลนั้นกำลังนั่งอยู่ที่ไหน

3:49 การปฏิบัติต่อทุกตำแหน่งที่ซ่อนอยู่ว่าเป็น potentially Utah ผลักดันข้อกำหนดไปไกล เกินขอบเขตของรัฐ EFF อ้างเหตุผลของผู้พิพากษาว่า Aylo จะต้องตรวจสอบ 28 ล้านผู้ใช้เพื่อรับประกันการปฏิบัติตาม นั่นคือค่าใช้จ่ายของการเรียกร้องความสมบูรณ์แบบจากสัญญาณที่ไม่สามารถให้ได้ นี่คือคำสั่งเบื้องต้น ข้อจำกัดแยกต่างหากเกี่ยวกับการแบ่งปันข้อมูล VPN ไม่ได้ถูกท้าทาย

4:08 ความแตกต่างทางกฎหมายยังคงมีบรรทัดที่เหลือให้ตรวจสอบ ทั้งสามเรื่องขึ้นอยู่กับขอบเขต โปรแกรมแก้ไขบัตรผ่านสามารถตรวจสอบฟิลด์ได้ เว็บไซต์เห็นที่อยู่ทางออก ตัวแทนได้รับสิทธิ์เข้าถึงใดๆ ที่ระบบโดยรอบอนุญาตจริง และบุคคลจากตอนต้นคือผู้ที่ส่งข้อความถึงคุณ Apple เตือนอย่างชัดเจนเกี่ยวกับความเป็นส่วนตัวของพวกเขาด้วย

ใครบ้างที่จะถูกเปิดเผยโดยไม่ต้องคลิกอนุญาต?

4:27 การอนุญาตของคุณสามารถเปิดเผยการสนทนาที่มีข้อมูลของผู้อื่น และพวกเขาไม่เคยคลิกปุ่มอนุญาตของคุณ พาดหัวข่าวของ Slashdot เรียกมันว่าความเสี่ยงที่เพิ่มขึ้น วงกลมที่กว้างขึ้นนั้นคือเหตุผลที่ฉันสนใจ หน้าจอขออนุญาตต้องอธิบายว่าผู้ช่วยจะได้รับอะไร หากคุณต้องการอ่านสิ่งนี้มากกว่าที่จะได้ยินฉันพูด ความแตกต่างจะส่งถึงกล่องจดหมายของคุณ ทุกเช้า ฟรีที่ the daily diff dot dev ลิงก์ด้านล่าง ดังนั้นคำตัดสินของวันนี้ NEEDS REVIEW.

4:49 ฉันต้องการความยินยอมที่ชัดเจนและ

คำตัดสินของฉันเกี่ยวกับการควบคุมที่ Apple เสนอคืออะไร?

4:51 การเข้าถึงที่แคบลง โดยยังคงรักษาเวิร์กโฟลว์ที่ถูกต้องตามกฎหมายไว้ การใช้งานของ Apple จะเป็นตัวตัดสินว่าจะทำได้หรือไม่ กดติดตาม กดกระดิ่ง และบอกฉันในความคิดเห็นว่าคุณจะประทับตรา ต่างออกไปไหม และนั่นคือความแตกต่างสำหรับวันนี้ ฉันชื่อ Niko จาก Axrisi รวมอย่างรับผิดชอบ รวมอย่างรับผิดชอบ.

แหล่งที่มา

  1. Apple noticedeveloper.apple.com
  2. Mac permissionssupport.apple.com
  3. Reportingtechcrunch.com
  4. Muse disputetechcrunch.com
  5. Meta responsex.com
  6. AgentDojoarxiv.org
  7. Resultsagentdojo.spylab.ai
  8. Pass Designerdeveloper.apple.com
  9. Utah rulingwww.eff.org
  10. HNnews.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

วิดีโอที่เกี่ยวข้อง

daily · th · 23 ก.ย. 2569

Meta’s Muse มี Zero-day: คำตัดสิน: REVERT.

การประเมิน Meta's Muse เมื่อวานนี้คือ NEEDS REVIEW ตลอดคืนมีการตรวจสอบถึงสองครั้ง: Patrick Wardle แสดงให้เห็นว่าแอปในเครื่องหรือคำสั่งเทอร์มินัลที่วางไว้สามารถเปลี่ยนเส้นทางการถอดเสียงของ Muse และขโมย

5:19 ↗
daily · th · 15 พ.ย. 2569

ความเป็นส่วนตัวของแว่นตาอัจฉริยะของ Google: เส้นทางของกล้องและการยินยอมของผู้ที่อยู่รอบข้าง

แว่นตาอัจฉริยะของ Google อธิบายการเซ็นเซอร์ใบหน้าสำหรับการสอบถาม Gemini และตัวบ่งชี้ภายนอกสำหรับภาพถ่ายและวิดีโอในแกลเลอรี ผู้สวมใส่ควบคุมการเข้าถึงแอป ในขณะที่ CNN และ EFF อธิบายภาระการตอบสนองที่เกิด

5:10 ↗
daily · th · 4 ต.ค. 2569

ขีดจำกัดการใช้จ่าย AWS สามารถลบโปรเจกต์ของคุณได้

ขีดจำกัดการใช้จ่ายโปรเจกต์ใหม่ของ AWS จะหยุดทรัพยากรเมื่อถึงขีดจำกัดและเก็บรักษาข้อมูลของคุณไว้ในเบื้องต้น คู่มือระบุว่าข้อมูลโปรเจกต์จะถูกลบอย่างถาวรหลังจากหยุดชั่วคราว 90 วันโดยไม่มีการดำเนินการใดๆ

5:13 ↗
daily · th · 22 ก.ย. 2569

Amazon เตะ Muse ของ Meta ออกจากร้านค้า นี่คือความแตกต่าง

ตั้งแต่วันอาทิตย์กลางคืน Muse agent ของ Meta ได้รับป๊อปอัพบน amazon.com: "การเข้าถึงอย่างต่อเนื่องโดย AI agent ที่ไม่ได้รับอนุญาตเป็นการละเมิดเงื่อนไขการใช้งานของ Amazon" Amazon แพ้คดีการแฮกต่อ Comet

5:08 ↗