אפל בולמת את סוכני הבינה המלאכותית
אפל מתכננת בקרות נוספות לגישת גישה מלאה לדיסק ב-macOS מכיוון שסוכני AI אוטונומיים מגבירים את הסיכונים לגישה נרחבת לנתונים.
אפל מתכננת בקרות נוספות לגישת גישה מלאה לדיסק ב-macOS מכיוון שסוכני AI אוטונומיים מגבירים את הסיכונים לגישה נרחבת לנתונים. אנו בוחנים את ההרשאה הנוכחית, את המקרה השנוי במחלוקת של מסרי Muse של מטא, וראיות היסטוריות לאבטחת סוכנים, ולאחר מכן נסקור את Pass Designer ואת כללי מיקום ה-VPN של יוטה. פסק דין: NEEDS REVIEW.
קראו את המהדורה הכתובה (אנגלית) ↗
מה מכסה הסרטון הזה
- מדוע הרשאת מק אחת הפכה לפתע לסיכון גדול יותר?
- מה בעצם פותחת גישת גישה מלאה לדיסק?
- מדוע סוכנים אוטונומיים משנים את הנתונים?
- מה מפתחים יכולים להגביל לפני שאפל משיקה?
- מה עושה עורך הכרטיסים החדש של אפל בפועל?
שאלות ותשובות
מה אפליקציה יכולה לקרוא כשאתה מעניק לה גישה מלאה לדיסק (Full Disk Access) ב-Mac?
גישה מלאה לדיסק מכסה נתונים מוגנים כמו נתוני Mail, Messages ו-Safari, בתוספת גיבויי Time Machine כדי שאפליקציית גיבוי תוכל לעבוד. אפל אומרת שגישה זו עוקפת במידה רבה בקרות פרטיות אחרות. אתה מעניק אותה דרך הגדרות המערכת (System Settings), וההרשאה כבר קיימת. ההודעה של אפל מבטיחה בקרות נוספות סביב הרשאה זו.
מדוע סוכני AI אוטונומיים הופכים גישה נרחבת לקבצים למסוכנת יותר מאפליקציית גיבוי?
תוכנת גיבוי מעתיקה את הקבצים שלך, בעוד שסוכן מפרש את מה שהוא קורא ועשוי לקרוא לכלים לפעול על כך, כך שיותר אוטונומיה מקשה על חיזוי ההשלכות של גישה נרחבת. הודעת אימייל או דף אינטרנט יכולים להכיל הוראות המנסות להפנות מחדש את העוזר, מה שנקרא הזרקת הנחיות (prompt injection). אפל אומרת שסוכנים אוטונומיים יותר ויותר הופכים את הגישה המלאה לדיסק למסוכנת באופן מהותי.
באיזו מידה הגבלת כלי סוכן AI יכולה להפחית התקפות הזרקת הנחיות?
במדד AgentDojo, עם תשעים ושבע משימות ושש מאות עשרים ותשעה מקרי אבטחה, תצורת GPT ארבע אפס אחת הותקפה בהצלחה בכארבעים ושמונה אחוז מהמקרים. סינון הכלים הזמינים הוריד זאת לכשבעה אחוזים. אלו תוצאות מעבדה היסטוריות משנת עשרים עשרים וארבע, כך שהן מציגות לקח עיצובי ולא כיצד הבקרות של אפל יפעלו.
מדוע שופט פדרלי חסם את כללי מיקום ה-VPN של יוטה?
השופט חסם באופן ראשוני את הוראות ה-VPN שהוגשו כנגדן. הקרן לחופש אלקטרוני (Electronic Frontier Foundation) מצטטת את בית המשפט שאומר ששלמות קביעת מיקום גיאוגרפי אינה אפשרית כרגע. אתר אינטרנט רואה את כתובת שרת ה-VPN, מה שלא קובע היכן האדם יושב. הצו הוא ראשוני, וההגבלה הנפרדת על שיתוף מידע VPN לא הוגשה כנגדה.
האם התוכנית של אפל לבקרות הדוקות יותר של גישה מלאה לדיסק היא רעיון טוב?
פסק הדין של The Daily Diff היה NEEDS REVIEW. הפרק רוצה הסכמה ברורה יותר וגישה מצומצמת יותר עם שמירה על זרימות עבודה לגיטימיות, ואומר שהיישום של אפל יקבע אם זה יספק. אפל לא פרסמה שום דיאלוג או תאריך השקה. גם פרטיותו של אדם אחר עומדת על הכף, מכיוון שההרשאה שלך יכולה לחשוף שיחה המכילה את הנתונים שלו.
תמליל מתורגם
תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.
מדוע הרשאת מק אחת הפכה לפתע לסיכון גדול יותר?
0:00 הייתם חושבים שלחיצה על 'אפשר' קובעת מה אפליקציה יכולה לראות. אפל אומרת שסוכני AI אוטונומיים הולכים וגדלים הופכים את הגישה המלאה לדיסק באופן משמעותי מסוכנת יותר, והיא מוסיפה בקרות. בסרטון זה, מה סוכנים יכולים לקרוא? מה אפל משנה? מי עוד נחשף? פרטיות של מישהו אחר עומדת על כף המאזניים במחשב המק שלכם. נחזור אליהם לפני פסק הדין.
0:18 זה יום שבת, השלישי באוקטובר, וזהו The Daily Diff. ביום שישי, אפל הזהירה מפתחים מפני גישה מלאה לדיסק והציגה עורך כרטיסי Wallet. בינתיים, שופט פדרלי השהה את כללי מיקום ה-VPN של יוטה. כתבת TechCrunch, שרה פרז, כינתה את ההודעה של אפל 'ירייה'. המטרה נותרה ללא שם בפוסט של אפל, וזוהי דרך מרשימה באופן תאגידי להתחיל ויכוח. התיעוד של אפל כולל נתוני Mail ו-Messages,
מה בעצם פותחת גישת גישה מלאה לדיסק?
0:42 בנוסף לנתוני Safari. הוא כולל גם גיבויי Time Machine, כך שאפליקציית הגיבוי שלכם תוכל לעבוד. אפל אומרת שזה במידה רבה עוקף בקרות פרטיות אחרות. אתם מעניקים זאת באמצעות הגדרות המערכת, וההרשאה כבר קיימת. ההודעה מבטיחה בקרות נוספות סביב הענקה זו. ב-X, ג'אבי הגיב, 'אני מקווה שאתם אוהבים בקשות הרשאה'. זהו מתח המפתחים בשש מילים. אוטומציה ממשיכה לבקש מאיתנו לאשר ידנית את האוטומציה.
1:06 אבל שמרו על ההרשאות ישרות. לנגישות ואוטומציה יש ערכים נפרדים במדריך של אפל. קריאת נתונים מוגנים ושליטה באפליקציה אחרת הן יכולות שונות, עם בקרות שונות.
מדוע סוכנים אוטונומיים משנים את הנתונים?
1:16 תוכנית גיבוי מעתיקה את הקבצים שלכם. סוכן מפרש את מה שהוא קורא ועשוי לקרוא לכלים כדי לפעול עליו. אוטונומיה רבה יותר מקשה על חיזוי ההשלכות של גישה רחבה. יש כבר דוגמה שנויה במחלוקת. ג'ייסון אטן אמר ש-Muse של מטא קרא את הודעותיו ללא רשות. מטא אומרת שהאינטגרציה דורשת גם גישה מלאה לדיסק וגם את מחבר ההודעות שלה. אפל לא נוקבת בשם Muse וגם לא בתאריך השקה. היא אומרת שמשתמשים צריכים להבין גישה זו ולהעניק אותה באמצעות פעולה מפורשת מאוד.
1:42 הממשק בפועל נותר צילום מסך חסר. יש כאן בעיה עמוקה יותר של סוכנים. הודעת דוא"ל או דף אינטרנט יכולים להכיל הוראות שמנסות להפנות מחדש את העוזר. זוהי הזרקת בקשות, והסוכן נתקל בה תוך כדי ביצוע עבודה שימושית. חוקרים עצמאיים בנו את Agent Dojo, עם תשעים ושבע משימות ושש מאות עשרים ותשעה מקרי אבטחה. הוא בודק אם נתונים לא מהימנים משתלטים על כלי סוכן.
2:04 אלו הן תוצאות מעבדה היסטוריות משנת 2024. הדיאלוג העתידי של אפל טרם פורסם, אז אף אחד לא זוכה עדיין לסיבוב ניצחון. בתצורת GPT ארבע-או אחת, ההתקפה הממוקדת הצליחה בכארבעים ושמונה אחוזים מהמקרים. שמונה אחוזים מהמקרים. סינון כלים זמינים הוריד זאת לכשבעה אחוזים, עם שיעור שימושי בעיצוב.
מה מפתחים יכולים להגביל לפני שאפל משיקה?
2:21 תנו לעוזר את הנתונים והכלים שהמשימה זקוקה להם. תיקיית פרויקט היא משטח קלט קטן יותר מחשבון שלם. ניתן להפריד גם גישת קריאה מהרשאה לשלוח או למחוק. זהו פשרה במוצר שמפתחים כבר חיים איתה. לכלי מסוף או גיבוי עשויה להיות סיבה לגיטימית לגישה רחבה. הסרתו בחוסר זהירות תיצור זרימת עבודה שבורה ובטוחה מאוד. אז מה אפל משנה? המטרה המוצהרת היא הסכמה ברורה ומפורשת יותר לגישה יוצאת דופן.
2:46 אנחנו עדיין זקוקים ליישום כדי לראות כיצד הוא שומר על שימושים לגיטימיים אלה.
מה עושה עורך הכרטיסים החדש של אפל בפועל?
2:50 אפל הציגה גם את Pass Designer, עורך ויזואלי לכרטיסי Wallet. מתחילים בתבנית, מביאים את התמונות שלכם, ומציגים תצוגה מקדימה של הכרטיס תוך כדי עריכה. אפל אומרת שהתצוגה המקדימה משתמשת באותה רינדור כמו ב-iPhone וב-Apple Watch. היא מאמתת שדות ויכולה לבנות כרטיס תואם לאחור מנתונים סמנטיים. תגיות סמנטיות מתארות דברים כמו פרטי טיסה ותאריכי אירועים. כרטיס הקונצרט שלכם יכול סוף סוף להפוך לנתונים מובנים לפני שהוא הופך לצילום מסך מטושטש בצ'אט קבוצתי משפחתי כלשהו.
3:15 גרסת הבטא דורשת macOS 27 ואילך. אפל מפרטת רישום חינם להורדה. זה עוזר בעיצוב כרטיסים; הנפקה והפצה שלהם דורשות זרימת עבודה משלה.
מדוע אתר אינטרנט אינו יכול לאתר באופן מושלם משתמש VPN?
3:24 ואז יש את יוטה, שם רצו המחוקקים שאתרי אינטרנט למבוגרים יזהו את המיקום האמיתי של משתמשי VPN או יחסמו אותם. שופט פדרלי חסם באופן זמני את הוראות ה-VPN המאתגרות. הקרן לחירות אלקטרונית מצטטת את בית המשפט שאומר ששלמות הגיאולוקציה אינה אפשרית כרגע. מתברר שערמת הרשת עדיין מסרבת ליישם תכונות רק בגלל שרשות מחוקקת פתחה כרטיס. אתר אינטרנט רואה את כתובת שרת ה-VPN.
3:49 זה לא קובע היכן האדם יושב. התייחסות לכל מיקום מוסתר כאל יוטה פוטנציאלית דוחפת את הדרישה הרבה מעבר לגבולות המדינה. ה-EFF מצטט את נימוקי השופט שאיילו יצטרך לאמת עשרים ושמונה מיליון משתמשים כדי להבטיח עמידה בתקנות. זו העלות של דרישת שלמות מאות שלא יכול לספק אותה. זוהי צו מקדמי.
4:08 ההגבלה הנפרדת על שיתוף מידע VPN לא אותגרה. ל-diff המשפטי עדיין יש שורות שנותרו לבדיקה. כל שלושת הסיפורים נסובים סביב גבולות. עורך כרטיסים יכול לבדוק שדה. אתר אינטרנט רואה כתובת יציאה. סוכן מקבל כל גישה שהמערכת הסובבת מעניקה בפועל. והאדם מהפתיחה הוא מי ששלח לכם את ההודעה.
מי נחשף בלי ללחוץ על 'אפשר'?
4:27 אפל מזהירה במפורש גם לגבי פרטיותם. ההרשאה שלכם יכולה לחשוף שיחה המכילה נתונים של מישהו אחר, והם מעולם לא לחצו על כפתור 'אפשר' שלכם. הכותרת של Slashdot קוראת לזה 'סיכון מוגבר'. המעגל הרחב יותר הוא הסיבה שאני אכפת לי. מסך ההרשאה צריך להסביר מה העוזר יקבל. אם אתם מעדיפים לקרוא את זה מאשר לשמוע אותי אומר את זה, הדיפרנציאל נוחת בתיבת הדואר הנכנס שלכם בכל בוקר, בחינם ב-thedailydiff.dev, קישור למטה.
4:49 אז פסק הדין של היום, NEEDS REVIEW.
מהו פסק הדין שלי לגבי הבקרות המוצעות של אפל?
4:51 אני רוצה הסכמה ברורה יותר ו גישה צרה יותר, עם שמירה על זרימות עבודה לגיטימיות. היישום של אפל יקבע אם זה יסופק. הירשמו, לחצו על הפעמון, וספרו לי בתגובות אם הייתם חותמים על זה אחרת. וזהו ה-diff להיום. אני ניקו מ-Axrisi. מזגו באחריות.
מקורות
- Apple noticedeveloper.apple.com
- Mac permissionssupport.apple.com
- Reportingtechcrunch.com
- Muse disputetechcrunch.com
- Meta responsex.com
- AgentDojoarxiv.org
- Resultsagentdojo.spylab.ai
- Pass Designerdeveloper.apple.com
- Utah rulingwww.eff.org
- HNnews.ycombinator.com



