אפל בולמת את סוכני הבינה המלאכותית

מה מכסה הסרטון הזה

• מדוע הרשאת מק אחת הפכה לפתע לסיכון גדול יותר?
• מה בעצם פותחת גישת גישה מלאה לדיסק?
• מדוע סוכנים אוטונומיים משנים את הנתונים?
• מה מפתחים יכולים להגביל לפני שאפל משיקה?
• מה עושה עורך הכרטיסים החדש של אפל בפועל?

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

מדוע הרשאת מק אחת הפכה לפתע לסיכון גדול יותר?

0:00 הייתם חושבים שלחיצה על 'אפשר' קובעת מה אפליקציה יכולה לראות. אפל אומרת שסוכני AI אוטונומיים הולכים וגדלים הופכים את הגישה המלאה לדיסק באופן משמעותי מסוכנת יותר, והיא מוסיפה בקרות. בסרטון זה, מה סוכנים יכולים לקרוא? מה אפל משנה? מי עוד נחשף? פרטיות של מישהו אחר עומדת על כף המאזניים במחשב המק שלכם. נחזור אליהם לפני פסק הדין.

0:18 זה יום שבת, השלישי באוקטובר, וזהו The Daily Diff. ביום שישי, אפל הזהירה מפתחים מפני גישה מלאה לדיסק והציגה עורך כרטיסי Wallet. בינתיים, שופט פדרלי השהה את כללי מיקום ה-VPN של יוטה. כתבת TechCrunch, שרה פרז, כינתה את ההודעה של אפל 'ירייה'. המטרה נותרה ללא שם בפוסט של אפל, וזוהי דרך מרשימה באופן תאגידי להתחיל ויכוח. התיעוד של אפל כולל נתוני Mail ו-Messages,

מה בעצם פותחת גישת גישה מלאה לדיסק?

0:42 בנוסף לנתוני Safari. הוא כולל גם גיבויי Time Machine, כך שאפליקציית הגיבוי שלכם תוכל לעבוד. אפל אומרת שזה במידה רבה עוקף בקרות פרטיות אחרות. אתם מעניקים זאת באמצעות הגדרות המערכת, וההרשאה כבר קיימת. ההודעה מבטיחה בקרות נוספות סביב הענקה זו. ב-X, ג'אבי הגיב, 'אני מקווה שאתם אוהבים בקשות הרשאה'. זהו מתח המפתחים בשש מילים. אוטומציה ממשיכה לבקש מאיתנו לאשר ידנית את האוטומציה.

1:06 אבל שמרו על ההרשאות ישרות. לנגישות ואוטומציה יש ערכים נפרדים במדריך של אפל. קריאת נתונים מוגנים ושליטה באפליקציה אחרת הן יכולות שונות, עם בקרות שונות.

מדוע סוכנים אוטונומיים משנים את הנתונים?

1:16 תוכנית גיבוי מעתיקה את הקבצים שלכם. סוכן מפרש את מה שהוא קורא ועשוי לקרוא לכלים כדי לפעול עליו. אוטונומיה רבה יותר מקשה על חיזוי ההשלכות של גישה רחבה. יש כבר דוגמה שנויה במחלוקת. ג'ייסון אטן אמר ש-Muse של מטא קרא את הודעותיו ללא רשות. מטא אומרת שהאינטגרציה דורשת גם גישה מלאה לדיסק וגם את מחבר ההודעות שלה. אפל לא נוקבת בשם Muse וגם לא בתאריך השקה. היא אומרת שמשתמשים צריכים להבין גישה זו ולהעניק אותה באמצעות פעולה מפורשת מאוד.

1:42 הממשק בפועל נותר צילום מסך חסר. יש כאן בעיה עמוקה יותר של סוכנים. הודעת דוא"ל או דף אינטרנט יכולים להכיל הוראות שמנסות להפנות מחדש את העוזר. זוהי הזרקת בקשות, והסוכן נתקל בה תוך כדי ביצוע עבודה שימושית. חוקרים עצמאיים בנו את Agent Dojo, עם תשעים ושבע משימות ושש מאות עשרים ותשעה מקרי אבטחה. הוא בודק אם נתונים לא מהימנים משתלטים על כלי סוכן.

2:04 אלו הן תוצאות מעבדה היסטוריות משנת 2024. הדיאלוג העתידי של אפל טרם פורסם, אז אף אחד לא זוכה עדיין לסיבוב ניצחון. בתצורת GPT ארבע-או אחת, ההתקפה הממוקדת הצליחה בכארבעים ושמונה אחוזים מהמקרים. שמונה אחוזים מהמקרים. סינון כלים זמינים הוריד זאת לכשבעה אחוזים, עם שיעור שימושי בעיצוב.

מה מפתחים יכולים להגביל לפני שאפל משיקה?

2:21 תנו לעוזר את הנתונים והכלים שהמשימה זקוקה להם. תיקיית פרויקט היא משטח קלט קטן יותר מחשבון שלם. ניתן להפריד גם גישת קריאה מהרשאה לשלוח או למחוק. זהו פשרה במוצר שמפתחים כבר חיים איתה. לכלי מסוף או גיבוי עשויה להיות סיבה לגיטימית לגישה רחבה. הסרתו בחוסר זהירות תיצור זרימת עבודה שבורה ובטוחה מאוד. אז מה אפל משנה? המטרה המוצהרת היא הסכמה ברורה ומפורשת יותר לגישה יוצאת דופן.

2:46 אנחנו עדיין זקוקים ליישום כדי לראות כיצד הוא שומר על שימושים לגיטימיים אלה.

מה עושה עורך הכרטיסים החדש של אפל בפועל?

2:50 אפל הציגה גם את Pass Designer, עורך ויזואלי לכרטיסי Wallet. מתחילים בתבנית, מביאים את התמונות שלכם, ומציגים תצוגה מקדימה של הכרטיס תוך כדי עריכה. אפל אומרת שהתצוגה המקדימה משתמשת באותה רינדור כמו ב-iPhone וב-Apple Watch. היא מאמתת שדות ויכולה לבנות כרטיס תואם לאחור מנתונים סמנטיים. תגיות סמנטיות מתארות דברים כמו פרטי טיסה ותאריכי אירועים. כרטיס הקונצרט שלכם יכול סוף סוף להפוך לנתונים מובנים לפני שהוא הופך לצילום מסך מטושטש בצ'אט קבוצתי משפחתי כלשהו.

3:15 גרסת הבטא דורשת macOS 27 ואילך. אפל מפרטת רישום חינם להורדה. זה עוזר בעיצוב כרטיסים; הנפקה והפצה שלהם דורשות זרימת עבודה משלה.

מדוע אתר אינטרנט אינו יכול לאתר באופן מושלם משתמש VPN?

3:24 ואז יש את יוטה, שם רצו המחוקקים שאתרי אינטרנט למבוגרים יזהו את המיקום האמיתי של משתמשי VPN או יחסמו אותם. שופט פדרלי חסם באופן זמני את הוראות ה-VPN המאתגרות. הקרן לחירות אלקטרונית מצטטת את בית המשפט שאומר ששלמות הגיאולוקציה אינה אפשרית כרגע. מתברר שערמת הרשת עדיין מסרבת ליישם תכונות רק בגלל שרשות מחוקקת פתחה כרטיס. אתר אינטרנט רואה את כתובת שרת ה-VPN.

3:49 זה לא קובע היכן האדם יושב. התייחסות לכל מיקום מוסתר כאל יוטה פוטנציאלית דוחפת את הדרישה הרבה מעבר לגבולות המדינה. ה-EFF מצטט את נימוקי השופט שאיילו יצטרך לאמת עשרים ושמונה מיליון משתמשים כדי להבטיח עמידה בתקנות. זו העלות של דרישת שלמות מאות שלא יכול לספק אותה. זוהי צו מקדמי.

4:08 ההגבלה הנפרדת על שיתוף מידע VPN לא אותגרה. ל-diff המשפטי עדיין יש שורות שנותרו לבדיקה. כל שלושת הסיפורים נסובים סביב גבולות. עורך כרטיסים יכול לבדוק שדה. אתר אינטרנט רואה כתובת יציאה. סוכן מקבל כל גישה שהמערכת הסובבת מעניקה בפועל. והאדם מהפתיחה הוא מי ששלח לכם את ההודעה.

מי נחשף בלי ללחוץ על 'אפשר'?

4:27 אפל מזהירה במפורש גם לגבי פרטיותם. ההרשאה שלכם יכולה לחשוף שיחה המכילה נתונים של מישהו אחר, והם מעולם לא לחצו על כפתור 'אפשר' שלכם. הכותרת של Slashdot קוראת לזה 'סיכון מוגבר'. המעגל הרחב יותר הוא הסיבה שאני אכפת לי. מסך ההרשאה צריך להסביר מה העוזר יקבל. אם אתם מעדיפים לקרוא את זה מאשר לשמוע אותי אומר את זה, הדיפרנציאל נוחת בתיבת הדואר הנכנס שלכם בכל בוקר, בחינם ב-thedailydiff.dev, קישור למטה.

4:49 אז פסק הדין של היום, NEEDS REVIEW.

מהו פסק הדין שלי לגבי הבקרות המוצעות של אפל?

4:51 אני רוצה הסכמה ברורה יותר ו גישה צרה יותר, עם שמירה על זרימות עבודה לגיטימיות. היישום של אפל יקבע אם זה יסופק. הירשמו, לחצו על הפעמון, וספרו לי בתגובות אם הייתם חותמים על זה אחרת. וזהו ה-diff להיום. אני ניקו מ-Axrisi. מזגו באחריות.

מקורות

1. Apple noticedeveloper.apple.com
2. Mac permissionssupport.apple.com
3. Reportingtechcrunch.com
4. Muse disputetechcrunch.com
5. Meta responsex.com
6. AgentDojoarxiv.org
7. Resultsagentdojo.spylab.ai
8. Pass Designerdeveloper.apple.com
9. Utah rulingwww.eff.org
10. HNnews.ycombinator.com