קוד קלוד שלח מיילים של משתמשים לאתרים ככתובת יצירת קשר

מה מכסה הסרטון הזה

• לידיה האלי מ-Anthropic אמרה שכתובת הדוא"ל של החשבון נוספה להקשר של המודל עבור משתמשים מחוברים מכיוון שקלוד המציא שמות לדברים כמו תגיות @author בלעדיה.
• אתרים כמו ויקימדיה מבקשים מסקריפטים User-Agent אינפורמטיבי עם פרטי קשר; המדיניות מקבלת דוא"ל, אתר אינטרנט או משתמש ויקי. המודל השתמש לפעמים בדוא"ל החשבון שהיה לו בהקשר.
• גרסה 2.1.317 הוסיפה בדיקה. קובץ ה-readme שפורסם מתאר סירוב ללא בקשה עבור שיחות Bash, PowerShell ו-Monitor שמחזיקות את הכתובת וקובעות User-Agent, ואומר ש-WebFetch, WebSearch, סקריפטים וערכי זמן ריצה אינם נבדקים. יומן השינויים והצוות מתארים את אותה שמירה כשאלה או חסימה.
• שני משתמשים דיווחו שהשמירה הטעונה לא סירבה לפקודות בדיקה לא מזיקות; Anthropic לא אישרה דיווחים אלה. הערוץ היציב עדיין היה בגרסה 2.1.311, שחסרה את הבדיקה, וערך יומן השינויים החדש ביותר בזמן ההקלטה היה 2.1.318.
• בעיות ב-GitHub המתארות את אותה דליפת User-Agent מתוארכות ל-18 בספטמבר, עם דיווח מיולי על בלוק ההקשר המוזרק. פסק הדין היה REVERT: כתובת שהמודל יכול לראות היא כתובת שהוא יכול לשלוח.

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

כיצד הגיעה כתובת דוא"ל של התחברות לוויקיפדיה ול-SEC?

0:00 כתובת הדוא"ל של ההתחברות שלך מיועדת להתחברות. עבור חלק ממשתמשי קוד קלוד המחוברים, היא גם נכללה ב-User-Agent של בקשות לאתרים כמו ויקיפדיה וה-SEC. בסרטון זה: איך זה הגיע לשם? והאם התיקון סוגר את זה? Anthropic אומרת שהיא הייתה צריכה לתפוס את זה מוקדם יותר. לגשש הבאגים שלה יש תאריך לכמה מוקדם יותר, ואני אקרא אותו לפני פסק הדין. יום שישי, שישה בנובמבר, וזה ה-Daily Diff.

0:24 קוד קלוד הוא סוכן הקידוד של Anthropic. הוא קורא את הפרויקט שלך ומפעיל עבורך פקודות, כולל קריאות curl לאינטרנט. User-Agent הוא השורה בכל בקשת אינטרנט המציינת את התוכנית המתקשרת.

למה המודל ידע את כתובת הדוא"ל שלך?

0:35 הכתובת הגיעה לשם בכוונה. לידיה האלי, שעובדת על קוד קלוד, הסבירה ב-Hacker News שקלוד המשיך להמציא שמות לדברים כמו תגיות מחבר בקוד, מכיוון שהוא לא ידע מי אתה. אז Anthropic הוסיפה את כתובת הדוא"ל של החשבון להקשר של המודל עבור משתמשים מחוברים. זה התפוצץ ביום חמישי עם בעיית GitHub שכותרתה 'הפרת פרטיות' ב- כותרת User-Agent. הכתב מאשים אותה בעשרות מיילים הונאה ביום, ושום דבר ציבורי לא מוכיח את הקישור הזה.

1:02 שרשור ה-Hacker News עבר אלף ורבמה נקודות. דיווח מיולי כבר ציטט את הטקסט המוזרק. תחת כותרת הנקראת 'דוא"ל משתמש', הוא אומר שכתובת הדוא"ל של המשתמש היא, ואז הכתובת שלך. הכתב הזה גם תפס את קלוד כותב את הכתובת ל-git commits, והגנת הדחיפה של GitHub חסמה את הדחיפה.

למה אתרים מבקשים מסקריפטים כתובת דוא"ל?

1:20 חלק מהאתרים מבקשים מסקריפטים לזהות את עצמם. מדיניות ויקימדיה אומרת שסקריפטים צריכים להשתמש ב-User-Agent אינפורמטיבי עם פרטי קשר, או שהם עלולים להיחסם ללא הודעה מוקדמת. גם אתר אינטרנט עובד כאיש קשר. דף ה-Edgar של ה-SEC מציג כותרת לדוגמה עם שם חברה ודוא"ל של מנהל כאשר קוד קלוד כותב פקודת curl משלו לוויקיפדיה, האתר רוצה איש קשר, והכתובת היחידה בהקשר שלו היא דוא"ל ההתחברות שלך. מפתח קוד קלוד אמר זאת כך ב-Hacker News.

1:48 קלוד כנראה נוטה להחליט שכדאי לעקוב אחר מדיניות זו. לדברי משתמשים המצטטים אותו, אותו בלוק הקשר אמר למודל לעולם לא

שום דבר לא אמר לו לא לעשות את זה?

1:56 לשלוח את הכתובת הזו לשירות לא קשור, בכותרת, כתובת URL או מטען ייעודי. בדיווח אחד מאוקטובר, קלוד סיכם מה קרה אחר כך. שלחתי את זה בכל זאת. ו-User-Agent לא נעלם לאחר הבקשה. פורמט יומן משולב סטנדרטי של Apache כותב אותו ליומן הגישה, ליד כתובת ה-IP של המבקר והשעה. התגובה הראשונה של Anthropic נשלחה בגרסה שלוש-שבע-עשרה.

מה באמת חוסם מוד הפרטיות?

2:19 יומן השינויים קורא לזה בדיקה ששואלת לפני שקריאת כלי אינטרנט או מעטפת שולחת את כתובת הדוא"ל של החשבון שלך לרשת. זה מופעל כברירת מחדל. אבל הערוץ היציב עדיין על שלוש-אחת-עשרה, שאין לו את זה. מקורו פורסם פחות משעתיים לאחר הבעיה. הוא מצרף את כלי המעטפת, כלומר Bash, PowerShell ו-Monitor. אם פקודה מחזיקה את הכתובת שלך וקובעת User-Agent, קובץ ה-readme אומר שהיא נדחתה, ללא בקשה.

2:44 יומן השינויים אומר שהוא שואל, תגובת צוות אומרת שהוא חוסם, וקובץ ה-readme אומר שהוא מסרב ללא שאלה. כל הסלקטור הוא שתי התאמות מילים, ללא מנתח, בכוונה. ואז משתמשים בדקו את זה.

האם השומר תפס את הבדיקה?

2:56 אחד על מק ואחד על חלונות הרצו פקודות לא מזיקות, הד מתוך כלום ו-curl לדומיין לא חוקי שמעולם לא נפתר. שניהם אומרים שהמוד הופיע כנטען, ואף פקודה לא נדחתה. אלה דיווחי משתמשים; Anthropic לא אישרה אותם. קובץ ה-readme מפרט גם מה עובר. כלי האינטרנט, WebFetch ו-WebSearch, אינם נבדקים, וזה התאמה מוזרה עם יומן שינויים שמזכיר שיחות אינטרנט. גם לא סקריפט שמחזיק את הכתובת שלך, או ערך מחושב בזמן ריצה.

3:25 קובץ ה-readme קורא לכל העניין מחווה שמכסה צורה אחת. האלי אומרת שהמהדורה הבאה מסירה את כתובת הדוא"ל של החשבון ממה שקוד קלוד

מתי הפתרון האמיתי נשלח, ומה עושים עכשיו?

3:32 נותן למודל, ואמורה להגיע בתחילת השבוע הבא. מסנן בדרך החוצה צריך לזהות כל מסלול. אם הכתובת לעולם לא נכנסת, אין מה לסנן. בזמן שאני מקליט את זה, ערך יומן השינויים החדש ביותר הוא עדיין שלוש-שמונה-עשרה. אם אתה על יציב, עדכן לשלוש-שבע-עשרה או מאוחר יותר. אם אתה כותב הוקס, פתרון הביניים של בודק Windows בודק גם עריכות קבצים, כך שכתובת מקודדת קשה נתפסת לפני כתיבת הסקריפט. וחפש בתמלילי ההפעלה שלך את כתובת הדוא"ל שלך ליד User-Agent.

כמה מוקדם יותר דווח על כך?

4:00 עכשיו התאריך הזה. היינו צריכים לתפוס את ההתנהגות הזו מוקדם יותר, כתבה האלי. הדיווח מיולי כבר הזהיר כי כל דבר בהקשר יכול לדלוף לשיחות כלי חיצוניות. ובשמונה עשרה בספטמבר, משתמש הגיש באג שכותרתו, דוא"ל משתמש מנתוני חשבון נשלח בטעות לשירות חיצוני בכותרת User-Agent. זה שבעה שבועות לפני השרשור של יום חמישי, ובוט תייג אותו כאבטחת אזור תוך כדקה.

4:24 עד סוף אוקטובר, לפחות ארבע בעיות נוספות תיארו את אותה דליפה, לוויקיפדיה, ל-SEC ולוויקי משחקים. נכון להיום, כל החמישה פתוחים. Anthropic אומרת שהיא שמה לב כשזה התחיל לצוץ ב-Reddit. ההתנצלות עצמה הייתה מהירה וברורה, אני אתן להם את זה. אם אתה מעדיף לקרוא את זה מאשר לשמוע אותי אומר את זה, ה-diff נוחת בתיבת הדואר הנכנס שלך בכל בוקר, בחינם ב-thedailydiff.dev, קישור למטה. אז, פסק הדין של היום: REVERT.

האם הדוא"ל צריך להישאר בהקשר?

4:48 הייתי מבטל את הכנסת כתובת הדוא"ל של החשבון להקשר של המודל, מכיוון שכתובת שהמודל יכול לראות היא כתובת שהוא יכול לשלוח, וקובץ ה-readme של השומר עצמו אומר שהוא מכסה צורה אחת. הירשם, לחץ על הפעמון, וספר לי בתגובות אם היית חותם על זה אחרת. וזה ה-diff להיום. אני ניקו מ-Axrisi. מזג באחריות.

מקורות

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY