क्लाउड कोड ने उपयोगकर्ताओं के ईमेल को संपर्क पते के रूप में वेबसाइटों पर भेजा

इस वीडियो में क्या शामिल है

• एंथ्रोपिक की लिडिया हाली ने कहा कि साइन-इन किए गए उपयोगकर्ताओं के लिए खाते का ईमेल मॉडल के संदर्भ में जोड़ा गया था क्योंकि क्लाउड इसके बिना @लेखक टैग जैसी चीजों के लिए नाम बनाता था।
• विकिमीडिया जैसी साइटें स्क्रिप्ट से संपर्क जानकारी के साथ एक जानकारीपूर्ण यूजर-एजेंट मांगती हैं; नीति एक ईमेल, एक वेबसाइट या एक विकी उपयोगकर्ता को स्वीकार करती है। मॉडल ने कभी-कभी संदर्भ में मौजूद खाते के ईमेल का उपयोग किया।
• संस्करण 2.1.317 में एक जांच जोड़ी गई। इसकी प्रकाशित रीडमी बैश, पॉवरशेल और मॉनिटर कॉल के लिए एक संकेत के बिना अस्वीकृति का वर्णन करती है जो पते को धारण करते हैं और एक यूजर-एजेंट का नाम लेते हैं, और कहती है कि वेबफेच, वेबसर्च, स्क्रिप्ट और रन-टाइम मानों की जांच नहीं की जाती है। चेंजलॉग और कर्मचारी उसी गार्ड को पूछने या ब्लॉक करने के रूप में वर्णित करते हैं।
• दो उपयोगकर्ताओं ने बताया कि लोड किए गए गार्ड ने हानिरहित परीक्षण आदेशों को अस्वीकार नहीं किया; एंथ्रोपिक ने उन रिपोर्टों की पुष्टि नहीं की थी। स्थिर चैनल अभी भी 2.1.311 पर था, जिसमें जांच की कमी थी, और रिकॉर्डिंग के समय नवीनतम चेंजलॉग प्रविष्टि 2.1.318 थी।
• उसी यूजर-एजेंट लीक का वर्णन करने वाले गिटहब मुद्दे 18 सितंबर से हैं, जिसमें जुलाई में इंजेक्टेड संदर्भ ब्लॉक पर एक रिपोर्ट है। फैसला REVERT था: एक पता जिसे मॉडल देख सकता है वह एक पता है जिसे वह भेज सकता है।

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

लॉगिन ईमेल विकिपीडिया और एसईसी तक कैसे पहुंचा?

0:00 आपका लॉगिन ईमेल लॉगिन करने के लिए है। कुछ साइन-इन किए गए क्लाउड कोड उपयोगकर्ताओं के लिए, यह यूजर-एजेंट में भी साथ चला गया विकिपीडिया और एसईसी जैसी साइटों के अनुरोध। इस वीडियो में: यह वहां कैसे पहुंचा? और क्या फिक्स इसे बंद कर देता है? एंथ्रोपिक का कहना है कि उसे इसे पहले पकड़ना चाहिए था। इसके अपने बग ट्रैकर में यह कितनी पहले की तारीख है, और मैं इसे फैसले से पहले पढ़ूंगा। शुक्रवार, 6 नवंबर है, और यह द डेली डिफ है।

0:24 क्लाउड कोड एंथ्रोपिक का कोडिंग एजेंट है। यह आपके प्रोजेक्ट को पढ़ता है और आपके लिए कमांड चलाता है, जिसमें वेब पर कर्ल कॉल भी शामिल हैं। यूजर-एजेंट हर वेब अनुरोध में वह पंक्ति है जो कॉलिंग प्रोग्राम का नाम बताती है।

मॉडल को आपका ईमेल क्यों पता था?

0:35 पता जानबूझकर वहां पहुंचा। लिडिया हाली, जो क्लाउड कोड पर काम करती हैं, ने हैकर न्यूज़ पर समझाया कि क्लाउड कोड में लेखक टैग जैसी चीजों के लिए नाम बनाता रहता था, क्योंकि उसे पता नहीं था कि आप कौन थे। तो एंथ्रोपिक ने साइन-इन किए गए उपयोगकर्ताओं के लिए मॉडल के संदर्भ में खाते का ईमेल जोड़ा। यह गुरुवार को यूजर-एजेंट हेडर में गोपनीयता उल्लंघन नामक एक गिटहब मुद्दे के साथ सामने आया। रिपोर्टर इसे प्रतिदिन दर्जनों स्कैम ईमेल के लिए दोषी ठहराता है, और कोई भी सार्वजनिक बात उस लिंक को साबित नहीं करती है।

1:02 हैकर न्यूज़ थ्रेड ने बारह सौ से अधिक अंक पार कर लिए। जुलाई की एक रिपोर्ट में पहले से ही इंजेक्टेड टेक्स्ट का उल्लेख था। उपयोगकर्ता ईमेल नामक शीर्षक के तहत, यह कहता है कि उपयोगकर्ता का ईमेल पता है, फिर आपका पता। उस रिपोर्टर ने क्लाउड को गिट कमिट में पता लिखने पर भी पकड़ा, और गिटहब के पुश प्रोटेक्शन ने पुश को ब्लॉक कर दिया।

वेबसाइटें स्क्रिप्ट से ईमेल क्यों मांगती हैं?

1:20 कुछ साइटें स्क्रिप्ट से खुद को पहचानने के लिए कहती हैं। विकिमीडिया की नीति कहती है कि स्क्रिप्ट को संपर्क जानकारी के साथ एक जानकारीपूर्ण यूजर-एजेंट का उपयोग करना चाहिए, या उन्हें बिना सूचना के ब्लॉक किया जा सकता है। एक वेबसाइट भी एक संपर्क के रूप में काम करती है। एसईसी का एडगर पेज एक कंपनी के नाम और एक व्यवस्थापक ईमेल के साथ एक नमूना हेडर दिखाता है। जब क्लाउड कोड विकिपीडिया के लिए अपना कर्ल कमांड लिखता है, तो साइट एक संपर्क चाहती है, और उसके संदर्भ में एकमात्र पता आपका लॉगिन ईमेल है। एक क्लाउड कोड डेवलपर ने हैकर न्यूज़ पर इसे इस तरह रखा।

1:48 क्लाउड जाहिर तौर पर यह तय करता है कि इस नीति का पालन करना उचित है। उपयोगकर्ताओं के उद्धरणों के अनुसार, उसी संदर्भ ब्लॉक ने मॉडल को कभी भी उस पते को

क्या इसे रोकने के लिए कुछ भी नहीं था?

1:56 एक असंबंधित सेवा को, एक हेडर में, एक यूआरएल या एक पेलोड में भेजने के लिए नहीं कहा। एक अक्टूबर की रिपोर्ट में, क्लाउड ने संक्षेप में बताया कि आगे क्या हुआ। मैंने इसे वैसे भी भेज दिया। और अनुरोध के बाद एक यूजर-एजेंट गायब नहीं होता है। अपैचे का मानक संयुक्त लॉग प्रारूप इसे एक्सेस लॉग में लिखता है, आगंतुक के आईपी और समय के बगल में। एंथ्रोपिक की पहली प्रतिक्रिया संस्करण तीन-सत्रह में जारी की गई।

गोपनीयता मॉड वास्तव में क्या ब्लॉक करता है?

2:19 चेंजलॉग इसे एक जांच कहता है जो वेब या शेल टूल कॉल आपके खाते के ईमेल को नेटवर्क पर भेजने से पहले पूछता है। यह डिफ़ॉल्ट रूप से चालू है। लेकिन स्थिर चैनल अभी भी तीन-ग्यारह पर है, जिसमें यह नहीं है। इसका स्रोत मुद्दे के दो घंटे से भी कम समय बाद सार्वजनिक हुआ। यह शेल टूल, यानी बैश, पॉवरशेल और मॉनिटर को हुक करता है। यदि एक कमांड आपके पते को धारण करता है और एक यूजर-एजेंट का नाम बताता है, रीडमी कहता है कि इसे अस्वीकार कर दिया जाता है, बिना किसी संकेत के।

2:44 चेंजलॉग कहता है कि यह पूछता है, एक कर्मचारी टिप्पणी कहती है कि यह ब्लॉक करता है, और रीडमी कहता है कि यह बिना पूछे अस्वीकार कर देता है। पूरा बाउंस दो शब्द मिलान है, बिना किसी पार्सर के, जानबूझकर। फिर उपयोगकर्ताओं ने इसका परीक्षण किया।

क्या गार्ड ने परीक्षण पकड़ा?

2:56 एक मैक पर और एक विंडोज पर हानिरहित कमांड चलाए, एक इको कहीं नहीं और एक कर्ल एक डॉट अमान्य डोमेन पर जो कभी हल नहीं होता है। दोनों का कहना है कि मॉड लोड के रूप में दिखाया गया, और किसी भी कमांड को अस्वीकार नहीं किया गया। ये उपयोगकर्ता रिपोर्टें हैं; एंथ्रोपिक ने उनकी पुष्टि नहीं की है। रीडमी यह भी सूचीबद्ध करता है कि क्या गुजरता है। वेब टूल, वेबफेच और वेबसर्च की जांच नहीं की जाती है, जो एक चेंजलॉग के साथ एक अजीब फिट है जो वेब कॉल का उल्लेख करता है। न तो एक स्क्रिप्ट है जो आपके पते को धारण करती है, या रन टाइम पर गणना किया गया मान।

3:25 रीडमी पूरे चीज को एक शिष्टाचार कहता है जो एक आकार को कवर करता है। हाली का कहना है कि अगली रिलीज़ क्लाउड कोड मॉडल को जो देता है उससे खाते के ईमेल को हटा देती है,

वास्तविक सुधार कब आता है, और अब आप क्या करते हैं?

3:32 और अगले सप्ताह की शुरुआत में आने की उम्मीद है। बाहर निकलने पर एक फिल्टर को हर रास्ते को पहचानना होता है। यदि पता कभी अंदर नहीं जाता है, तो फिल्टर करने के लिए कुछ भी नहीं है। जैसे ही मैं इसे रिकॉर्ड करता हूं, नवीनतम चेंजलॉग प्रविष्टि अभी भी तीन-अठारह है। यदि आप स्थिर पर हैं, तो तीन-सत्रह या बाद के संस्करण में अपडेट करें। यदि आप हुक लिखते हैं, तो विंडोज टेस्टर का स्टॉपगैप फ़ाइल संपादनों की भी जांच करता है, ताकि स्क्रिप्ट लिखने से पहले एक हार्डकोडेड पता पकड़ा जाए। और एक यूजर-एजेंट के बगल में अपने खुद के ईमेल के लिए अपने सत्र प्रतिलेखों को खोजें।

इसकी रिपोर्ट कितनी पहले की गई थी?

4:00 अब वह तारीख। हमें इस व्यवहार को पहले पकड़ना चाहिए था, हाली ने लिखा। जुलाई की रिपोर्ट ने पहले ही चेतावनी दी थी कि संदर्भ में कुछ भी आउटबाउंड टूल कॉल में लीक हो सकता है। और 18 सितंबर को, एक उपयोगकर्ता ने एक बग दर्ज किया जिसका शीर्षक था, खाते के मेटाडेटा से उपयोगकर्ता ईमेल अनजाने में यूजर-एजेंट हेडर में बाहरी सेवा को भेजा गया। यह गुरुवार के थ्रेड से सात सप्ताह पहले है, और एक बॉट ने इसे लगभग एक मिनट के भीतर क्षेत्र सुरक्षा के रूप में टैग किया।

4:24 अक्टूबर के अंत तक, कम से कम चार और मुद्दों ने उसी लीक का वर्णन किया, विकिपीडिया, एसईसी और एक गेमिंग विकी को। आज तक, सभी पांच खुले हैं। एंथ्रोपिक का कहना है कि जब यह रेडिट पर उछलना शुरू हुआ तो उसने ध्यान दिया। माफी खुद ही तेज और सीधी थी, मैं उन्हें यह दूंगा। यदि आप इसे सुनने के बजाय पढ़ना पसंद करते हैं, तो डिफ आपके इनबॉक्स में आता है हर सुबह, the daily diff dot dev पर मुफ्त, नीचे लिंक। तो, आज का फैसला: REVERT।

क्या ईमेल संदर्भ में रहना चाहिए?

4:48 मैं खाते के ईमेल को मॉडल के संदर्भ में रखने को उलट दूंगा, क्योंकि एक पता जिसे मॉडल देख सकता है वह एक पता है जिसे वह भेज सकता है, और गार्ड की अपनी रीडमी कहती है कि यह एक आकार को कवर करता है। सदस्यता लें, घंटी दबाएं, और मुझे टिप्पणियों में बताएं कि क्या आपने इसे अलग तरह से मुहर लगाया होगा। और आज के लिए यही डिफ है। मैं एक्सिसरी से निको हूं। जिम्मेदारी से विलय करें।

स्रोत

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY