हगिंग फेस मॉडल फाइलें छिपे हुए कोड को चला सकती हैं

इस वीडियो में क्या शामिल है

• संख्यात्मक मॉडल वेट, निष्पादन योग्य क्रमांकन और कस्टम रिपॉजिटरी कोड अलग-अलग चीजें हैं।
• JFrog और ReversingLabs ने रिवर्स-शेल पेलोड का दस्तावेजीकरण किया; उनकी चयनित रिपोर्टों में नामित पीड़ितों से क्रेडेंशियल चोरी स्थापित नहीं की गई है।
• Checkmarx मॉडल भ्रम एक शोध प्रदर्शन था जिसमें एक मिलान रिमोट मॉडल और असुरक्षित लोडिंग की आवश्यकता थी।
• सुरक्षित सेंसर और पैच किए गए लोडर को प्राथमिकता दें, कस्टम कोड की समीक्षा करें और उसे पिन करें, और अपरिचित पैकेजों को व्यक्तिगत रहस्यों और अनावश्यक नेटवर्क एक्सेस से अलग करें।

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

एक मॉडल डाउनलोड एक अतिथि को कैसे आमंत्रित कर सकता है?

0:00 एक मॉडल फाइल डिस्क पर सिर्फ संख्याएं होती है। एक दुर्भावनापूर्ण हगिंग फेस पैकेज लोड करने से एक रिमोट शेल खुल गया, जो स्थानीय एआई की एक महत्वाकांक्षी व्याख्या है। लोडिंग निष्पादन कैसे बन जाती है? यह किन रहस्यों तक पहुंच सकता है? इसे वास्तव में क्या रोकता है? और एक पहेली को ध्यान में रखें। खतरनाक हिस्सा पहले ही हो जाने के बाद एक मॉडल लोड होने में विफल हो सकता है।

0:18 यह The Daily Diff है, अंदरूनी कहानी। हगिंग फेस मशीन लर्निंग मॉडल, डेटासेट और एप्लिकेशन साझा करने के लिए एक मंच है। डेटासेट और एप्लिकेशन। मॉडल वेट सीखी हुई संख्याएं हैं। एक रिपॉजिटरी में कॉन्फ़िगरेशन और पायथन कोड भी हो सकता है। यहां खतरा निष्पादन योग्य पैकेजिंग का आपके कंप्यूटर में प्रवेश करना है जब आप इसे लोड करते हैं। पिकल पायथन ऑब्जेक्ट्स को उन्हें फिर से बनाने के निर्देशों के साथ संग्रहीत करता है।

एक लोडर पार्सल के निर्देशों को कैसे चलाता है?

0:37 एक असुरक्षित लोडर उन निर्देशों का पालन कर सकता है और अनपैक करते समय फ़ंक्शन को कॉल कर सकता है। बाइट्स डाउनलोड करने से पार्सल आपकी डिस्क पर आ जाता है। डीसेरियलाइज़िंग इसे खोलता है। कहीं, एक फ़ाइल प्रारूप को अवैतनिक सिस्टम प्रशासक के रूप में पदोन्नत किया गया है। JFrog ने फरवरी 2024 में Goober Two की सूचना दी। इसके पिकल पेलोड ने एक रिवर्स शेल खोला, रिमोट कमांड एक्सेस की पेशकश करने के लिए बाहर की ओर कनेक्ट किया। रिपॉजिटरी को हटा दिया गया था। JFrog को शोधकर्ता की संलिप्तता का सुझाव देने वाले सुराग भी मिले,

1:02 इसलिए विशेषता अनिश्चित है। अवांछित अतिथि का दस्तावेजीकरण किया गया था। वास्तविक पीड़ितों से क्रेडेंशियल चोरी स्थापित नहीं की गई थी।

प्रक्रिया की पहुंच में कौन से रहस्य हैं?

1:09 आपके उपयोगकर्ता के रूप में चलने वाला कोड वह सब पढ़ सकता है जो वह प्रक्रिया पढ़ सकती है। एक माउंटेड क्लाउड कुंजी या एक एक्सेसिबल टोकन एक संभावित लक्ष्य बन जाता है। इसे बाहर भेजने के लिए एक कामकाजी नेटवर्क मार्ग की भी आवश्यकता होती है। केवल संख्यात्मक वेट में कोई जादुई क्रेडेंशियल शक्तियां नहीं होती हैं। आपकी अनुमतियाँ मॉडल कार्ड का दिलचस्प हिस्सा प्रदान करती हैं। एक और दरवाजा है। कुछ मॉडल आपको रिमोट कोड पर भरोसा करने के लिए कहते हैं, जो रिपॉजिटरी से पायथन को अधिकृत करता है। सुरक्षित टेंसर फाइलें उस कोड के बगल में बैठ सकती हैं।

1:32 वेट प्रारूप की जाँच एक प्रवेश द्वार को कवर करती है, जबकि रिपॉजिटरी का कोड अभी भी आपके द्वारा उसे एक आगंतुक बैज सौंपने का इंतजार कर रहा है। अभी भी आपके द्वारा उसे एक आगंतुक बैज सौंपने का इंतजार कर रहा है।

एक गुम स्थानीय पथ रिमोट मॉडल क्यों बन सकता है?

1:38 Checkmarx ने मॉडल भ्रम का प्रदर्शन किया। एक गुम स्थानीय मॉडल पथ एक मिलान नाम के साथ एक सार्वजनिक रिपॉजिटरी में हल हो सकता है। इसे रिमोट कोड के साथ जोड़ें सक्षम है, और गलत पैकेज निष्पादित हो सकता है। यह एक अनाम कंपनी के नमूने से जुड़ा एक शोध प्रदर्शन था, जिसे एक दिन के भीतर ठीक कर दिया गया था। एक गुम फोल्डर ने एक मकान मालिक को अधिग्रहित कर लिया। ReversingLabs ने फरवरी 2025 में दो नमूनों की सूचना दी,

पुराने स्कैनर से टूटे हुए पैकेज कैसे बचे?

1:58 इस तकनीक को nullify AI कहा। दोनों में रिवर्स शेल थे। उनकी सात ज़िप पैकेजिंग ने साधारण PyTorch लोडिंग को अवरुद्ध कर दिया, इसलिए इस पथ को निष्कर्षण और असुरक्षित डीसेरियलाइज़ेशन की आवश्यकता थी। टूटी हुई पिकल स्ट्रीम ने एक स्कैनर ब्लाइंड स्पॉट को भी उजागर किया। किसी को भी पार्सल खोलने से पहले विफल स्कैन की जांच होनी चाहिए। शोधकर्ताओं के हानिरहित परीक्षण में, निर्देशों ने लोडर के टूटे हुए हिस्से तक पहुंचने और एक त्रुटि उठाने से पहले एक फाइल लिखी। एक फाइल लिखी इससे पहले कि लोडर

2:18 टूटे हुए हिस्से तक पहुंच गया और एक त्रुटि उठाई। कल्पना कीजिए कि एक पार्सल खोलना, रैकून को छोड़ना, फिर यह देखना कि शिपिंग लेबल अमान्य है। लेबल अमान्य है। त्रुटि संदेश उत्कृष्ट व्याकरण और भयानक समय के साथ आता है। हगिंग फेस ने चौबीस घंटों के भीतर रिपोर्ट किए गए नमूनों को हटा दिया और स्कैनर को बदल दिया। उस विशिष्ट खोज ने एक फिक्स को प्रेरित किया। एक सुरक्षा स्कैन उपयोगी सबूत है, और हर स्कैनर त्रुटि को स्वास्थ्य के एक साफ बिल के रूप में मानना ​​विफलता की एक उल्लेखनीय उदार व्याख्या बनी हुई है। स्वास्थ्य के एक साफ बिल के रूप में मानना ​​विफलता की एक उल्लेखनीय उदार व्याख्या बनी हुई है।

2:43 सुरक्षित सेंसर और वर्तमान पैच किए गए लोडर को प्राथमिकता दें।

कुंजी को अतिथि की पहुंच से बाहर क्या रखता है?

2:46 PyTorch ने संस्करण 2.6 से शुरू होने वाले अपने डिफ़ॉल्ट लोडर को संकुचित कर दिया। कस्टम कोड की समीक्षा करें और समीक्षित संशोधन को पिन करें। व्यक्तिगत कुंजियों के बिना अपरिचित पैकेजों को अलगाव में चलाएं, प्रतिबंधित नेटवर्क एक्सेस के साथ। माउंटेड क्रेडेंशियल्स से भरा एक कंटेनर नेमस्पेस के साथ एक उपहार टोकरी है। उस शुरुआती पहेली का एक जवाब है। लोडिंग विफलता आपको बताती है कि निष्पादन कहाँ रुका। पहले के निर्देश पहले ही चल चुके होंगे।

3:08 पार्सल खोलने से पहले रहस्यों को उसकी पहुंच से बाहर रखें। निर्णय, अंदरूनी कहानी।

मैं इसे NEEDS REVIEW क्यों स्टैंप करूंगा?

3:16 लोडर। मुफ्त डाउनलोड एक मॉडल के साथ आना चाहिए, और अतिथि सूची मेरी पसंद रहनी चाहिए। मेरी पसंद रहनी चाहिए। यदि आप मुझे यह कहने के बजाय इसे पढ़ना पसंद करते हैं, तो diff हर सुबह आपके इनबॉक्स में आता है, daily diff dot dev पर मुफ्त, लिंक नीचे। और आज के लिए यही अंतर है। मैं Axrisi से निको हूँ। जिम्मेदारी से विलय करें।

स्रोत

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch