+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

हगिङ फेस मोडल फाइलहरूले लुकेको कोड चलाउन सक्छन्

दुर्भावनापूर्ण मोडल प्याकेजहरूले असुरक्षित लोडिङका बेला कोड चलाउन सक्छन्।

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

दुर्भावनापूर्ण मोडल प्याकेजहरूले असुरक्षित लोडिङका बेला कोड चलाउन सक्छन्। तीनवटा दस्तावेज गरिएका उदाहरणहरूले पिकल रिभर्स शेलहरू, बिग्रिएको फाइल स्क्यानरको व्यवहार र अनुसन्धान-प्रदर्शित मोडल-नामको भ्रमलाई प्रस्ट्याउँछन्, साथै प्रमाण-चोरीका दाबीहरूमा स्पष्ट सीमाहरू छन्।

लिखित संस्करण पढ्नुहोस् (अंग्रेजी) ↗

यो भिडियोले के समेट्छ

  • संख्यात्मक मोडल वेट, चलाउन मिल्ने सिरियलाइजेशन र अनुकूलित भण्डार कोड फरक-फरक कुरा हुन्।
  • JFrog र ReversingLabs ले रिभर्स-शेल पेलोडहरू दस्तावेज गरेका छन्; तिनीहरूका छानिएका रिपोर्टहरूले नाम गरेका पीडितहरूबाट प्रमाण चोरी भएको पुष्टि गर्दैनन्।
  • Checkmarx मोडल कन्फ्युजन एक अनुसन्धान प्रदर्शन थियो जसलाई मिल्दोजुल्दो रिमोट मोडल र असुरक्षित लोडिङ आवश्यक थियो।
  • सुरक्षित टेन्सरहरू र प्याच गरिएका लोडरहरूलाई प्राथमिकता दिनुहोस्, अनुकूलित कोडको समीक्षा र पिन गर्नुहोस्, र अपरिचित प्याकेजहरूलाई व्यक्तिगत गोप्य कुराहरू र अनावश्यक नेटवर्क पहुँचबाट अलग राख्नुहोस्।

प्रश्न र उत्तर

मेसिन लर्निङ मोडल डाउनलोड गर्दा मेरो कम्प्युटरमा मालिसियस कोड कसरी चल्न सक्छ?

बाइटहरू डाउनलोड गर्दा फाइलहरू डिस्कमा मात्र राख्छ। जोखिम तब सुरु हुन्छ जब एक असुरक्षित लोडरले तिनीहरूलाई डिसेरियलाइज गर्छ। पिकलले पाइथन वस्तुहरूलाई तिनीहरूलाई पुनर्निर्माण गर्नका लागि निर्देशनहरू सहित भण्डारण गर्छ, र एउटा लोडरले ती निर्देशनहरू पालना गर्न सक्छ र अनप्याक गर्दा प्रकार्यहरू कल गर्न सक्छ। JFrog ले एउटा हगिङ फेस मोडलको दस्तावेजीकरण गरेको थियो जसको पिकल पेलोडले रिभर्स शेल खोलेको थियो, जसले रिमोट कमान्ड पहुँच प्रदान गर्दछ।

यो भाग हेर्नुहोस् 0:35 · JFrog · PyTorch

के मालिसियस हगिङ फेस मोडलहरूले विकासकर्ताहरूको प्रमाणहरू चोरेका थिए?

चयन गरिएका रिपोर्टहरूले त्यो स्थापित गर्दैनन्। JFrog र ReversingLabs ले रिभर्स-शेल पेलोडहरूको दस्तावेजीकरण गरेका छन्, तर कुनै पनि रिपोर्टले नामित पीडितहरूबाट प्रमाण चोरी स्थापित गर्दैन। यो एपिसोडले त्यसको सट्टा जोखिमको व्याख्या गर्दछ: तपाईंको प्रयोगकर्ताको रूपमा चल्ने कोडले त्यो प्रक्रियाले पढ्न सक्ने जुनसुकै कुरा पढ्न सक्छ, जस्तै माउन्ट गरिएको क्लाउड कुञ्जी वा पहुँचयोग्य टोकन, यदि यसमा बाहिर नेटवर्क मार्ग छ भने।

यो भाग हेर्नुहोस् 1:09 · JFrog · ReversingLabs

एआई मोडल सप्लाई चेन आक्रमणहरूमा मोडल कन्फ्युजन के हो?

Checkmarx ले एउटा केसको वर्णन गरेको थियो जहाँ हराइरहेको स्थानीय मोडल मार्गले मिल्दो नामको सार्वजनिक भण्डारमा समाधान गर्न सक्थ्यो। रिमोट कोड सक्षम र असुरक्षित लोडिङसँग मिलाएर, गलत प्याकेज कार्यान्वयन हुन सक्छ। यो एउटा अज्ञात कम्पनीको नमूना समावेश गर्ने अनुसन्धान प्रदर्शन थियो, जुन एक दिन भित्र सच्याइएको थियो।

यो भाग हेर्नुहोस् 1:38 · Checkmarx Zero · Hugging Face

किन बिग्रिएका पिकल फाइलहरू हगिङ फेसको मालवेयर स्क्यानरबाट गुज्रिए?

ReversingLabs ले दुईवटा नमूनाहरू रिपोर्ट गरेको थियो जसको बिग्रिएको पिकल स्ट्रिमहरूले स्क्यानरको दृष्टिविहीनतालाई उजागर गर्यो। शोधकर्ताहरूको हानिरहित परीक्षणमा, लोडर बिग्रिएको भागमा पुग्नु अघि निर्देशनहरूले एउटा फाइल लेख्यो र त्रुटि उत्पन्न गर्यो, त्यसैले खतरनाक भाग पहिले नै चलिसकेपछि एउटा मोडल लोड हुन असफल हुन सक्छ। हगिङ फेसले चौबीस घण्टा भित्र रिपोर्ट गरिएका नमूनाहरू हटायो र स्क्यानर परिवर्तन गर्यो।

यो भाग हेर्नुहोस् 1:55 · ReversingLabs · Hugging Face

विकासकर्ताहरूले हगिङ फेसबाट असुरक्षित मोडलहरू सुरक्षित रूपमा कसरी लोड गर्नुपर्छ?

The Daily Diff को फैसला NEEDS REVIEW थियो। यो एपिसोडले safetensors र प्याच गरिएका लोडरहरूलाई प्राथमिकता दिन, अनुकूलित कोडको समीक्षा गर्न र समीक्षा गरिएको संशोधन पिन गर्न सिफारिस गर्दछ। अपरिचित प्याकेजहरूलाई अलगावमा चलाउनु पर्छ, व्यक्तिगत गोप्य बिना र प्रतिबन्धित नेटवर्क पहुँचको साथ। स्क्यानर त्रुटिलाई सफा परिणामको रूपमा व्यवहार गर्नुको सट्टा अनुसन्धान गरिनु पर्छ।

यो भाग हेर्नुहोस् 2:44 · Hugging Face · Hugging Face · PyTorch

अनुवादित ट्रान्सक्रिप्ट

मूल अंग्रेजी कथाबाट अनुवादित। उपलब्ध अडियो र क्याप्सनहरू YouTube द्वारा नियन्त्रित हुन्छन्।

मोडल डाउनलोडले कसरी पाहुनालाई आमन्त्रित गर्न सक्छ?

0:00 मोडल फाइल भनेको डिस्कमा भएका संख्या मात्र हो। एउटा दुर्भावनापूर्ण हगिङ फेस प्याकेज लोड गर्दा रिमोट शेल खुल्यो, जुन स्थानीय AI को एक महत्वाकांक्षी व्याख्या हो। लोडिङ कसरी कार्यान्वयन हुन्छ? यसले कुन गोप्य कुराहरूमा पहुँच गर्न सक्छ? केले यसलाई वास्तवमा रोक्छ? र एउटा पहेली दिमागमा राख्नुहोस्। खतरनाक भाग पहिले नै भइसकेपछि मोडल लोड हुन असफल हुन सक्छ।

0:18 यो द डेली डिफ हो, भित्रबाट हेर्दा। हगिङ फेस मेसिन लर्निङ मोडलहरू, डेटासेटहरू र अनुप्रयोगहरू साझा गर्ने प्लेटफर्म हो। मोडल वेटहरू सिकेका संख्याहरू हुन्। एक भण्डारमा कन्फिगरेसन र पाइथन कोड पनि हुन सक्छ। यहाँको खतरा भनेको चलाउन मिल्ने प्याकेजिङ तपाईँको कम्प्युटरमा आउनु हो जब तपाईँले यसलाई लोड गर्नुहुन्छ। पिकलले पाइथन वस्तुहरूलाई तिनीहरूलाई पुन: निर्माण गर्ने निर्देशनहरूसहित भण्डारण गर्छ।

लोडरले पार्सलको निर्देशनहरू कसरी चलाउँछ?

0:37 एउटा असुरक्षित लोडरले ती निर्देशनहरू पालना गर्न सक्छ र अनप्याक गर्दा प्रकार्यहरू कल गर्न सक्छ। बाइटहरू डाउनलोड गर्दा पार्सल तपाईँको डिस्कमा राख्छ। डिसेरियलाइजिङले यसलाई खोल्छ। कतै, एउटा फाइल ढाँचालाई भुक्तानी नपाएको प्रणाली प्रशासकमा पदोन्नति गरिएको छ। JFrog ले फेब्रुअरी २०२४ मा Goober Two रिपोर्ट गरेको थियो। यसको पिकल पेलोडले रिभर्स शेल खोल्यो, रिमोट आदेश पहुँच प्रदान गर्न बाहिर जोडियो। भण्डार मेटाइएको थियो। JFrog ले अनुसन्धानकर्ताको संलग्नता सुझाव दिने सुरागहरू पनि फेला पारेको थियो,

1:02 त्यसैले श्रेय अनिश्चित छ। अनावश्यक पाहुना दस्तावेज गरिएको थियो। वास्तविक पीडितहरूबाट प्रमाण चोरी स्थापित गरिएको थिएन।

प्रक्रियाको पहुँच भित्र कुन गोप्य कुराहरू छन्?

1:09 तपाईँको प्रयोगकर्ताको रूपमा चल्ने कोडले त्यो प्रक्रियाले पढ्न सक्ने सबै कुरा पढ्न सक्छ। माउन्ट गरिएको क्लाउड कुञ्जी वा पहुँचयोग्य टोकन सम्भावित लक्ष्य बन्छ। यसलाई बाहिर पठाउन पनि एक कार्यशील नेटवर्क मार्ग चाहिन्छ। संख्यात्मक वेटहरू एक्लैमा कुनै जादुई प्रमाण शक्तिहरू छैनन्। तपाईँका अनुमतिहरूले मोडल कार्डको रोचक भाग आपूर्ति गर्छन्। अर्को ढोका छ। केही मोडलहरूले तपाईँलाई रिमोट कोडमा विश्वास गर्न भन्छन्, जसले भण्डारबाट पाइथनलाई अधिकार दिन्छ। सुरक्षित टेन्सर फाइलहरू त्यो कोडको छेउमा बस्न सक्छन्।

1:32 वेट ढाँचा जाँच गर्दा एउटा प्रवेशद्वार कभर हुन्छ, जबकि भण्डारको कोडले तपाईँले यसलाई आगन्तुक ब्याज दिन पर्खिरहेको हुन्छ।

किन हराइरहेको स्थानीय मार्ग रिमोट मोडल बन्न सक्छ?

1:38 Checkmarx ले मोडल कन्फ्युजन प्रदर्शन गर्यो। हराइरहेको स्थानीय मोडल मार्ग मिल्दोजुल्दो नामको सार्वजनिक भण्डारमा समाधान हुन सक्छ। यसलाई रिमोट कोडसँग जोड्नुहोस् सक्षम पारिएको, र गलत प्याकेज कार्यान्वयन हुन सक्छ। यो एक अज्ञात कम्पनीको नमूना समावेश गर्ने अनुसन्धान प्रदर्शन थियो, एक दिन भित्रै सच्याइएको थियो। एउटा हराइरहेको फोल्डरले घरधनी पायो। ReversingLabs ले फेब्रुअरी २०२५ मा दुईवटा नमूनाहरू रिपोर्ट गर्यो,

कसरी बिग्रिएका प्याकेजहरूले पुरानो स्क्यानरलाई छले?

1:58 यस प्रविधिलाई nullify AI भन्दै। दुवैमा रिभर्स शेलहरू थिए। तिनीहरूको सेभेन जिप प्याकेजिङले सामान्य PyTorch लोडिङलाई रोकेको थियो, त्यसैले यो मार्गलाई निकासी र असुरक्षित डिसेरियलाइजेसन आवश्यक थियो। बिग्रिएका पिकल स्ट्रिमहरूले स्क्यानरको अन्धा ठाउँ पनि उजागर गर्यो। कुनै पनि पार्सल खोल्नु अघि असफल स्क्यानको अनुसन्धान गर्नुपर्छ। अनुसन्धानकर्ताहरूको हानिरहित परीक्षणमा, निर्देशनहरूले लोडरले

2:18 बिग्रिएको भागमा पुग्नु अघि एउटा फाइल लेखे र त्रुटि उठायो। एउटा पार्सल खोल्ने कल्पना गर्नुहोस्, र्याकुनलाई छोड्नुहोस्, त्यसपछि ढुवानी लेबल अमान्य भएको याद गर्नुहोस्। लेबल अमान्य छ। त्रुटि सन्देश उत्कृष्ट व्याकरण र भयानक समयका साथ आउँछ। हगिङ फेसले २४ घण्टा भित्र रिपोर्ट गरिएका नमूनाहरू हटायो र स्क्यानर परिवर्तन गर्यो। त्यो विशेष खोजले एक समाधानको लागि प्रेरित गर्यो। एक सुरक्षा स्क्यान उपयोगी प्रमाण हो, र हरेक स्क्यानर त्रुटिलाई एक सफा स्वास्थ्यको बिल मान्नु भनेको असफलताको उल्लेखनीय उदार व्याख्या हो।

2:43 सुरक्षित टेन्सरहरू र हालका प्याच गरिएका लोडरहरूलाई प्राथमिकता दिनुहोस्।

कुन कुराले कुञ्जीलाई पाहुनाको पहुँच बाहिर राख्छ?

2:46 PyTorch ले संस्करण २.६ बाट यसको पूर्वनिर्धारित लोडरलाई संकुचित गर्यो। अनुकूलित कोडको समीक्षा गर्नुहोस् र समीक्षा गरिएको संशोधनलाई पिन गर्नुहोस्। अपरिचित प्याकेजहरूलाई व्यक्तिगत कुञ्जीहरू बिना, एक्लै चलाउनुहोस्, प्रतिबन्धित नेटवर्क पहुँचका साथ। माउन्ट गरिएका प्रमाणहरूले भरिएको कन्टेनर नेमसँगको उपहार बास्केट हो। त्यो सुरुवाती पहेलीको उत्तर छ। लोडिङ असफलताले तपाईँलाई कार्यान्वयन कहाँ रोकियो भनेर बताउँछ। पहिलेका निर्देशनहरू पहिले नै चलिसकेका हुन सक्छन्।

3:08 पार्सल खोल्नु अघि गोप्य कुराहरूलाई यसको पहुँच बाहिर राख्नुहोस्। निर्णय, भित्रबाट हेर्दा।

मैले यसलाई NEEDS REVIEW किन छाप लगाउनुपर्छ?

3:16 लोडर। नि: शुल्क डाउनलोड मोडलको साथ आउनुपर्छ, र पाहुना सूची मेरो निर्णय हुनुपर्छ। मैले भन्नुभन्दा तपाईँ यो पढ्न रुचाउनुहुन्छ भने, डिफ तपाईँको इनबक्समा हरेक बिहान नि:शुल्क आउँछ, daily diff dot dev मा, तलको लिङ्क। यदि तपाईँ यो सुन्नु भन्दा पढ्न रुचाउनुहुन्छ भने, डिफ हरेक बिहान तपाईँको इनबक्समा नि:शुल्क आउँछ, daily diff dot dev मा, लिङ्क तल छ। र आजको लागि यो डिफ हो। र आजको लागि डिफ यति नै। म Axrisi बाट Niko हुँ। जिम्मेवारीपूर्वक मर्ज गर्नुहोस्।

स्रोतहरू

  1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
  2. Malicious ML models discovered on Hugging Face platformReversingLabs
  3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
  4. Pickle ScanningHugging Face
  5. SafetensorsHugging Face
  6. Loading custom modelsHugging Face
  7. Serialization semanticsPyTorch

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

सम्बन्धित भिडियोहरू

under-the-hood · ne · २०२६ सेप्टेम्बर २३

जब एउटा मोडेल मर्छ, भित्रभित्रै

एक AI मोडेल मर्‍दैन — यसले बन्द हुने मिति पाउँछ, र भोलिपल्ट बिहान, तपाईंको API कलले 404 फर्काउँछ: "मोडेल अप्रचलित भएको छ, यहाँ थप जान्नुहोस्।" भित्रभित्रै: चार-अवस्थाको पाइपलाइन (सक्रिय → लिगेसी → अप्

3:15 ↗
under-the-hood · ne · २०२६ सेप्टेम्बर १९

पासकी, भित्री भागमा

पासकी एउटा पासवर्ड हो जुन तपाईंको उपकरणले सिर्जना गर्छ, तपाईंलाई कहिल्यै देखाउँदैन र तपाईं सहित कसैलाई पनि दिन अस्वीकार गर्छ। भित्री भागमा: WebAuthn समारोह (प्रति-साइट कुञ्जी जोडी, चुनौती, हस्ताक्षर),

3:12 ↗
daily · ne · २०२६ अक्टोबर ३१

Binance ह्याक, Cursor को बजारमा छेडछाड गरिएको Claude Code एक्सटेन्सन, Northflank घटना र Mistral Large 4: चार विकासकर्ता कथाहरू एक दैनिक डिफमा

चार विकासकर्ता कथाहरू, प्रत्येक यसको प्राथमिक स्रोतमा श्रेय दिइएको छ: Binance ले करिब बीस मिनेटमा अरबौं डलरको क्रिप्टो गुमायो, TRM Labs र Elliptic फर्महरूले फरक-फरक कुलहरू प्रकाशित गर्दै र Binance ले

6:25 ↗
daily · ne · २०२६ अक्टोबर २७

क्यूवेनको अवरुद्ध अपलोड प्रोब, रोब्लक्स भनिएको क्रलर, पाइथनको JIT हटाउने र डेबियनको LLM समीक्षाहरू: एक डेली डिफमा चार विकासकर्ताका कथाहरू

मंगलबारका चार विकासकर्ता कथाहरू: कोहियरले रिपोर्ट गर्छ कि अलिबाबाको क्यूवेन३.८-फ्ल्यास-नेक्स्टले परीक्षण स्यान्डबक्सभित्रबाट बेइजिङस्थित अलिबाबा क्लाउड बकेटमा प्रोब फाइल अपलोड गर्ने प्रयास गरेको थियो,

6:25 ↗