హగ్గింగ్ ఫేస్ మోడల్ ఫైళ్లు దాచిన కోడ్‌ను అమలు చేయగలవు

ఈ వీడియో ఏమి కవర్ చేస్తుంది

• సంఖ్యా మోడల్ బరువులు, ఎగ్జిక్యూటబుల్ సీరియలైజేషన్ మరియు కస్టమ్ రిపోజిటరీ కోడ్ వేర్వేరు విషయాలు.
• JFrog మరియు ReversingLabs రివర్స్-షెల్ పేలోడ్‌లను డాక్యుమెంట్ చేశాయి; వారి ఎంచుకున్న నివేదికలు పేర్కొన్న బాధితుల నుండి క్రెడెన్షియల్ దొంగతనాన్ని స్థాపించవు.
• చెక్మార్క్స్ మోడల్ కన్‌ఫ్యూజన్ అనేది సరిపోలే రిమోట్ మోడల్ మరియు అసురక్షిత లోడింగ్ అవసరమయ్యే పరిశోధన ప్రదర్శన.
• safetensors మరియు ప్యాచ్ చేసిన లోడర్‌లను ఇష్టపడండి, కస్టమ్ కోడ్‌ను సమీక్షించండి మరియు పిన్ చేయండి మరియు తెలియని ప్యాకేజీలను వ్యక్తిగత రహస్యాలు మరియు అనవసరమైన నెట్‌వర్క్ యాక్సెస్ నుండి వేరుచేయండి.

అనువదించబడిన ట్రాన్స్క్రిప్ట్

అసలైన ఆంగ్ల కథనం నుండి అనువదించబడింది. అందుబాటులో ఉన్న ఆడియో మరియు క్యాప్షన్లు YouTube ద్వారా నియంత్రించబడతాయి.

మోడల్ డౌన్‌లోడ్ అతిథిని ఎలా ఆహ్వానించగలదు?

0:00 మోడల్ ఫైల్ అంటే డిస్క్‌లో ఉన్న సంఖ్యలు మాత్రమే. ఒక హానికరమైన హగ్గింగ్ ఫేస్ ప్యాకేజీని లోడ్ చేయడం ఒక రిమోట్ షెల్‌ను తెరిచింది, ఇది స్థానిక AI యొక్క ప్రతిష్టాత్మక వివరణ. లోడింగ్ అమలుగా ఎలా మారుతుంది? ఇది ఏ రహస్యాలను చేరుకోగలదు? నిజానికి దీన్ని ఏమి ఆపుతుంది? మరియు ఒక పజిల్‌ను గుర్తుంచుకోండి. మోడల్ ప్రమాదకరమైన భాగం ఇప్పటికే జరిగిన తర్వాత లోడ్ అవ్వడంలో విఫలం కావచ్చు.

0:18 ఇది The Daily Diff, తెర వెనుక. హగ్గింగ్ ఫేస్ అనేది మెషిన్ లెర్నింగ్ మోడల్‌లను పంచుకోవడానికి ఒక ప్లాట్‌ఫాం, డేటాసెట్‌లు మరియు అప్లికేషన్లు. మోడల్ బరువులు నేర్చుకున్న సంఖ్యలు. ఒక రిపోజిటరీ కాన్ఫిగరేషన్ మరియు పైథాన్ కోడ్‌ను కూడా కలిగి ఉండవచ్చు. ఇక్కడ ప్రమాదం ఏమిటంటే మీరు లోడ్ చేసినప్పుడు మీ కంప్యూటర్‌లోకి ప్రవేశించే ఎగ్జిక్యూటబుల్ ప్యాకేజింగ్. పికిల్ వాటిని తిరిగి నిర్మించడానికి సూచనలతో పైథాన్ వస్తువులను నిల్వ చేస్తుంది.

పార్సెల్ సూచనలను లోడర్ ఎలా అమలు చేస్తుంది?

0:37 అసురక్షిత లోడర్ ఆ సూచనలను అనుసరించగలదు మరియు అన్‌ప్యాక్ చేస్తున్నప్పుడు ఫంక్షన్‌లను కాల్ చేయగలదు. బైట్‌లను డౌన్‌లోడ్ చేయడం పార్సెల్‌ను మీ డిస్క్‌లో ఉంచుతుంది. డిసీరియలైజ్ చేయడం దానిని తెరుస్తుంది. ఎక్కడో, ఒక ఫైల్ ఫార్మాట్ bezz అన్‌పెయిడ్ సిస్టమ్ అడ్మినిస్ట్రేటర్‌గా ప్రచారం చేయబడింది. JFrog ఫిబ్రవరి 2024లో గూబర్ టూని నివేదించింది. దాని పికిల్ పేలోడ్ రివర్స్ షెల్‌ను తెరిచింది, రిమోట్ కమాండ్ యాక్సెస్‌ను అందించడానికి బయటికి కనెక్ట్ అయింది. రిపోజిటరీ తొలగించబడింది. JFrog పరిశోధకుల ప్రమేయాన్ని సూచించే ఆధారాలను కూడా కనుగొంది,

1:02 కాబట్టి అట్రిబ్యూషన్ అనిశ్చితంగా ఉంది. అవాంఛిత అతిథి డాక్యుమెంట్ చేయబడింది. నిజమైన బాధితుల నుండి క్రెడెన్షియల్ దొంగతనం స్థాపించబడలేదు.

ప్రక్రియ చేరువలో ఏ రహస్యాలు ఉన్నాయి?

1:09 మీ వినియోగదారుగా నడుస్తున్న కోడ్ ఆ ప్రక్రియ చదవగలిగేదాన్ని చదవగలదు. మౌంటెడ్ క్లౌడ్ కీ లేదా యాక్సెస్ చేయగల టోకెన్ ఒక సాధ్యమైన లక్ష్యం అవుతుంది. దానిని బయటకు పంపడానికి పని చేసే నెట్‌వర్క్ మార్గం కూడా అవసరం. సంఖ్యా బరువులకు మాత్రమే మ్యాజిక్ క్రెడెన్షియల్ అధికారాలు లేవు. మీ అనుమతులు మోడల్ కార్డ్‌లోని ఆసక్తికరమైన భాగాన్ని సరఫరా చేస్తాయి. మరో తలుపు ఉంది. కొన్ని మోడల్‌లు రిమోట్ కోడ్‌ను విశ్వసించమని మిమ్మల్ని అడుగుతాయి, ఇది రిపోజిటరీ నుండి పైథాన్‌ను అనుమతిస్తుంది. సేఫ్ టెన్సర్ ఫైల్‌లు ఆ కోడ్ పక్కన కూర్చోవచ్చు.

1:32 బరువు ఫార్మాట్‌ను తనిఖీ చేయడం ఒక ప్రవేశాన్ని కవర్ చేస్తుంది, అయితే రిపోజిటరీ యొక్క కోడ్ మీకు సందర్శకుల బ్యాడ్జ్‌ను ఇవ్వడానికి ఇంకా వేచి ఉంది. చెక్మార్క్స్ మోడల్ కన్‌ఫ్యూజన్‌ను ప్రదర్శించింది.

స్థానిక మార్గం ఎందుకు రిమోట్ మోడల్‌గా మారగలదు?

1:38 తప్పిపోయిన స్థానిక మోడల్ మార్గం సరిపోలే పేరుతో పబ్లిక్ రిపోజిటరీకి పరిష్కరించబడవచ్చు. దానిని రిమోట్ కోడ్‌తో కలిపి ఎనేబుల్ చేయబడింది, మరియు తప్పు ప్యాకేజీ అమలు చేయగలదు. ఇది పేరులేని కంపెనీ నమూనాతో కూడిన పరిశోధన ప్రదర్శన, ఒక రోజులో సరిదిద్దబడింది. తప్పిపోయిన ఫోల్డర్ యజమానిని సంపాదించింది. ReversingLabs ఫిబ్రవరి 2025లో రెండు నమూనాలను నివేదించింది, టెక్నిక్‌ను nullify AI అని పిలుస్తూ.

పాత స్కానర్‌ను విరిగిన ప్యాకేజీలు ఎలా తప్పించుకున్నాయి?

1:58 రెండు రివర్స్ షెల్‌లను కలిగి ఉన్నాయి. వారి సెవెన్ జిప్ ప్యాకేజింగ్ సాధారణ పైటార్చ్ లోడింగ్‌ను నిరోధించింది, కాబట్టి ఈ మార్గానికి ఎక్స్‌ట్రాక్షన్ మరియు అసురక్షిత డీసీరియలైజేషన్ అవసరం. విరిగిన పికిల్ స్ట్రీమ్‌లు స్కానర్ బ్లైండ్ స్పాట్‌ను కూడా బహిర్గతం చేశాయి. ఎవరైనా పార్సెల్‌ను తెరవడానికి ముందు విఫలమైన స్కాన్ విచారణకు అర్హమైనది. పరిశోధకుల హానిచేయని పరీక్షలో, సూచనలు లోడర్ విరిగిన భాగాన్ని చేరుకుని లోపాన్ని పెంచడానికి ముందు ఒక ఫైల్‌ను రాశాయి. ఒక పార్సెల్‌ను తెరిచి, రాకూన్‌ను విడుదల చేసి, ఆపై షిప్పింగ్ లేబుల్ చెల్లదు అని గమనించడం ఊహించండి.

2:18 లోపం సందేశం అద్భుతమైన వ్యాకరణం మరియు భయంకరమైన సమయంతో వస్తుంది. హగ్గింగ్ ఫేస్ 24 గంటల్లో నివేదించబడిన నమూనాలను తొలగించింది మరియు స్కానర్‌ను మార్చింది. ఆ నిర్దిష్ట అన్వేషణ ఒక పరిష్కారాన్ని ప్రేరేపించింది. ఒక భద్రతా స్కాన్ ఉపయోగకరమైన సాక్ష్యం, మరియు ప్రతి స్కానర్ లోపాన్ని శుభ్రమైన ఆరోగ్య బిల్లుగా పరిగణించడం వైఫల్యం యొక్క అద్భుతమైన ఉదారమైన వివరణగా మిగిలిపోయింది. సురక్షిత టెన్సర్‌లు మరియు ప్రస్తుత ప్యాచ్ చేసిన లోడర్‌లను ఇష్టపడండి. PyTorch వెర్షన్ 2.6 నుండి దాని డిఫాల్ట్ లోడర్‌ను తగ్గించింది. కస్టమ్ కోడ్‌ను సమీక్షించండి మరియు సమీక్షించిన పునర్విమర్శను పిన్ చేయండి. తెలియని ప్యాకేజీలను వ్యక్తిగత కీలు లేకుండా వేరుగా అమలు చేయండి,

2:43 పరిమిత నెట్‌వర్క్ యాక్సెస్‌తో.

అతిథికి చేరువలో లేకుండా కీని ఏమి ఉంచుతుంది?

2:46 మౌంటెడ్ క్రెడెన్షియల్స్‌తో నిండిన కంటైనర్ అనేది నేమ్‌స్పేస్‌లతో కూడిన బహుమతి బుట్ట. ఆ ప్రారంభ పజిల్‌కు ఒక సమాధానం ఉంది. లోడింగ్ వైఫల్యం అమలు ఎక్కడ ఆగిపోయిందో మీకు చెబుతుంది. మునుపటి సూచనలు ఇప్పటికే అమలు చేయబడి ఉండవచ్చు. పార్సెల్‌ను తెరవడానికి ముందు రహస్యాలను దాని చేరువలో లేకుండా ఉంచండి. తీర్పు, తెర వెనుక. లోడర్. ఉచిత డౌన్‌లోడ్ ఒక మోడల్‌తో రావాలి, మరియు అతిథి జాబితా నా నిర్ణయంగా ఉండాలి. మీరు దీన్ని నేను చెప్పడం వినడానికి బదులు చదవాలనుకుంటే, ప్రతి ఉదయం మీ ఇన్‌బాక్స్‌లో diff వస్తుంది,

3:08 dailydiff.dev వద్ద ఉచితంగా, లింక్ క్రింద ఉంది. మరియు ఇది నేటి diff.

నేను దీనికి NEEDS REVIEW అని ఎందుకు స్టాంప్ చేయాలి?

3:16 నేను Axrisi నుండి Niko. బాధ్యతాయుతంగా విలీనం చేయండి. మీరు దీన్ని నేను చెప్పడం వినడానికి బదులు చదవాలనుకుంటే, diff ప్రతి ఉదయం మీ ఇన్‌బాక్స్‌లో వస్తుంది, dailydiff.dev వద్ద ఉచితంగా, లింక్ క్రింద ఉంది. మరియు ఇది నేటి diff. నేను Axrisi నుండి Niko. బాధ్యతాయుతంగా విలీనం చేయండి.

మూలాలు

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch