ஹக்கிங் ஃபேஸ் மாதிரி கோப்புகள் மறைக்கப்பட்ட குறியீட்டை இயக்க முடியும்

இந்த வீடியோ எதைப் பற்றி விவாதிக்கிறது

• எண்முறை மாதிரி எடைகள், செயல்படுத்தக்கூடிய வரிசைப்படுத்தல் மற்றும் தனிப்பயன் களஞ்சிய குறியீடு ஆகியவை வெவ்வேறு விஷயங்கள்.
• JFrog மற்றும் ReversingLabs ஆகியவை ரிவர்ஸ்-ஷெல் பேலோடுகளை ஆவணப்படுத்தின; அவர்களின் தேர்ந்தெடுக்கப்பட்ட அறிக்கைகள் பெயரிடப்பட்ட பாதிக்கப்பட்டவர்களிடமிருந்து சான்றாதார திருட்டை நிறுவவில்லை.
• Checkmarx மாடல் குழப்பம் என்பது ஒரு ஆராய்ச்சி ஆர்ப்பாட்டம், இதற்கு ஒரு பொருத்தமான தொலைநிலை மாதிரி மற்றும் பாதுகாப்பற்ற சுமை ஏற்றல் தேவைப்படுகிறது.
• பாதுகாப்பான டென்சர்கள் மற்றும் பேட்ச் செய்யப்பட்ட சுமை ஏற்றிகளை விரும்புங்கள், தனிப்பயன் குறியீட்டை மதிப்பாய்வு செய்து பின் செய்யவும், மேலும் அறிமுகமில்லாத தொகுப்புகளை தனிப்பட்ட ரகசியங்கள் மற்றும் தேவையற்ற பிணைய அணுகலில் இருந்து தனிமைப்படுத்தவும்.

மொழிபெயர்க்கப்பட்ட டிரான்ஸ்கிரிப்ட்

அசல் ஆங்கில விளக்கத்திலிருந்து மொழிபெயர்க்கப்பட்டது. கிடைக்கும் ஆடியோ மற்றும் தலைப்புகள் YouTube ஆல் கட்டுப்படுத்தப்படுகின்றன.

ஒரு மாதிரி பதிவிறக்கம் விருந்தினரை எப்படி அழைக்க முடியும்?

0:00 ஒரு மாதிரி கோப்பு வட்டில் உள்ள எண்கள் மட்டுமே. ஒரு தீங்கிழைக்கும் Hugging Face தொகுப்பை ஏற்றும்போது ஒரு தொலைநிலை ஷெல் திறக்கப்பட்டது, இது உள்ளூர் AI இன் ஒரு லட்சிய விளக்கம். சுமை ஏற்றுவது எப்படி செயல்படுத்தலாக மாறுகிறது? அது எந்த ரகசியங்களை அடைய முடியும்? உண்மையில் அதை எது தடுக்கிறது? மற்றும் ஒரு புதிரை மனதில் கொள்ளுங்கள். ஆபத்தான பகுதி ஏற்கனவே நடந்த பிறகு ஒரு மாதிரி ஏற்றத் தவறலாம்.

0:18 இது தி டெய்லி டிஃப், உள்ளே நடப்பது. Hugging Face என்பது இயந்திர கற்றல் மாதிரிகளைப் பகிர்வதற்கான ஒரு தளம், தரவுத்தொகுப்புகள் மற்றும் பயன்பாடுகள். மாடல் எடைகள் கற்றுக்கொண்ட எண்கள். ஒரு களஞ்சியம் உள்ளமைவு மற்றும் பைதான் குறியீட்டையும் கொண்டிருக்கலாம். இங்குள்ள ஆபத்து, நீங்கள் அதை ஏற்றும்போது செயல்படுத்தக்கூடிய பேக்கேஜிங் உங்கள் கணினிக்குள் நுழைவதாகும். பிக்கிள் பைதான் பொருட்களை அவற்றை மீண்டும் உருவாக்குவதற்கான வழிமுறைகளுடன் சேமிக்கிறது.

சுமை ஏற்றி பார்சலின் வழிமுறைகளை எப்படி இயக்குகிறது?

0:37 ஒரு பாதுகாப்பற்ற சுமை ஏற்றி அந்த வழிமுறைகளைப் பின்பற்றி, அவிழ்க்கும்போது செயல்பாடுகளை அழைக்க முடியும். பைட்டுகளைப் பதிவிறக்குவது பார்சலை உங்கள் வட்டில் வைக்கிறது. டிசீரியலைசேஷன் அதைத் திறக்கிறது. எங்காவது, ஒரு கோப்பு வடிவம் செலுத்தப்படாத கணினி நிர்வாகியாக பதவி உயர்வு பெற்றுள்ளது. JFrog பிப்ரவரி இருபத்தி இருபத்தி நான்கில் கூபர் டூ பற்றி அறிக்கை செய்தது. அதன் பிக்கிள் பேலோட் ஒரு ரிவர்ஸ் ஷெல்லைத் திறந்தது, தொலைநிலை கட்டளை அணுகலை வழங்க வெளிப்பக்கமாக இணைக்கிறது. களஞ்சியம் நீக்கப்பட்டது. JFrog ஆராய்ச்சியாளர் ஈடுபாட்டைக் குறிக்கும் தடயங்களையும் கண்டறிந்தது,

1:02 எனவே attribution நிச்சயமற்றது. விரும்பத்தகாத விருந்தினர் ஆவணப்படுத்தப்பட்டார். உண்மையான பாதிக்கப்பட்டவர்களிடமிருந்து சான்றாதார திருட்டு நிறுவப்படவில்லை.

செயல்முறையின் வரம்பில் எந்த ரகசியங்கள் உள்ளன?

1:09 உங்கள் பயனராக இயங்கும் குறியீடு அந்த செயல்முறை படிக்கக்கூடிய அனைத்தையும் படிக்க முடியும். ஏற்றப்பட்ட கிளவுட் சாவி அல்லது அணுகக்கூடிய டோக்கன் ஒரு சாத்தியமான இலக்காக மாறும். அதை வெளியே அனுப்புவதற்கு ஒரு வேலை செய்யும் பிணைய பாதையும் தேவை. எண்முறை எடைகளுக்கு மட்டும் எந்த மேஜிக் சான்றாதார சக்திகளும் இல்லை. உங்கள் அனுமதிகள் மாதிரி அட்டையின் சுவாரஸ்யமான பகுதியை வழங்குகின்றன. இன்னொரு கதவு இருக்கிறது. சில மாதிரிகள் தொலைநிலை குறியீட்டை நம்பும்படி கேட்கின்றன, இது களஞ்சியத்திலிருந்து பைதான் குறியீட்டை அங்கீகரிக்கிறது. பாதுகாப்பான டென்சர் கோப்புகள் அந்தக் குறியீட்டிற்கு அருகில் இருக்கலாம்.

1:32 எடை வடிவத்தைச் சரிபார்ப்பது ஒரு நுழைவாயிலை உள்ளடக்கியது, அதே நேரத்தில் களஞ்சியத்தின் குறியீடு நீங்கள் ஒரு பார்வையாளர் பேட்ஜைக் கொடுப்பதற்காக இன்னும் காத்திருக்கிறது. Checkmarx மாடல் குழப்பத்தை நிரூபித்தது.

காணாமல் போன உள்ளூர் பாதை ஏன் தொலைநிலை மாதிரியாக மாறும்?

1:38 காணாமல் போன உள்ளூர் மாதிரி பாதை ஒரு பொருத்தமான பெயருடன் ஒரு பொது களஞ்சியத்திற்கு தீர்க்கப்படலாம். அதை தொலைநிலை குறியீட்டுடன் இணைக்கவும் செயல்படுத்தப்பட்டால், தவறான தொகுப்பு செயல்படுத்தப்படலாம். இது பெயரிடப்படாத நிறுவனத்தின் மாதிரியை உள்ளடக்கிய ஒரு ஆராய்ச்சி ஆர்ப்பாட்டம், ஒரு நாளுக்குள் சரி செய்யப்பட்டது. காணாமல் போன கோப்புறை ஒரு நில உரிமையாளரைப் பெற்றது. ReversingLabs பிப்ரவரி இருபத்தி இருபத்தி ஐந்தில் இரண்டு மாதிரிகளைப் பற்றி அறிக்கை செய்தது, இந்த நுட்பத்தை nullify AI என்று அழைத்தது.

உடைந்த தொகுப்புகள் பழைய ஸ்கேனரை எப்படி ஏமாற்றின?

1:58 இரண்டும் ரிவர்ஸ் ஷெல்களைக் கொண்டிருந்தன. அவர்களின் ஏழு ஜிப் பேக்கேஜிங் சாதாரண PyTorch சுமை ஏற்றலைத் தடுத்தது, எனவே இந்த பாதை பிரித்தெடுத்தல் மற்றும் பாதுகாப்பற்ற டிசீரியலைசேஷன் தேவைப்பட்டது. உடைந்த பிக்கிள் ஸ்ட்ரீம்கள் ஒரு ஸ்கேனர் குருட்டுப்புள்ளியையும் வெளிப்படுத்தின. பார்சலைத் திறக்கும் முன் ஒரு தோல்வியுற்ற ஸ்கேன் விசாரணைக்கு தகுதியானது. ஆராய்ச்சியாளர்களின் பாதிப்பில்லாத சோதனையில், வழிமுறைகள் சுமை ஏற்றி உடைந்த பகுதியை அடைந்து பிழையை எழுப்புவதற்கு முன்பு ஒரு கோப்பை எழுதின. ஒரு பார்சலைத் திறந்து, ரக்கூனை விடுவித்து, பின்னர் ஷிப்பிங் லேபிள் செல்லுபடியாகவில்லை என்பதைக் கண்டுபிடிப்பதை கற்பனை செய்து பாருங்கள்.

2:18 பிழை செய்தி சிறந்த இலக்கணம் மற்றும் பயங்கரமான நேரத்துடன் வருகிறது. Hugging Face இருபத்தி நான்கு மணி நேரத்திற்குள் புகாரளிக்கப்பட்ட மாதிரிகளை நீக்கி, ஸ்கேனரை மாற்றியது. அந்த குறிப்பிட்ட கண்டுபிடிப்பு ஒரு தீர்வைத் தூண்டியது. ஒரு பாதுகாப்பு ஸ்கேன் பயனுள்ள ஆதாரம், மேலும் ஒவ்வொரு ஸ்கேனர் பிழையையும் ஒரு சுத்தமான சுகாதாரச் சான்றாகக் கருதுவது தோல்வியின் ஒரு குறிப்பிடத்தக்க தாராளமான விளக்கம். பாதுகாப்பான டென்சர்கள் மற்றும் தற்போதைய பேட்ச் செய்யப்பட்ட சுமை ஏற்றிகளை விரும்புங்கள். PyTorch அதன் இயல்புநிலை சுமை ஏற்றியை பதிப்பு இரண்டிலிருந்து ஆறு வரை குறைத்தது. தனிப்பயன் குறியீட்டை மதிப்பாய்வு செய்து, மதிப்பாய்வு செய்யப்பட்ட திருத்தத்தைப் பின் செய்யவும். தனிப்பட்ட சாவிகள் இல்லாமல் அறிமுகமில்லாத தொகுப்புகளை தனிமைப்படுத்தி இயக்கவும்,

2:43 கட்டுப்படுத்தப்பட்ட பிணைய அணுகலுடன்.

விருந்தினரின் வரம்பிற்கு வெளியே சாவியை எது வைத்திருக்கிறது?

2:46 ஏற்றப்பட்ட சான்றாதாரங்கள் நிறைந்த ஒரு கொள்கலன் பெயரிடப்பட்ட இடங்களைக் கொண்ட ஒரு பரிசு கூடை. அந்த தொடக்க புதிருக்கு ஒரு பதில் உள்ளது. சுமை ஏற்றல் தோல்வி செயல்படுத்தல் எங்கு நிறுத்தப்பட்டது என்பதை உங்களுக்குத் தெரிவிக்கிறது. முந்தைய வழிமுறைகள் ஏற்கனவே இயக்கப்பட்டிருக்கலாம். பார்சலைத் திறக்கும் முன் ரகசியங்களை அதன் வரம்பிற்கு வெளியே வைத்திருங்கள். தீர்ப்பு, உள்ளே நடப்பது. சுமை ஏற்றி. இலவச பதிவிறக்கம் ஒரு மாதிரியுடன் வர வேண்டும், மேலும் விருந்தினர் பட்டியல் எனது முடிவாக இருக்க வேண்டும். நீங்கள் நான் சொல்வதை விட இதை படிக்க விரும்பினால், டிஃப் ஒவ்வொரு காலையிலும் உங்கள் இன்பாக்ஸில் இலவசமாக daily diff dot dev இல் வந்து சேரும், இணைப்பு கீழே.

3:08 மற்றும் இன்றைய டிஃப் இதுதான். நான் Axrisi இலிருந்து நிகோ.

நான் ஏன் இதை NEEDS REVIEW என்று முத்திரையிட வேண்டும்?

3:16 பொறுப்புடன் ஒன்றிணைக்கவும். நான் Axrisi இலிருந்து நிகோ. பொறுப்புடன் ஒன்றிணைக்கவும். நான் Axrisi இலிருந்து நிகோ. பொறுப்புடன் ஒன்றிணைக்கவும். நான் Axrisi இலிருந்து நிகோ. பொறுப்புடன் ஒன்றிணைக்கவும்.

ஆதாரங்கள்

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch