ഹഗ്ഗിംഗ് ഫേസ് മോഡൽ ഫയലുകൾക്ക് മറഞ്ഞിരിക്കുന്ന കോഡ് പ്രവർത്തിപ്പിക്കാൻ കഴിയും

ഈ വീഡിയോയിൽ ഉൾപ്പെടുന്ന കാര്യങ്ങൾ

• സംഖ്യാപരമായ മോഡൽ വെയ്റ്റുകൾ, എക്സിക്യൂട്ടബിൾ സീരിയലൈസേഷൻ, കസ്റ്റം ശേഖരണ കോഡ് എന്നിവ വ്യത്യസ്ത കാര്യങ്ങളാണ്.
• JFrog ഉം ReversingLabs ഉം റിവേഴ്സ്-ഷെൽ പേലോഡുകൾ രേഖപ്പെടുത്തി; അവരുടെ തിരഞ്ഞെടുത്ത റിപ്പോർട്ടുകൾ പേരുള്ള ഇരകളിൽ നിന്നുള്ള ക്രെഡൻഷ്യൽ മോഷണം സ്ഥാപിക്കുന്നില്ല.
• ചെക്ക്മാർക്സ് മോഡൽ കൺഫ്യൂഷൻ ഒരു ഗവേഷണ പ്രദർശനമായിരുന്നു, ഇതിന് അനുയോജ്യമായ ഒരു വിദൂര മോഡലും സുരക്ഷിതമല്ലാത്ത ലോഡിംഗും ആവശ്യമായിരുന്നു.
• safetensors ഉം പാച്ച് ചെയ്ത ലോഡറുകളും തിരഞ്ഞെടുക്കുക, കസ്റ്റം കോഡ് അവലോകനം ചെയ്യുകയും പിൻ ചെയ്യുകയും ചെയ്യുക, പരിചിതമല്ലാത്ത പാക്കേജുകളെ വ്യക്തിഗത രഹസ്യങ്ങളിൽ നിന്നും അനാവശ്യ നെറ്റ്‌വർക്ക് ആക്സസ്സിൽ നിന്നും ഒറ്റപ്പെടുത്തുക.

വിവർത്തനം ചെയ്ത ട്രാൻസ്ക്രിപ്റ്റ്

യഥാർത്ഥ ഇംഗ്ലീഷ് ആഖ്യാനത്തിൽ നിന്ന് വിവർത്തനം ചെയ്തത്. ലഭ്യമായ ഓഡിയോയും അടിക്കുറിപ്പുകളും YouTube നിയന്ത്രിക്കുന്നു.

ഒരു മോഡൽ ഡൗൺലോഡ് എങ്ങനെ ഒരു അതിഥിയെ ക്ഷണിക്കും?

0:00 ഒരു മോഡൽ ഫയൽ ഡിസ്കിലെ സംഖ്യകൾ മാത്രമാണ്. ഒരു ക്ഷുദ്രകരമായ ഹഗ്ഗിംഗ് ഫേസ് പാക്കേജ് ലോഡ് ചെയ്യുന്നത് ഒരു വിദൂര ഷെൽ തുറന്നു, ഇതൊരു പ്രാദേശിക AI-യുടെ അതിമോഹമായ വ്യാഖ്യാനമാണ്. ലോഡിംഗ് എങ്ങനെയാണ് എക്സിക്യൂഷനായി മാറുന്നത്? ഏത് രഹസ്യങ്ങളിൽ എത്താൻ ഇതിന് കഴിയും? എന്താണ് യഥാർത്ഥത്തിൽ അതിനെ തടയുന്നത്? കൂടാതെ ഒരു പസിൽ മനസ്സിൽ വയ്ക്കുക. അപകടകരമായ ഭാഗം ഇതിനകം സംഭവിച്ചതിന് ശേഷം ഒരു മോഡൽ ലോഡ് ചെയ്യുന്നതിൽ പരാജയപ്പെടാം.

0:18 ഇത് ദി ഡെയ്ലി ഡിഫ് ആണ്, അണ്ടർ ദി ഹൂഡ്. മെഷീൻ ലേണിംഗ് മോഡലുകൾ പങ്കിടുന്നതിനുള്ള ഒരു പ്ലാറ്റ്ഫോമാണ് ഹഗ്ഗിംഗ് ഫേസ്, ഡാറ്റാസെറ്റുകളും ആപ്ലിക്കേഷനുകളും. മോഡൽ വെയ്റ്റുകളാണ് പഠിച്ച സംഖ്യകൾ. ഒരു റിപ്പോസിറ്ററിയിൽ കോൺഫിഗറേഷനും പൈത്തൺ കോഡും അടങ്ങിയിരിക്കാം. നിങ്ങൾ അത് ലോഡ് ചെയ്യുമ്പോൾ നിങ്ങളുടെ കമ്പ്യൂട്ടറിലേക്ക് എക്സിക്യൂട്ടബിൾ പാക്കേജിംഗ് കടന്നുവരുന്നതാണ് ഇവിടെയുള്ള അപകടം. പിക്കിൾ പൈത്തൺ ഒബ്ജക്റ്റുകൾ അവ പുനർനിർമ്മിക്കുന്നതിനുള്ള നിർദ്ദേശങ്ങളോടെ സംഭരിക്കുന്നു.

ഒരു ലോഡർ എങ്ങനെ പാഴ്സലിന്റെ നിർദ്ദേശങ്ങൾ പ്രവർത്തിപ്പിക്കുന്നു?

0:37 ഒരു സുരക്ഷിതമല്ലാത്ത ലോഡർക്ക് ആ നിർദ്ദേശങ്ങൾ പിന്തുടരുകയും അൺപാക്ക് ചെയ്യുമ്പോൾ ഫംഗ്ഷനുകൾ വിളിക്കുകയും ചെയ്യാം. ബൈറ്റുകൾ ഡൗൺലോഡ് ചെയ്യുന്നത് പാഴ്സൽ നിങ്ങളുടെ ഡിസ്കിൽ എത്തിക്കുന്നു. ഡീസീരിയലൈസ് ചെയ്യുന്നത് അത് തുറക്കുന്നു. എവിടെയോ, ഒരു ഫയൽ ഫോർമാറ്റിനെ പണമില്ലാത്ത സിസ്റ്റം അഡ്മിനിസ്ട്രേറ്ററായി ഉയർത്തി. JFrog 2024 ഫെബ്രുവരിയിൽ ഗൂബർ ടു റിപ്പോർട്ട് ചെയ്തു. അതിന്റെ പിക്കിൾ പേലോഡ് ഒരു റിവേഴ്സ് ഷെൽ തുറന്നു, വിദൂര കമാൻഡ് ആക്സസ് നൽകാനായി പുറത്തേക്ക് ബന്ധിപ്പിച്ചു. റിപ്പോസിറ്ററി ഇല്ലാതാക്കി. JFrog ഗവേഷകരുടെ പങ്കാളിത്തം സൂചിപ്പിക്കുന്ന സൂചനകളും കണ്ടെത്തി,

1:02 അതുകൊണ്ട് ആട്രിബ്യൂഷൻ അനിശ്ചിതമാണ്. അനാവശ്യ അതിഥിയെ രേഖപ്പെടുത്തിയിരുന്നു. യഥാർത്ഥ ഇരകളിൽ നിന്നുള്ള ക്രെഡൻഷ്യൽ മോഷണം സ്ഥാപിച്ചിട്ടില്ല.

പ്രോസസ്സിന്റെ പരിധിയിൽ ഏതൊക്കെ രഹസ്യങ്ങളുണ്ട്?

1:09 നിങ്ങളുടെ ഉപയോക്താവായി പ്രവർത്തിക്കുന്ന കോഡിന് ആ പ്രോസസ്സിന് വായിക്കാൻ കഴിയുന്ന എന്തും വായിക്കാൻ കഴിയും. ഒരു മൗണ്ട് ചെയ്ത ക്ലൗഡ് കീ അല്ലെങ്കിൽ ഒരു ആക്സസ് ചെയ്യാവുന്ന ടോക്കൺ ഒരു ലക്ഷ്യമായി മാറും. അത് പുറത്തേക്ക് അയക്കുന്നതിന് ഒരു പ്രവർത്തിക്കുന്ന നെറ്റ്‌വർക്ക് റൂട്ടും ആവശ്യമാണ്. സംഖ്യാപരമായ വെയ്റ്റുകൾക്ക് മാത്രം മാന്ത്രിക ക്രെഡൻഷ്യൽ ശക്തികളില്ല. നിങ്ങളുടെ അനുമതികളാണ് മോഡൽ കാർഡിന്റെ രസകരമായ ഭാഗം നൽകുന്നത്. മറ്റൊരു വാതിലുണ്ട്. ചില മോഡലുകൾ വിദൂര കോഡിനെ വിശ്വസിക്കാൻ ആവശ്യപ്പെടുന്നു, അത് റിപ്പോസിറ്ററിയിൽ നിന്ന് പൈത്തണിന് അംഗീകാരം നൽകുന്നു. സുരക്ഷിത ടെൻസർ ഫയലുകൾ ആ കോഡിനടുത്ത് ഇരിക്കാം.

1:32 വെയ്റ്റ് ഫോർമാറ്റ് പരിശോധിക്കുന്നത് ഒരു പ്രവേശന കവാടം ഉൾക്കൊള്ളുന്നു, അതേസമയം റിപ്പോസിറ്ററിയുടെ കോഡ് നിങ്ങൾ ഒരു സന്ദർശക ബാഡ്ജ് നൽകാൻ ഇപ്പോഴും കാത്തിരിക്കുന്നു.

എന്തുകൊണ്ടാണ് ഒരു നഷ്ടപ്പെട്ട പ്രാദേശിക പാത ഒരു വിദൂര മോഡലായി മാറിയേക്കാം?

1:38 ചെക്ക്മാർക്സ് മോഡൽ കൺഫ്യൂഷൻ തെളിയിച്ചു. ഒരു പ്രാദേശിക മോഡൽ പാത നഷ്ടപ്പെട്ടാൽ, സമാനമായ പേരുള്ള ഒരു പൊതു റിപ്പോസിറ്ററിയിലേക്ക് അത് പരിഹരിക്കപ്പെടാം. വിദൂര കോഡുമായി ഇത് സംയോജിപ്പിക്കുക പ്രവർത്തനക്ഷമമാക്കിയാൽ, തെറ്റായ പാക്കേജ് പ്രവർത്തിപ്പിക്കാൻ കഴിയും. ഇതൊരു പേര് വെളിപ്പെടുത്താത്ത കമ്പനിയുടെ സാമ്പിൾ ഉൾപ്പെട്ട ഒരു ഗവേഷണ പ്രദർശനമായിരുന്നു, ഒരു ദിവസത്തിനുള്ളിൽ തിരുത്തി. നഷ്ടപ്പെട്ട ഒരു ഫോൾഡറിന് ഒരു ഭൂവുടമയെ ലഭിച്ചു. ReversingLabs 2025 ഫെബ്രുവരിയിൽ രണ്ട് സാമ്പിളുകൾ റിപ്പോർട്ട് ചെയ്തു,

തകർന്ന പാക്കേജുകൾ എങ്ങനെയാണ് പഴയ സ്കാനറിനെ ഒഴിവാക്കിയത്?

1:58 സാങ്കേതികവിദ്യയെ നള്ളിഫൈ AI എന്ന് വിളിച്ചു. രണ്ടിലും റിവേഴ്സ് ഷെല്ലുകൾ ഉണ്ടായിരുന്നു. അവരുടെ സെവൻ സിപ്പ് പാക്കേജിംഗ് സാധാരണ PyTorch ലോഡിംഗ് തടഞ്ഞു, അതുകൊണ്ട് ഈ പാതയ്ക്ക് എക്സ്ട്രാക്ഷനും സുരക്ഷിതമല്ലാത്ത ഡീസീരിയലൈസേഷനും ആവശ്യമായിരുന്നു. തകർന്ന പിക്കിൾ സ്ട്രീമുകളും ഒരു സ്കാനർ ബ്ലൈൻഡ് സ്പോട്ട് വെളിപ്പെടുത്തി. പരാജയപ്പെട്ട ഒരു സ്കാൻ ആരും പാഴ്സൽ തുറക്കുന്നതിന് മുമ്പ് അന്വേഷണം അർഹിക്കുന്നു. ഗവേഷകരുടെ നിരുപദ്രവകരമായ പരിശോധനയിൽ, നിർദ്ദേശങ്ങൾ ലോഡർ തകർന്ന ഭാഗത്ത് എത്തുകയും ഒരു പിശക് ഉയർത്തുകയും ചെയ്യുന്നതിന് മുമ്പ് ഒരു ഫയൽ എഴുതി.

2:18 തകർന്ന ഭാഗത്ത് എത്തുകയും ഒരു പിശക് ഉയർത്തുകയും ചെയ്യുന്നതിന് മുമ്പ് ഒരു ഫയൽ എഴുതി. ഒരു പാഴ്സൽ തുറക്കുന്നതും, റാക്കൂണിനെ പുറത്തുവിടുന്നതും, പിന്നീട് ഷിപ്പിംഗ് ലേബൽ അസാധുവാണെന്ന് ശ്രദ്ധിക്കുന്നതും സങ്കൽപ്പിക്കുക. ലേബൽ അസാധുവാണെന്ന് ശ്രദ്ധിക്കുന്നതും സങ്കൽപ്പിക്കുക. പിശക് സന്ദേശം മികച്ച വ്യാകരണത്തോടെയും ഭയങ്കരമായ സമയത്തും എത്തുന്നു. Hugging Face റിപ്പോർട്ട് ചെയ്ത സാമ്പിളുകൾ ഇരുപത്തിനാല് മണിക്കൂറിനുള്ളിൽ നീക്കം ചെയ്യുകയും സ്കാനർ മാറ്റുകയും ചെയ്തു. ആ പ്രത്യേക കണ്ടെത്തൽ ഒരു പരിഹാരത്തിന് കാരണമായി. ഒരു സുരക്ഷാ സ്കാൻ ഉപയോഗപ്രദമായ തെളിവാണ്, കൂടാതെ ഓരോ സ്കാനർ പിശകിനെയും ഒരു ശുദ്ധമായ ആരോഗ്യ പ്രഖ്യാപനമായി കണക്കാക്കുന്നത് പരാജയത്തെക്കുറിച്ചുള്ള ശ്രദ്ധേയമായ ഉദാരമായ വ്യാഖ്യാനമായി തുടരുന്നു.

2:43 സുരക്ഷിത ടെൻസറുകളും നിലവിലുള്ള പാച്ച് ചെയ്ത ലോഡറുകളും തിരഞ്ഞെടുക്കുക.

അതിഥിയുടെ പരിധിക്ക് പുറത്ത് കീയെ നിലനിർത്തുന്നത് എന്താണ്?

2:46 പൈടോർച്ച് അതിന്റെ ഡിഫോൾട്ട് ലോഡർ വേർഷൻ 2.6 മുതൽ ചുരുക്കി. കസ്റ്റം കോഡ് അവലോകനം ചെയ്യുകയും അവലോകനം ചെയ്ത റിവിഷൻ പിൻ ചെയ്യുകയും ചെയ്യുക. പരിചിതമല്ലാത്ത പാക്കേജുകൾ വ്യക്തിഗത കീകൾ ഇല്ലാതെ ഒറ്റയ്ക്ക് പ്രവർത്തിപ്പിക്കുക, നിയന്ത്രിത നെറ്റ്‌വർക്ക് ആക്സസ്സോടെ. മൗണ്ട് ചെയ്ത ക്രെഡൻഷ്യലുകൾ നിറഞ്ഞ ഒരു കണ്ടെയ്നർ നെയിംസ്പേസുകളുള്ള ഒരു സമ്മാന കൊട്ടയാണ്. ആ തുറന്ന പസിലിന് ഒരു ഉത്തരമുണ്ട്. ലോഡിംഗ് പരാജയം എക്സിക്യൂഷൻ എവിടെയാണ് നിർത്തിയതെന്ന് നിങ്ങളോട് പറയുന്നു. മുമ്പത്തെ നിർദ്ദേശങ്ങൾ ഇതിനകം പ്രവർത്തിച്ചിട്ടുണ്ടാകാം.

3:08 പാഴ്സൽ തുറക്കുന്നതിന് മുമ്പ് രഹസ്യങ്ങൾ അതിന്റെ പരിധിക്ക് പുറത്ത് സൂക്ഷിക്കുക. വിധി, അണ്ടർ ദി ഹൂഡ്.

എന്തുകൊണ്ടാണ് ഞാൻ ഇത് NEEDS REVIEW എന്ന് സ്റ്റാമ്പ് ചെയ്യുന്നത്?

3:16 ലോഡർ. സൗജന്യ ഡൗൺലോഡിനൊപ്പം ഒരു മോഡൽ വരണം, അതിഥി ലിസ്റ്റ് എന്റെ തീരുമാനമായി തുടരണം. ഇത് കേൾക്കുന്നതിന് പകരം വായിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നുവെങ്കിൽ, ഡിഫ് എല്ലാ ദിവസവും രാവിലെ നിങ്ങളുടെ ഇൻബോക്സിൽ എത്തുന്നു, daily diff ഡോട്ട് dev-ൽ സൗജന്യമായി, ലിങ്ക് താഴെ. അതാണ് ഇന്നത്തെ ഡിഫ്. ഞാൻ Axrisi-ൽ നിന്നുള്ള നിക്കോ. ഉത്തരവാദിത്തത്തോടെ ലയിപ്പിക്കുക.

ഉറവിടങ്ങൾ

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch