Hugging Face model fayllari yashirin kodni ishga tushirishi mumkin

Bu video nimani qamrab oladi

• Raqamli model og'irliklari, ijro etiladigan seriyalashtirish va maxsus ombor kodi turli narsalardir.
• JFrog va ReversingLabs teskari qobiq yuklarini hujjatlashtirdi; ularning tanlangan hisobotlari nomlangan qurbonlardan ma'lumotlarni o'g'irlashni tasdiqlamaydi.
• Checkmarx Model Confusion tadqiqot namoyishi bo'lib, mos keladigan masofaviy model va xavfli yuklashni talab qiladi.
• Safetensor va yamalgan yuklovchilarni afzal ko'ring, maxsus kodni ko'rib chiqing va bog'lang, va notanish paketlarni shaxsiy sirlardan va keraksiz tarmoq kirishidan ajratib oling.

Tarjima qilingan transkript

Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.

Modelni yuklab olish qanday qilib mehmonni taklif qilishi mumkin?

0:00 Model fayli diskdagi raqamlardan iborat. Bitta xavfli Hugging Face paketini yuklash masofaviy qobiqni ochdi, bu mahalliy AIdagi ulkan talqindir. Yuklash qanday qilib bajarilishga aylanadi? U qaysi sirlarga erishishi mumkin? Uni nima to'xtatadi? Va bitta jumboqni yodda tuting. Xavfli qism allaqachon sodir bo'lganidan keyin model yuklanmay qolishi mumkin.

0:18 Bu The Daily Diff, ichidan. Hugging Face - bu mashinani o'rganish modellarini almashish platformasi, ma'lumotlar to'plamlari va ilovalar. Model og'irliklari o'rganilgan raqamlardir. Ombor shuningdek, konfiguratsiya va Python kodini o'z ichiga olishi mumkin. Bu yerdagi xavf - bu bajariladigan paketlash sizning kompyuteringizga kirib kelishi, uni yuklaganingizda. Pickle Python ob'ektlarini ularni qayta qurish bo'yicha ko'rsatmalar bilan saqlaydi.

Yuklovchi posilkaning ko'rsatmalarini qanday bajaradi?

0:37 Xavfli yuklovchi bu ko'rsatmalarga amal qilishi va funksiyalarni chaqirishi mumkin ochish paytida. Baytlarni yuklab olish posilkani diskingizga joylashtiradi. Deseriyalash uni ochadi. Qayerdadir, fayl formati pul to'lanmaydigan tizim ma'muriga aylantirilgan. JFrog Goober Two haqida 2024-yil fevral oyida xabar berdi. Uning Pickle yuklamasi teskari qobiqni ochdi, uzoqdan buyruq kirishini taklif qilish uchun tashqariga ulanib. Ombor o'chirib tashlandi. JFrog shuningdek, tadqiqotchilarning ishtirokini ko'rsatuvchi dalillarni topdi,

1:02 shuning uchun atributiya noaniq. Keraksiz mehmon hujjatlashtirildi. Haqiqiy qurbonlardan ma'lumotlarni o'g'irlash aniqlanmadi.

Jarayonning qo'li yetadigan sirlar qaysilar?

1:09 Sizning foydalanuvchingiz sifatida ishlaydigan kod bu jarayon o'qiy oladigan har qanday narsani o'qiy oladi. O'rnatilgan bulut kaliti yoki kirish mumkin bo'lgan token potentsial nishonga aylanadi. Uni tashqariga yuborish uchun ham ishlaydigan tarmoq yo'li kerak. Raqamli og'irliklar o'z-o'zidan hech qanday sehrli ma'lumot kuchiga ega emas. Sizning ruxsatlaringiz model kartasining qiziqarli qismini ta'minlaydi. Yana bir eshik bor. Ba'zi modellar sizdan masofaviy kodga ishonishni so'raydi, bu esa ombordan Pythonni avtorizatsiya qiladi. Xavfsiz tensor fayllari o'sha kod yonida turishi mumkin.

1:32 Og'irlik formatini tekshirish bitta kirishni qoplaydi, omborning kodi esa siz unga tashrif buyuruvchi nishonini berishingizni kutmoqda.

Nima uchun yo'qolgan mahalliy yo'l masofaviy modelga aylanishi mumkin?

1:38 Checkmarx Model Confusionni namoyish etdi. Yo'qolgan mahalliy model yo'li mos keladigan nomga ega ommaviy omborga hal etilishi mumkin. Buni masofaviy kod bilan birlashtiring yoqilgan va noto'g'ri paket bajarilishi mumkin. Bu noma'lum kompaniyaning namunasi ishtirokidagi tadqiqot namoyishi edi, bir kun ichida tuzatildi. Yo'qolgan papka uy egasini topdi. ReversingLabs 2025-yil fevral oyida ikkita namunani xabar berdi,

Buzilgan paketlar eski skanerdan qanday qochgan?

1:58 texnikani nullify AI deb atadi. Ikkalasida ham teskari qobiqlar bor edi. Ularning yetti zip paketlash oddiy PyTorch yuklashni blokladi, shuning uchun bu yo'l qazib olish va xavfli seriyalashni talab qildi. Buzilgan Pickle oqimlari skanerning ko'r nuqtasini ham ochib berdi. Hamma posilkani ochishdan oldin muvaffaqiyatsiz skanerlashni tekshirish kerak. Tadqiqotchilarning zararsiz testida, ko'rsatmalar yuklovchi fayl yozdi

2:18 buzilgan qismga yetib, xato ko'tardi. Posilkani ochganingizni, yenotni qo'yib yuborganingizni, keyin esa jo'natish yorlig'i noto'g'ri ekanligini sezganingizni tasavvur qiling. yorlig'i noto'g'ri. Xato xabari ajoyib grammatika va dahshatli vaqtda keladi. Hugging Face xabar qilingan namunalarni yigirma to'rt soat ichida olib tashladi va skanerni o'zgartirdi. Bu aniq topilma tuzatishga sabab bo'ldi. Xavfsizlik skaneri foydali dalildir va har bir skaner xatosini toza hisoblab sog'liqni saqlashning ajoyib saxiy talqini bo'lib qoladi.

2:43 Xavfsiz sensorlar va hozirgi yamalgan yuklovchilarni afzal ko'ring.

Kalitni mehmonning qo'li yetmaydigan joyda nima saqlaydi?

2:46 PyTorch o'zining sukutdagi yuklovchisini ikki nuqta olti versiyasidan boshlab toraytirdi. Maxsus kodni ko'rib chiqing va ko'rib chiqilgan reviziyani bog'lang. Notanish paketlarni shaxsiy kalitlarsiz, izolyatsiyada ishga tushiring, cheklangan tarmoq kirishi bilan. O'rnatilgan ma'lumotlar bilan to'la konteyner nomlar maydonlari bilan sovg'a savati. Bu boshlang'ich jumboqning javobi bor. Yuklashdagi xato bajarilish qayerda to'xtaganini aytadi. Avvalgi ko'rsatmalar allaqachon bajarilgan bo'lishi mumkin.

3:08 Posilkani ochishdan oldin sirlarni uning qo'li yetmaydigan joyda saqlang. Hukm, ichidan.

Nega men buni NEEDS REVIEW deb belgilardim?

3:16 yuklovchi. Bepul yuklab olish model bilan birga kelishi kerak, va mehmonlar ro'yxati mening qarorim bo'lib qolishi kerak. Agar buni o'qishni eshitishdan ko'ra afzal ko'rsangiz, diff har kuni ertalab pochta qutingizga tushadi, daily diff dot dev saytida bepul, havolasi pastda. Va bugungi diff shu. Men Axrisidan Nikoman. Mas'uliyat bilan birlashtiring.

Manbalar

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch