# ໄຟລ໌ຕົວແບບ Hugging Face ສາມາດດໍາເນີນການລະຫັດທີ່ເຊື່ອງໄວ້

Published: 2026-10-12

ແພັກເກດຕົວແບບທີ່ເປັນອັນຕະລາຍສາມາດປະຕິບັດລະຫັດໃນລະຫວ່າງການໂຫຼດທີ່ບໍ່ປອດໄພ. ສາມຕົວຢ່າງທີ່ໄດ້ບັນທຶກໄວ້ ອະທິບາຍ Pickle reverse shells, ພຶດຕິກໍາຂອງເຄື່ອງສະແກນໄຟລ໌ທີ່ເສຍຫາຍ ແລະ ການສັບສົນຊື່ຕົວແບບທີ່ໄດ້ສະແດງໃຫ້ເຫັນໂດຍການຄົ້ນຄວ້າ, ໂດຍມີຂໍ້ຈຳກັດທີ່ຊັດເຈນກ່ຽວກັບການຮຽກຮ້ອງການລັກຂໍ້ມູນປະຈຳຕົວ.

Canonical: https://thedailydiff.dev/lo/video/2026-10-12-huggingface-model-malware/

## ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

- ນໍ້າໜັກຕົວແບບຕົວເລກ, ການຈັດລຽງທີ່ສາມາດປະຕິບັດໄດ້ ແລະ ລະຫັດບ່ອນເກັບຂໍ້ມູນແບບກຳນົດເອງແມ່ນສິ່ງທີ່ແຕກຕ່າງກັນ.
- JFrog ແລະ ReversingLabs ໄດ້ບັນທຶກເພໂຫຼດ reverse-shell; ບົດລາຍງານທີ່ເລືອກຂອງພວກມັນບໍ່ໄດ້ຢືນຢັນການລັກຂໍ້ມູນປະຈຳຕົວຈາກຜູ້ຖືກເຄາະຮ້າຍທີ່ມີຊື່.
- Checkmarx Model Confusion ແມ່ນການສະແດງການຄົ້ນຄວ້າທີ່ຮຽກຮ້ອງຕົວແບບໄລຍະໄກທີ່ກົງກັນ ແລະ ການໂຫຼດທີ່ບໍ່ປອດໄພ.
- ຄວນໃຊ້ safetensors ແລະ loaders ທີ່ໄດ້ຖືກແກ້ໄຂແລ້ວ, ກວດສອບ ແລະປັກໝຸດລະຫັດທີ່ກຳນົດເອງ, ແລະແຍກແພັກເກດທີ່ບໍ່ຄຸ້ນເຄີຍອອກຈາກຄວາມລັບສ່ວນຕົວ ແລະ ການເຂົ້າເຖິງເຄືອຂ່າຍທີ່ບໍ່ຈຳເປັນ.

## ບົດ

- 0:00 ການດາວໂຫຼດຕົວແບບສາມາດເຊື້ອເຊີນແຂກໄດ້ແນວໃດ?
- 0:35 loader ດໍາເນີນການຄໍາແນະນໍາຂອງພັດສະດຸແນວໃດ?
- 1:09 ຄວາມລັບໃດທີ່ຢູ່ໃນການເຂົ້າເຖິງຂອງຂະບວນການ?
- 1:38 ເປັນຫຍັງເສັ້ນທາງທ້ອງຖິ່ນທີ່ຂາດຫາຍໄປຈຶ່ງສາມາດກາຍເປັນຕົວແບບໄລຍະໄກ?
- 1:55 ແພັກເກດທີ່ເສຍຫາຍຫຼົບໜີເຄື່ອງສະແກນເກົ່າໄດ້ແນວໃດ?
- 2:44 ສິ່ງໃດທີ່ຮັກສາກະແຈໄວ້ນອກການເຂົ້າເຖິງຂອງແຂກ?
- 3:12 ເປັນຫຍັງຂ້ອຍຈຶ່ງປະທັບຕາອັນນີ້ວ່າຕ້ອງການການກວດສອບ?

## ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

### ການດາວໂຫຼດຕົວແບບສາມາດເຊື້ອເຊີນແຂກໄດ້ແນວໃດ?

0:00 ໄຟລ໌ຕົວແບບແມ່ນພຽງແຕ່ຕົວເລກຢູ່ໃນແຜ່ນ. ການໂຫຼດແພັກເກດ Hugging Face ທີ່ເປັນອັນຕະລາຍອັນໜຶ່ງໄດ້ເປີດ shell ໄລຍະໄກ, ເຊິ່ງແມ່ນການຕີຄວາມໝາຍທີ່ທະເຍີທະຍານຂອງ AI ທ້ອງຖິ່ນ. ການໂຫຼດກາຍເປັນການປະຕິບັດໄດ້ແນວໃດ? ມັນສາມາດເຂົ້າເຖິງຄວາມລັບໃດໄດ້? ອັນໃດທີ່ຢຸດມັນແທ້? ແລະຈື່ຈໍາປິດສະໜາອັນໜຶ່ງໄວ້. ຕົວແບບສາມາດໂຫຼດບໍ່ສໍາເລັດຫຼັງຈາກພາກສ່ວນອັນຕະລາຍໄດ້ເກີດຂຶ້ນແລ້ວ.

0:18 ນີ້ແມ່ນ The Daily Diff, ຢູ່ພາຍໃຕ້ຜ້າຄຸມ. Hugging Face ແມ່ນແພລດຟອມສໍາລັບການແບ່ງປັນຕົວແບບການຮຽນຮູ້ເຄື່ອງຈັກ, ຊຸດຂໍ້ມູນ ແລະ ແອັບພລິເຄຊັນ. ນໍ້າໜັກຕົວແບບແມ່ນຕົວເລກທີ່ຮຽນຮູ້ມາ. ບ່ອນເກັບຂໍ້ມູນຍັງສາມາດປະກອບມີການຕັ້ງຄ່າ ແລະ ລະຫັດ Python. ອັນຕະລາຍຢູ່ທີ່ນີ້ແມ່ນການບັນຈຸທີ່ສາມາດປະຕິບັດໄດ້ຂ້າມເຂົ້າໄປໃນຄອມພິວເຕີຂອງທ່ານເມື່ອທ່ານ ໂຫຼດມັນ. Pickle ເກັບວັດຖຸ Python ພ້ອມດ້ວຍຄໍາແນະນໍາສໍາລັບການສ້າງຄືນໃຫມ່.

### loader ດໍາເນີນການຄໍາແນະນໍາຂອງພັດສະດຸແນວໃດ?

0:37 loader ທີ່ບໍ່ປອດໄພສາມາດປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານັ້ນ ແລະ ເອີ້ນຟັງຊັນໃນຂະນະທີ່ ແຍກແພັກເກດ. ການດາວໂຫຼດໄບຕ໌ເຮັດໃຫ້ພັດສະດຸຢູ່ໃນແຜ່ນຂອງທ່ານ. ການ deserialize ເປີດມັນ. ບ່ອນໃດບ່ອນໜຶ່ງ, ຮູບແບບໄຟລ໌ໄດ້ຖືກສົ່ງເສີມໃຫ້ເປັນຜູ້ບໍລິຫານລະບົບທີ່ບໍ່ໄດ້ຮັບຄ່າຈ້າງ. JFrog ລາຍງານ Goober Two ໃນເດືອນກຸມພາ 2024. ເພໂຫຼດ Pickle ຂອງມັນໄດ້ເປີດ reverse shell, ເຊື່ອມຕໍ່ອອກໄປເພື່ອນໍາສະເໜີການເຂົ້າເຖິງຄໍາສັ່ງໄລຍະໄກ. ບ່ອນເກັບຂໍ້ມູນຖືກລຶບອອກແລ້ວ. JFrog ຍັງພົບເຫັນຂໍ້ຄຶດທີ່ຊີ້ໃຫ້ເຫັນເຖິງການມີສ່ວນຮ່ວມຂອງນັກຄົ້ນຄວ້າ,

1:02 ດັ່ງນັ້ນການລະບຸຕົວຕົນແມ່ນບໍ່ແນ່ນອນ. ແຂກທີ່ບໍ່ຕ້ອງການໄດ້ຖືກບັນທຶກໄວ້. ການລັກຂໍ້ມູນປະຈຳຕົວຈາກຜູ້ຖືກເຄາະຮ້າຍຕົວຈິງບໍ່ໄດ້ຖືກຢືນຢັນ.

### ຄວາມລັບໃດທີ່ຢູ່ໃນການເຂົ້າເຖິງຂອງຂະບວນການ?

1:09 ລະຫັດທີ່ເຮັດວຽກເປັນຜູ້ໃຊ້ຂອງທ່ານສາມາດອ່ານສິ່ງທີ່ຂະບວນການນັ້ນສາມາດອ່ານໄດ້. ກະແຈຄລາວທີ່ຕິດຢູ່ ຫຼື ໂທເຄັນທີ່ສາມາດເຂົ້າເຖິງໄດ້ກາຍເປັນເປົ້າໝາຍທີ່ເປັນໄປໄດ້. ການສົ່ງມັນອອກໄປຍັງຕ້ອງການເສັ້ນທາງເຄືອຂ່າຍທີ່ເຮັດວຽກ. ນໍ້າໜັກຕົວເລກຢ່າງດຽວບໍ່ມີພະລັງງານຄວາມລັບພິເສດ. ສິດອະນຸຍາດຂອງທ່ານສະໜອງສ່ວນທີ່ໜ້າສົນໃຈຂອງບັດຕົວແບບ. ມີປະຕູອີກບານໜຶ່ງ. ບາງຕົວແບບຮ້ອງຂໍໃຫ້ທ່ານໄວ້ວາງໃຈລະຫັດໄລຍະໄກ, ເຊິ່ງອະນຸຍາດໃຫ້ Python ຈາກ ບ່ອນເກັບຂໍ້ມູນ. ໄຟລ໌ safe tensor ສາມາດຢູ່ຄຽງຂ້າງລະຫັດນັ້ນໄດ້.

1:32 ການກວດສອບຮູບແບບນໍ້າໜັກກວມເອົາທາງເຂົ້າອັນໜຶ່ງ, ໃນຂະນະທີ່ລະຫັດຂອງບ່ອນເກັບຂໍ້ມູນຍັງ ລໍຖ້າໃຫ້ທ່ານມອບປ້າຍຢ້ຽມຢາມໃຫ້ມັນ.

### ເປັນຫຍັງເສັ້ນທາງທ້ອງຖິ່ນທີ່ຂາດຫາຍໄປຈຶ່ງສາມາດກາຍເປັນຕົວແບບໄລຍະໄກ?

1:38 Checkmarx ໄດ້ສະແດງ Model Confusion. ເສັ້ນທາງຕົວແບບທ້ອງຖິ່ນທີ່ຂາດຫາຍໄປສາມາດແກ້ໄຂໄດ້ທີ່ບ່ອນເກັບຂໍ້ມູນສາທາລະນະທີ່ມີຊື່ທີ່ກົງກັນ. ລວມສິ່ງນັ້ນກັບລະຫັດໄລຍະໄກ ທີ່ເປີດໃຊ້ງານ, ແລະແພັກເກດທີ່ຜິດພາດສາມາດຖືກປະຕິບັດ. ນີ້ແມ່ນການສະແດງການຄົ້ນຄວ້າທີ່ກ່ຽວຂ້ອງກັບຕົວຢ່າງຂອງບໍລິສັດທີ່ບໍ່ລະບຸຊື່, ທີ່ຖືກແກ້ໄຂພາຍໃນໜຶ່ງມື້. ໂຟນເດີທີ່ຂາດຫາຍໄປໄດ້ຮັບເຈົ້າຂອງ. ReversingLabs ລາຍງານສອງຕົວຢ່າງໃນເດືອນກຸມພາ 2025,

### ແພັກເກດທີ່ເສຍຫາຍຫຼົບໜີເຄື່ອງສະແກນເກົ່າໄດ້ແນວໃດ?

1:58 ເອີ້ນວ່າເທັກນິກ nullify AI. ທັງສອງມີ reverse shells. ການບັນຈຸ seven zip ຂອງພວກມັນໄດ້ບລັອກການໂຫຼດ PyTorch ທໍາມະດາ, ດັ່ງນັ້ນເສັ້ນທາງນີ້ຮຽກຮ້ອງໃຫ້ມີການສະກັດ ແລະ ການ deserialization ທີ່ບໍ່ປອດໄພ. ກະແສ Pickle ທີ່ເສຍຫາຍຍັງໄດ້ເປີດເຜີຍຈຸດບອດຂອງເຄື່ອງສະແກນ. ການສະແກນທີ່ລົ້ມເຫຼວສົມຄວນໄດ້ຮັບການສືບສວນກ່ອນທີ່ໃຜຈະເປີດພັດສະດຸ. ໃນການທົດສອບທີ່ບໍ່ເປັນອັນຕະລາຍຂອງນັກຄົ້ນຄວ້າ, ຄໍາແນະນໍາ ໄດ້ຂຽນໄຟລ໌ກ່ອນທີ່ loader

2:18 ຈະໄປເຖິງສ່ວນທີ່ເສຍຫາຍ ແລະ ເກີດຂໍ້ຜິດພາດ. ລອງນຶກພາບເຖິງການເປີດພັດສະດຸ, ປ່ອຍແຮັກຄູນອອກມາ, ແລ້ວຈຶ່ງສັງເກດເຫັນວ່າປ້າຍກໍາກັບການຂົນສົ່ງບໍ່ຖືກຕ້ອງ. ປ້າຍກຳກັບການຂົນສົ່ງບໍ່ຖືກຕ້ອງ. ຂໍ້ຄວາມຜິດພາດມາພ້ອມກັບໄວຍາກອນທີ່ດີເລີດ ແລະ ເວລາທີ່ບໍ່ເໝາະສົມ. Hugging Face ໄດ້ລຶບຕົວຢ່າງທີ່ຖືກລາຍງານພາຍໃນ 24 ຊົ່ວໂມງ ແລະ ປ່ຽນ ເຄື່ອງສະແກນ. ການຄົ້ນພົບສະເພາະນັ້ນໄດ້ກະຕຸ້ນໃຫ້ມີການແກ້ໄຂ. ການສະແກນຄວາມປອດໄພແມ່ນຫຼັກຖານທີ່ມີປະໂຫຍດ, ແລະການປະຕິບັດທຸກຂໍ້ຜິດພາດຂອງເຄື່ອງສະແກນເປັນການ ຢືນຢັນວ່າປອດໄພຍັງຄົງເປັນການຕີຄວາມໝາຍທີ່ໃຈກວ້າງຢ່າງບໍ່ໜ້າເຊື່ອຂອງຄວາມລົ້ມເຫຼວ.

2:43 ຄວນໃຊ້ safe tensors ແລະ loaders ທີ່ໄດ້ຮັບການແກ້ໄຂໃນປັດຈຸບັນ.

### ສິ່ງໃດທີ່ຮັກສາກະແຈໄວ້ນອກການເຂົ້າເຖິງຂອງແຂກ?

2:46 PyTorch ໄດ້ຈໍາກັດ loader ເລີ່ມຕົ້ນຂອງມັນເລີ່ມຕົ້ນທີ່ເວີຊັນ 2.6. ກວດສອບລະຫັດທີ່ກຳນົດເອງ ແລະ ປັກໝຸດການປັບປຸງທີ່ໄດ້ກວດສອບແລ້ວ. ດໍາເນີນການແພັກເກດທີ່ບໍ່ຄຸ້ນເຄີຍແບບແຍກຕ່າງຫາກໂດຍບໍ່ມີກະແຈສ່ວນຕົວ, ດ້ວຍການເຂົ້າເຖິງເຄືອຂ່າຍທີ່ຈໍາກັດ. ຕູ້ຄອນເທນເນີທີ່ເຕັມໄປດ້ວຍຂໍ້ມູນປະຈຳຕົວທີ່ຖືກຕິດຢູ່ແມ່ນກະຕ່າຂອງຂວັນທີ່ມີ namespaces. ປິດສະໜາເປີດນັ້ນມີຄໍາຕອບ. ຄວາມລົ້ມເຫຼວໃນການໂຫຼດບອກທ່ານວ່າການປະຕິບັດຢຸດຢູ່ໃສ. ຄໍາແນະນໍາກ່ອນໜ້ານີ້ອາດຈະໄດ້ດໍາເນີນການແລ້ວ.

3:08 ຮັກສາຄວາມລັບໄວ້ນອກການເຂົ້າເຖິງຂອງມັນກ່ອນທີ່ຈະເປີດພັດສະດຸ. ຄຳຕັດສິນ, ຢູ່ພາຍໃຕ້ຜ້າຄຸມ.

### ເປັນຫຍັງຂ້ອຍຈຶ່ງປະທັບຕາອັນນີ້ວ່າຕ້ອງການການກວດສອບ?

3:16 loader. ການດາວໂຫຼດຟຣີຄວນມາພ້ອມກັບຕົວແບບ, ແລະລາຍຊື່ແຂກຄວນ ຍັງຄົງເປັນການຕັດສິນໃຈຂອງຂ້ອຍ. ຖ້າທ່ານຕ້ອງການອ່ານສິ່ງນີ້ຫຼາຍກວ່າທີ່ຈະໄດ້ຍິນຂ້ອຍເວົ້າ, The Daily Diff ຈະສົ່ງໄປທີ່ກ່ອງຈົດໝາຍຂອງທ່ານ ທຸກໆເຊົ້າ, ຟຣີທີ່ thedailydiff.dev, ລິ້ງຢູ່ລຸ່ມນີ້. ແລະນັ້ນຄື The Daily Diff ສໍາລັບມື້ນີ້. ຂ້ອຍຄື Niko ຈາກ Axrisi. ລວມກັນຢ່າງມີຄວາມຮັບຜິດຊອບ.

## ແຫຼ່ງຂໍ້ມູນ

- [Data Scientists Targeted by Malicious Hugging Face ML Models with Silent Backdoor](https://jfrog.com/blog/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor/) — JFrog
- [Malicious ML models discovered on Hugging Face platform](https://www.reversinglabs.com/blog/rl-identifies-malware-ml-model-hosted-on-hugging-face) — ReversingLabs
- [AI Model Confusion: An LLM/AI Model Supply Chain Attack](https://checkmarx.com/zero-post/hugs-from-strangers-ai-model-confusion-supply-chain-attack/) — Checkmarx Zero
- [Pickle Scanning](https://huggingface.co/docs/hub/en/security-pickle) — Hugging Face
- [Safetensors](https://huggingface.co/docs/safetensors/en/index) — Hugging Face
- [Loading custom models](https://huggingface.co/docs/transformers/en/models) — Hugging Face
- [Serialization semantics](https://docs.pytorch.org/docs/2.14/notes/serialization.html) — PyTorch