ໄຟລ໌ຕົວແບບ Hugging Face ສາມາດດໍາເນີນການລະຫັດທີ່ເຊື່ອງໄວ້

ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

• ນໍ້າໜັກຕົວແບບຕົວເລກ, ການຈັດລຽງທີ່ສາມາດປະຕິບັດໄດ້ ແລະ ລະຫັດບ່ອນເກັບຂໍ້ມູນແບບກຳນົດເອງແມ່ນສິ່ງທີ່ແຕກຕ່າງກັນ.
• JFrog ແລະ ReversingLabs ໄດ້ບັນທຶກເພໂຫຼດ reverse-shell; ບົດລາຍງານທີ່ເລືອກຂອງພວກມັນບໍ່ໄດ້ຢືນຢັນການລັກຂໍ້ມູນປະຈຳຕົວຈາກຜູ້ຖືກເຄາະຮ້າຍທີ່ມີຊື່.
• Checkmarx Model Confusion ແມ່ນການສະແດງການຄົ້ນຄວ້າທີ່ຮຽກຮ້ອງຕົວແບບໄລຍະໄກທີ່ກົງກັນ ແລະ ການໂຫຼດທີ່ບໍ່ປອດໄພ.
• ຄວນໃຊ້ safetensors ແລະ loaders ທີ່ໄດ້ຖືກແກ້ໄຂແລ້ວ, ກວດສອບ ແລະປັກໝຸດລະຫັດທີ່ກຳນົດເອງ, ແລະແຍກແພັກເກດທີ່ບໍ່ຄຸ້ນເຄີຍອອກຈາກຄວາມລັບສ່ວນຕົວ ແລະ ການເຂົ້າເຖິງເຄືອຂ່າຍທີ່ບໍ່ຈຳເປັນ.

ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

ການດາວໂຫຼດຕົວແບບສາມາດເຊື້ອເຊີນແຂກໄດ້ແນວໃດ?

0:00 ໄຟລ໌ຕົວແບບແມ່ນພຽງແຕ່ຕົວເລກຢູ່ໃນແຜ່ນ. ການໂຫຼດແພັກເກດ Hugging Face ທີ່ເປັນອັນຕະລາຍອັນໜຶ່ງໄດ້ເປີດ shell ໄລຍະໄກ, ເຊິ່ງແມ່ນການຕີຄວາມໝາຍທີ່ທະເຍີທະຍານຂອງ AI ທ້ອງຖິ່ນ. ການໂຫຼດກາຍເປັນການປະຕິບັດໄດ້ແນວໃດ? ມັນສາມາດເຂົ້າເຖິງຄວາມລັບໃດໄດ້? ອັນໃດທີ່ຢຸດມັນແທ້? ແລະຈື່ຈໍາປິດສະໜາອັນໜຶ່ງໄວ້. ຕົວແບບສາມາດໂຫຼດບໍ່ສໍາເລັດຫຼັງຈາກພາກສ່ວນອັນຕະລາຍໄດ້ເກີດຂຶ້ນແລ້ວ.

0:18 ນີ້ແມ່ນ The Daily Diff, ຢູ່ພາຍໃຕ້ຜ້າຄຸມ. Hugging Face ແມ່ນແພລດຟອມສໍາລັບການແບ່ງປັນຕົວແບບການຮຽນຮູ້ເຄື່ອງຈັກ, ຊຸດຂໍ້ມູນ ແລະ ແອັບພລິເຄຊັນ. ນໍ້າໜັກຕົວແບບແມ່ນຕົວເລກທີ່ຮຽນຮູ້ມາ. ບ່ອນເກັບຂໍ້ມູນຍັງສາມາດປະກອບມີການຕັ້ງຄ່າ ແລະ ລະຫັດ Python. ອັນຕະລາຍຢູ່ທີ່ນີ້ແມ່ນການບັນຈຸທີ່ສາມາດປະຕິບັດໄດ້ຂ້າມເຂົ້າໄປໃນຄອມພິວເຕີຂອງທ່ານເມື່ອທ່ານ ໂຫຼດມັນ. Pickle ເກັບວັດຖຸ Python ພ້ອມດ້ວຍຄໍາແນະນໍາສໍາລັບການສ້າງຄືນໃຫມ່.

loader ດໍາເນີນການຄໍາແນະນໍາຂອງພັດສະດຸແນວໃດ?

0:37 loader ທີ່ບໍ່ປອດໄພສາມາດປະຕິບັດຕາມຄໍາແນະນໍາເຫຼົ່ານັ້ນ ແລະ ເອີ້ນຟັງຊັນໃນຂະນະທີ່ ແຍກແພັກເກດ. ການດາວໂຫຼດໄບຕ໌ເຮັດໃຫ້ພັດສະດຸຢູ່ໃນແຜ່ນຂອງທ່ານ. ການ deserialize ເປີດມັນ. ບ່ອນໃດບ່ອນໜຶ່ງ, ຮູບແບບໄຟລ໌ໄດ້ຖືກສົ່ງເສີມໃຫ້ເປັນຜູ້ບໍລິຫານລະບົບທີ່ບໍ່ໄດ້ຮັບຄ່າຈ້າງ. JFrog ລາຍງານ Goober Two ໃນເດືອນກຸມພາ 2024. ເພໂຫຼດ Pickle ຂອງມັນໄດ້ເປີດ reverse shell, ເຊື່ອມຕໍ່ອອກໄປເພື່ອນໍາສະເໜີການເຂົ້າເຖິງຄໍາສັ່ງໄລຍະໄກ. ບ່ອນເກັບຂໍ້ມູນຖືກລຶບອອກແລ້ວ. JFrog ຍັງພົບເຫັນຂໍ້ຄຶດທີ່ຊີ້ໃຫ້ເຫັນເຖິງການມີສ່ວນຮ່ວມຂອງນັກຄົ້ນຄວ້າ,

1:02 ດັ່ງນັ້ນການລະບຸຕົວຕົນແມ່ນບໍ່ແນ່ນອນ. ແຂກທີ່ບໍ່ຕ້ອງການໄດ້ຖືກບັນທຶກໄວ້. ການລັກຂໍ້ມູນປະຈຳຕົວຈາກຜູ້ຖືກເຄາະຮ້າຍຕົວຈິງບໍ່ໄດ້ຖືກຢືນຢັນ.

ຄວາມລັບໃດທີ່ຢູ່ໃນການເຂົ້າເຖິງຂອງຂະບວນການ?

1:09 ລະຫັດທີ່ເຮັດວຽກເປັນຜູ້ໃຊ້ຂອງທ່ານສາມາດອ່ານສິ່ງທີ່ຂະບວນການນັ້ນສາມາດອ່ານໄດ້. ກະແຈຄລາວທີ່ຕິດຢູ່ ຫຼື ໂທເຄັນທີ່ສາມາດເຂົ້າເຖິງໄດ້ກາຍເປັນເປົ້າໝາຍທີ່ເປັນໄປໄດ້. ການສົ່ງມັນອອກໄປຍັງຕ້ອງການເສັ້ນທາງເຄືອຂ່າຍທີ່ເຮັດວຽກ. ນໍ້າໜັກຕົວເລກຢ່າງດຽວບໍ່ມີພະລັງງານຄວາມລັບພິເສດ. ສິດອະນຸຍາດຂອງທ່ານສະໜອງສ່ວນທີ່ໜ້າສົນໃຈຂອງບັດຕົວແບບ. ມີປະຕູອີກບານໜຶ່ງ. ບາງຕົວແບບຮ້ອງຂໍໃຫ້ທ່ານໄວ້ວາງໃຈລະຫັດໄລຍະໄກ, ເຊິ່ງອະນຸຍາດໃຫ້ Python ຈາກ ບ່ອນເກັບຂໍ້ມູນ. ໄຟລ໌ safe tensor ສາມາດຢູ່ຄຽງຂ້າງລະຫັດນັ້ນໄດ້.

1:32 ການກວດສອບຮູບແບບນໍ້າໜັກກວມເອົາທາງເຂົ້າອັນໜຶ່ງ, ໃນຂະນະທີ່ລະຫັດຂອງບ່ອນເກັບຂໍ້ມູນຍັງ ລໍຖ້າໃຫ້ທ່ານມອບປ້າຍຢ້ຽມຢາມໃຫ້ມັນ.

ເປັນຫຍັງເສັ້ນທາງທ້ອງຖິ່ນທີ່ຂາດຫາຍໄປຈຶ່ງສາມາດກາຍເປັນຕົວແບບໄລຍະໄກ?

1:38 Checkmarx ໄດ້ສະແດງ Model Confusion. ເສັ້ນທາງຕົວແບບທ້ອງຖິ່ນທີ່ຂາດຫາຍໄປສາມາດແກ້ໄຂໄດ້ທີ່ບ່ອນເກັບຂໍ້ມູນສາທາລະນະທີ່ມີຊື່ທີ່ກົງກັນ. ລວມສິ່ງນັ້ນກັບລະຫັດໄລຍະໄກ ທີ່ເປີດໃຊ້ງານ, ແລະແພັກເກດທີ່ຜິດພາດສາມາດຖືກປະຕິບັດ. ນີ້ແມ່ນການສະແດງການຄົ້ນຄວ້າທີ່ກ່ຽວຂ້ອງກັບຕົວຢ່າງຂອງບໍລິສັດທີ່ບໍ່ລະບຸຊື່, ທີ່ຖືກແກ້ໄຂພາຍໃນໜຶ່ງມື້. ໂຟນເດີທີ່ຂາດຫາຍໄປໄດ້ຮັບເຈົ້າຂອງ. ReversingLabs ລາຍງານສອງຕົວຢ່າງໃນເດືອນກຸມພາ 2025,

ແພັກເກດທີ່ເສຍຫາຍຫຼົບໜີເຄື່ອງສະແກນເກົ່າໄດ້ແນວໃດ?

1:58 ເອີ້ນວ່າເທັກນິກ nullify AI. ທັງສອງມີ reverse shells. ການບັນຈຸ seven zip ຂອງພວກມັນໄດ້ບລັອກການໂຫຼດ PyTorch ທໍາມະດາ, ດັ່ງນັ້ນເສັ້ນທາງນີ້ຮຽກຮ້ອງໃຫ້ມີການສະກັດ ແລະ ການ deserialization ທີ່ບໍ່ປອດໄພ. ກະແສ Pickle ທີ່ເສຍຫາຍຍັງໄດ້ເປີດເຜີຍຈຸດບອດຂອງເຄື່ອງສະແກນ. ການສະແກນທີ່ລົ້ມເຫຼວສົມຄວນໄດ້ຮັບການສືບສວນກ່ອນທີ່ໃຜຈະເປີດພັດສະດຸ. ໃນການທົດສອບທີ່ບໍ່ເປັນອັນຕະລາຍຂອງນັກຄົ້ນຄວ້າ, ຄໍາແນະນໍາ ໄດ້ຂຽນໄຟລ໌ກ່ອນທີ່ loader

2:18 ຈະໄປເຖິງສ່ວນທີ່ເສຍຫາຍ ແລະ ເກີດຂໍ້ຜິດພາດ. ລອງນຶກພາບເຖິງການເປີດພັດສະດຸ, ປ່ອຍແຮັກຄູນອອກມາ, ແລ້ວຈຶ່ງສັງເກດເຫັນວ່າປ້າຍກໍາກັບການຂົນສົ່ງບໍ່ຖືກຕ້ອງ. ປ້າຍກຳກັບການຂົນສົ່ງບໍ່ຖືກຕ້ອງ. ຂໍ້ຄວາມຜິດພາດມາພ້ອມກັບໄວຍາກອນທີ່ດີເລີດ ແລະ ເວລາທີ່ບໍ່ເໝາະສົມ. Hugging Face ໄດ້ລຶບຕົວຢ່າງທີ່ຖືກລາຍງານພາຍໃນ 24 ຊົ່ວໂມງ ແລະ ປ່ຽນ ເຄື່ອງສະແກນ. ການຄົ້ນພົບສະເພາະນັ້ນໄດ້ກະຕຸ້ນໃຫ້ມີການແກ້ໄຂ. ການສະແກນຄວາມປອດໄພແມ່ນຫຼັກຖານທີ່ມີປະໂຫຍດ, ແລະການປະຕິບັດທຸກຂໍ້ຜິດພາດຂອງເຄື່ອງສະແກນເປັນການ ຢືນຢັນວ່າປອດໄພຍັງຄົງເປັນການຕີຄວາມໝາຍທີ່ໃຈກວ້າງຢ່າງບໍ່ໜ້າເຊື່ອຂອງຄວາມລົ້ມເຫຼວ.

2:43 ຄວນໃຊ້ safe tensors ແລະ loaders ທີ່ໄດ້ຮັບການແກ້ໄຂໃນປັດຈຸບັນ.

ສິ່ງໃດທີ່ຮັກສາກະແຈໄວ້ນອກການເຂົ້າເຖິງຂອງແຂກ?

2:46 PyTorch ໄດ້ຈໍາກັດ loader ເລີ່ມຕົ້ນຂອງມັນເລີ່ມຕົ້ນທີ່ເວີຊັນ 2.6. ກວດສອບລະຫັດທີ່ກຳນົດເອງ ແລະ ປັກໝຸດການປັບປຸງທີ່ໄດ້ກວດສອບແລ້ວ. ດໍາເນີນການແພັກເກດທີ່ບໍ່ຄຸ້ນເຄີຍແບບແຍກຕ່າງຫາກໂດຍບໍ່ມີກະແຈສ່ວນຕົວ, ດ້ວຍການເຂົ້າເຖິງເຄືອຂ່າຍທີ່ຈໍາກັດ. ຕູ້ຄອນເທນເນີທີ່ເຕັມໄປດ້ວຍຂໍ້ມູນປະຈຳຕົວທີ່ຖືກຕິດຢູ່ແມ່ນກະຕ່າຂອງຂວັນທີ່ມີ namespaces. ປິດສະໜາເປີດນັ້ນມີຄໍາຕອບ. ຄວາມລົ້ມເຫຼວໃນການໂຫຼດບອກທ່ານວ່າການປະຕິບັດຢຸດຢູ່ໃສ. ຄໍາແນະນໍາກ່ອນໜ້ານີ້ອາດຈະໄດ້ດໍາເນີນການແລ້ວ.

3:08 ຮັກສາຄວາມລັບໄວ້ນອກການເຂົ້າເຖິງຂອງມັນກ່ອນທີ່ຈະເປີດພັດສະດຸ. ຄຳຕັດສິນ, ຢູ່ພາຍໃຕ້ຜ້າຄຸມ.

ເປັນຫຍັງຂ້ອຍຈຶ່ງປະທັບຕາອັນນີ້ວ່າຕ້ອງການການກວດສອບ?

3:16 loader. ການດາວໂຫຼດຟຣີຄວນມາພ້ອມກັບຕົວແບບ, ແລະລາຍຊື່ແຂກຄວນ ຍັງຄົງເປັນການຕັດສິນໃຈຂອງຂ້ອຍ. ຖ້າທ່ານຕ້ອງການອ່ານສິ່ງນີ້ຫຼາຍກວ່າທີ່ຈະໄດ້ຍິນຂ້ອຍເວົ້າ, The Daily Diff ຈະສົ່ງໄປທີ່ກ່ອງຈົດໝາຍຂອງທ່ານ ທຸກໆເຊົ້າ, ຟຣີທີ່ thedailydiff.dev, ລິ້ງຢູ່ລຸ່ມນີ້. ແລະນັ້ນຄື The Daily Diff ສໍາລັບມື້ນີ້. ຂ້ອຍຄື Niko ຈາກ Axrisi. ລວມກັນຢ່າງມີຄວາມຮັບຜິດຊອບ.

ແຫຼ່ງຂໍ້ມູນ

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch