Hugging Face загварын файлууд далд код ажиллуулж болно

Энэ видео юуг хамардаг

• Тоон загварын жин, гүйцэтгэх цуврал, захиалгат репозиторийн код нь өөр өөр зүйл юм.
• JFrog болон ReversingLabs урвуу бүрхүүлийн ачааллыг баримтжуулсан; тэдгээрийн сонгосон тайлангууд нэрлэгдсэн хохирогчдоос итгэмжлэлийг хулгайлсныг тогтоогоогүй байна.
• Checkmarx загварын төөрөгдөл нь алсын загвар болон аюулгүй бус ачаалагчийг шаарддаг судалгааны үзүүлэлт байв.
• Safetensors болон засварласан ачаалагчийг илүүд үзэж, захиалгат кодыг хянаж бэхлэх, танил бус багцуудыг хувийн нууц болон шаардлагагүй сүлжээний хандалтаас тусгаарлах.

Орчуулсан бичлэг

Англи хэл дээрх эх хувилбараас орчуулсан. Боломжтой дуу болон хадмал орчуулгыг YouTube хянадаг.

Загварын татан авалт хэрхэн зочин урьж болох вэ?

0:00 Загварын файл нь зүгээр л дискэн дээрх тоонууд юм. Нэг хортой Hugging Face багцыг ачаалснаар алсын бүрхүүл нээгдсэн, энэ нь орон нутгийн хиймэл оюун ухааны амбицтай тайлбар юм. Ачаалах нь хэрхэн гүйцэтгэл болдог вэ? Энэ нь ямар нууцуудад хүрч чадах вэ? Үүнийг юу зогсоодог вэ? Мөн нэг тааврыг санаарай. Аюултай хэсэг аль хэдийн болсны дараа загвар ачаалахаа болих боломжтой.

0:18 Энэ бол The Daily Diff, дотоод талаас нь. Hugging Face нь машин сургалтын загваруудыг хуваалцах платформ юм, өгөгдлийн багц болон програмууд. Загварын жин нь сурсан тоонууд юм. Репозитори нь тохиргоо болон Python кодыг агуулж болно. Эндхийн аюул нь та үүнийг ачаалах үед таны компьютерт гүйцэтгэх багцлах нь дамждагт оршино. Pickle Python объектыг дахин бүтээх заавартай хамт хадгалдаг.

Ачаалагч илгээмжийн зааврыг хэрхэн ажиллуулдаг вэ?

0:37 Аюулгүй бус ачаалагч эдгээр зааврыг дагаж, задлах явцад функцүүдийг дуудаж болно. Байтуудыг татаж авах нь илгээмжийг таны дискэн дээр тавьдаг. Дэс цувралжуулалт нь үүнийг нээнэ. Хаа нэгтээ, файлын формат нь цалингүй системийн админ болж дэвшсэн байна. JFrog хоёр мянга хорин дөрвөн оны хоёрдугаар сард Goober Two-г мэдээлсэн. Түүний Pickle ачаалал нь урвуу бүрхүүл нээж, алсаас командын хандалтыг санал болгож гадагш холбогдсон. Репозиторийг устгасан. JFrog мөн судлаачдын оролцоог илтгэх баримтуудыг олсон,

1:02 тиймээс хамаарал тодорхойгүй байна. Хүсээгүй зочин баримтжуулагдсан. Бодит хохирогчдоос итгэмжлэлийг хулгайлсан нь тогтоогдоогүй.

Үйл явцын хүрээнд ямар нууцууд байдаг вэ?

1:09 Таны хэрэглэгчийн хувиар ажиллаж байгаа код нь тухайн процесс уншиж чадах бүхнийг уншиж чадна. Холбогдсон үүлэн түлхүүр эсвэл хандах боломжтой токен нь боломжит бай болно. Үүнийг гадагш илгээх нь бас ажиллаж буй сүлжээний маршрутыг шаарддаг. Тоон жин дангаараа ид шидийн итгэмжлэлийн хүчгүй. Таны зөвшөөрөл загварын картын сонирхолтой хэсгийг хангана. Өөр нэг хаалга бий. Зарим загварууд танаас алсын кодыг итгэхийг хүсдэг, энэ нь репозиторийн Python-г зөвшөөрдөг. Аюулгүй тензорын файлууд тухайн кодын хажууд байрлаж болно.

1:32 Жингийн форматыг шалгах нь нэг үүдийг хамардаг бол репозиторийн код танд зочлох тэмдэг өгөхийг хүлээж байна. Checkmarx загварын төөрөгдлийг харуулсан.

Яагаад алга болсон орон нутгийн зам алсын загвар болж хувирах вэ?

1:38 Алга болсон орон нутгийн загварын зам ижил нэртэй олон нийтийн репозиторийг шийдвэрлэж болно. Үүнийг алсын кодтой хослуулснаар, идэвхжүүлсэн үед буруу багц ажиллаж чадна. Энэ нь нэргүй компанийн жишээг хамарсан судалгааны үзүүлэлт байсан, нэг өдрийн дотор засагдсан. Алга болсон хавтас түрээслэгчийг олж авсан. ReversingLabs хоёр мянга хорин таван оны хоёрдугаар сард хоёр жишээг мэдээлсэн, аргыг nullify AI гэж нэрлэсэн.

Эвдэрсэн багцууд хуучин сканнерийг хэрхэн тойрон гарсан бэ?

1:58 Хоёулаа урвуу бүрхүүл агуулсан. Тэдний долоон zip багц ердийн PyTorch ачааллыг хаасан, тиймээс энэ зам нь задаргаа болон аюулгүй бус десериалчлалыг шаардсан. Эвдэрсэн Pickle урсгалууд мөн сканнерийн сохор цэгийг илрүүлсэн. Амжилтгүй сканнердалт нь хэн нэгэн илгээмжийг нээхээс өмнө шалгах шаардлагатай. Судлаачдын хоргүй туршилтанд зааврууд ачаалагч эвдэрсэн хэсэгт хүрч алдаа гаргахаас өмнө файлыг бичсэн. Илгээмжийг нээж, агнуурыг суллаж, дараа нь тээврийн шошго хүчингүй болохыг анзаарч байна гэж төсөөлөөд үз дээ.

2:18 Алдааны зурвас маш сайн дүрмээр боловч маш таагүй цаг хугацаанд ирдэг. Hugging Face мэдээлэгдсэн жишээнүүдийг хорин дөрвөн цагийн дотор устгаж, сканнерийг өөрчилсөн. Энэ тодорхой олдвор засварыг өдөөсөн. Аюулгүй байдлын сканнер нь ашигтай нотолгоо бөгөөд сканнерийн алдаа бүрийг эрүүл мэндийн цэвэр тайлан гэж үзэх нь алдааны гайхалтай өгөөмөр тайлбар хэвээр байна. Аюулгүй тензор болон одоогийн засварлагдсан ачаалагчийг илүүд үзээрэй. PyTorch хоёр цэгэн зургаа хувилбараас эхлэн үндсэн ачаалагчийг нарийсгасан. Захиалгат кодыг хянаж, хянасан хувилбарыг бэхлээрэй. Танил бус багцуудыг хувийн түлхүүргүйгээр тусгаарлаж ажиллуулах,

2:43 хязгаарлагдмал сүлжээний хандалттай.

Түлхүүрийг зочны хүрээнээс гадуур юу хадгалдаг вэ?

2:46 Холбогдсон итгэмжлэлээр дүүрэн сав нь нэрний талбартай бэлгийн сагс юм. Энэ нээлтийн таавар хариулттай. Ачаалах алдаа нь гүйцэтгэл хаана зогссоныг танд хэлдэг. Өмнөх зааврууд аль хэдийн ажилласан байж болно. Илгээмжийг нээхээс өмнө нууцуудыг түүний хүрээнээс гадуур байлга. Дүгнэлт, дотоод талаас нь. ачаалагч. Үнэгүй татан авалт загвартай байх ёстой бөгөөд зочдын жагсаалт миний шийдвэр хэвээр байх ёстой. Хэрэв та үүнийг сонсохоос илүү уншихыг хүсвэл, diff нь өдөр бүр өглөө таны и-мэйлд үнэгүй ирнэ. daily diff dot dev хаягаар, холбоос доор байна.

3:08 Мөн өнөөдрийн diff энэ байна. Би Axrisi-гийн Нико байна.

Би үүнд яагаад NEEDS REVIEW гэж тэмдэглэх ёстой вэ?

3:16 Хариуцлагатай нэгдээрэй. loader. The free download should come with a model, and the guest list should remain my decision. If you'd rather read this than hear me say it, the diff lands in your inbox every morning, free at the daily diff dot dev, link below. I'm Niko from Axrisi. Merge responsibly.

Эх сурвалжууд

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch