# Hugging Face моделдик файлдары жашыруун кодду иштете алат

Published: 2026-10-12

Зыяндуу моделдик пакеттер кооптуу жүктөөнүн жүрүшүндө кодду аткара алат. Үч документтештирилген мисал Pickle тескери кабыкчаларын, бузулган файлдарды сканерлөөчү жүрүм-турумун жана изилдөө менен далилденген модель-аталыштын башаламандыгын түшүндүрөт, бул аккаунт маалыматтарын уурдоо дооматтарына так чектөөлөр менен коштолот.

Canonical: https://thedailydiff.dev/ky/video/2026-10-12-huggingface-model-malware/

## Бул видео эмнелерди камтыйт

- Сандык моделдин салмактары, аткарылуучу сериялаштыруу жана ыңгайлаштырылган репозиторий коду ар башка нерселер.
- JFrog жана ReversingLabs тескери кабыкчанын пайдалуу жүктөрүн документтештирген; алардын тандалган отчеттору аталган жабырлануучулардан аккаунт маалыматтарын уурдоону аныктаган эмес.
- Checkmarx Model Confusion изилдөө демонстрациясы болгон, ал дал келген алыскы моделди жана кооптуу жүктөөнү талап кылган.
- Safetensors жана оңдолгон жүктөгүчтөрдү артык көрүңүз, ыңгайлаштырылган кодду карап чыгыңыз жана бекитиңиз, ошондой эле тааныш эмес пакеттерди жеке сырлардан жана керексиз тармакка кирүүдөн бөлүп алыңыз.

## Бөлүмдөр

- 0:00 Моделди жүктөө кантип конокту чакыра алат?
- 0:35 Жүктөгүч посылканын көрсөтмөлөрүн кантип иштетет?
- 1:09 Процесстин жеткиликтүүлүгүндө кайсы сырлар бар?
- 1:38 Эмне үчүн жок жергиликтүү жол алыскы моделге айланышы мүмкүн?
- 1:55 Бузулган пакеттер эски сканерден кантип кутулган?
- 2:44 Коноктун колу жетпеген жерде ачкычты эмне сактайт?
- 3:12 Эмне үчүн мен муну NEEDS REVIEW деп белгилейт элем?

## Котормо стенограмма

Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.

### Моделди жүктөө кантип конокту чакыра алат?

0:00 Моделдик файл жөн гана дисктеги сандар. Бир зыяндуу Hugging Face пакетин жүктөө алыскы кабыкчаны ачты, бул жергиликтүү AIнын амбициялуу чечмелөөсү. Жүктөө кантип аткарууга айланат? Ал кайсы сырларга жете алат? Чындыгында аны эмне токтотот? Жана бир табышмакты эске алыңыз. Модель кооптуу бөлүгү болуп өткөндөн кийин жүктөлбөй калышы мүмкүн.

0:18 Бул The Daily Diff, ичинен. Hugging Face бул машиналык окутуу моделдерин бөлүшүү үчүн платформа, маалымат топтомдору жана тиркемелер. Модель салмактары үйрөнүлгөн сандар. Репозиторий конфигурацияны жана Python кодун да камтышы мүмкүн. Бул жердеги коркунуч – бул аткарылуучу таңгактоо сиздин компьютериңизге сиз аны жүктөгөнүңүздө өтүп кетиши. Pickle Python объектилерин аларды кайра куруу үчүн көрсөтмөлөр менен сактайт.

### Жүктөгүч посылканын көрсөтмөлөрүн кантип иштетет?

0:37 Кооптуу жүктөгүч ал көрсөтмөлөрдү аткарып, функцияларды чакыра алат, ачып жатканда. Байткаларды жүктөө посылканы дискиңизге коёт. Десериализация аны ачат. Кайсы бир жерде файл форматы акы төлөнбөгөн системалык администраторго көтөрүлгөн. JFrog 2024-жылдын февраль айында Goober Two жөнүндө билдирди. Анын Pickle пайдалуу жүктөмү алыскы буйрукка жетүү үчүн сыртка туташып, тескери кабыкчаны ачты. Репозиторий өчүрүлгөн. JFrog ошондой эле изилдөөчүлөрдүн катышуусун көрсөткөн издерди тапты,

1:02 ошондуктан атрибуция белгисиз. Керексиз конок документтештирилген. Чыныгы жабырлануучулардан аккаунт маалыматтарын уурдоо аныкталган эмес.

### Процесстин жеткиликтүүлүгүндө кайсы сырлар бар?

1:09 Сиздин колдонуучу катары иштеген код ошол процессти окуй алган нерселерди окуй алат. Орнотулган булут ачкычы же жеткиликтүү токен мүмкүн болгон максатка айланат. Аны сыртка жөнөтүү үчүн да иштеген тармак жолу керек. Сандык салмактардын өзүнүн сыйкырдуу аккаунт маалыматтарын башкаруу күчү жок. Сиздин уруксаттарыңыз моделдик картанын кызыктуу бөлүгүн камсыздайт. Дагы бир эшик бар. Кээ бир моделдер сизден алыскы кодго ишенүүнү суранат, ал Pythonду репозиторийден уруксат берет. Коопсуз тензор файлдары ошол коддун жанында тура алат.

1:32 Салмак форматын текшерүү бир кире беришти камтыйт, ал эми репозиторийдин коду сизге конок значокту берүүңүздү күтүп турат.

### Эмне үчүн жок жергиликтүү жол алыскы моделге айланышы мүмкүн?

1:38 Checkmarx Model Confusionду көрсөттү. Жок жергиликтүү модель жолу дал келген аталыштагы коомдук репозиторийге чечилиши мүмкүн. Муну алыскы код менен айкалыштыргыла, иштетилгенде, туура эмес пакет аткарылышы мүмкүн. Бул аты аталбаган компаниянын үлгүсүн камтыган изилдөө демонстрациясы болгон, бир күндүн ичинде оңдолгон. Жок папка ээсин тапты. ReversingLabs 2025-жылдын февраль айында эки үлгүнү билдирди,

### Бузулган пакеттер эски сканерден кантип кутулган?

1:58 техниканы nullify AI деп атап. Экөө тең тескери кабыкчаларды камтыган. Алардын жети zip таңгагы кадимки PyTorch жүктөөнү бөгөттөгөн, ошондуктан бул жол экстракцияны жана кооптуу десериализацияны талап кылган. Бузулган Pickle агымдары ошондой эле сканердин сокур жерин ачыкка чыгарды. Ийгиликсиз скандоо посылканы эч ким ача электе иликтөөнү талап кылат. Изилдөөчүлөрдүн зыянсыз сыноосунда, көрсөтмөлөр файлды жүктөгүч бузулган бөлүгүнө жеткенге чейин жазган

2:18 жана ката кетирген. Посылканы ачып, енотту чыгарып, анан жеткирүү этикеткасы жараксыз экенин байкаганыңызды элестетиңиз. этикетка жараксыз экенин байкаганыңызды элестетиңиз. Ката билдирүүсү мыкты грамматика жана коркунучтуу убакыт менен келет. Hugging Face билдирилген үлгүлөрдү жыйырма төрт сааттын ичинде алып салып, сканерди өзгөрттү. Ошол конкреттүү табылга оңдоого себеп болду. Коопсуздук сканери пайдалуу далил болуп саналат, жана ар бир сканер катасын таза ден соолук вексели катары кароо ийгиликсиздикти укмуштуудай кең пейилдик менен чечмелөө бойдон калууда.

2:43 Коопсуз тензорлорду жана учурдагы оңдолгон жүктөгүчтөрдү артык көрүңүз.

### Коноктун колу жетпеген жерде ачкычты эмне сактайт?

2:46 PyTorch демейки жүктөгүчүн эки чекит алты версиясынан баштап тарытты. Ыңгайлаштырылган кодду карап чыгыңыз жана каралып чыккан ревизияны бекитиңиз. Тааныш эмес пакеттерди жеке ачкычтарсыз изоляцияда иштетиңиз, чектелген тармакка кирүү менен. Орнотулган аккаунт маалыматтарына толгон контейнер – бул аталыш мейкиндиктери бар белек корзинасы. Ал ачылыш табышмактын жообу бар. Жүктөө катасы аткаруу кайсы жерде токтогонун айтат. Мурунку көрсөтмөлөр буга чейин аткарылган болушу мүмкүн.

3:08 Посылканы ачардан мурун сырларды анын колу жетпеген жерде сактаңыз. Өкүм, ичинен.

### Эмне үчүн мен муну NEEDS REVIEW деп белгилейт элем?

3:16 жүктөгүч. Акысыз жүктөө модель менен келиши керек, жана коноктордун тизмеси менин чечимим бойдон калышы керек. Эгер сиз муну менин айтканымдан көрө окуганды кааласаңыз, diff күн сайын эртең менен кутучаңызга келет, daily diff dot dev дарегинде акысыз, шилтеме ылдыйда. Жана бүгүнкү diff ушул. Мен Axrisiден Нико. Жоопкерчиликтүү түрдө бириктириңиз.

## Булактар

- [Data Scientists Targeted by Malicious Hugging Face ML Models with Silent Backdoor](https://jfrog.com/blog/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor/) — JFrog
- [Malicious ML models discovered on Hugging Face platform](https://www.reversinglabs.com/blog/rl-identifies-malware-ml-model-hosted-on-hugging-face) — ReversingLabs
- [AI Model Confusion: An LLM/AI Model Supply Chain Attack](https://checkmarx.com/zero-post/hugs-from-strangers-ai-model-confusion-supply-chain-attack/) — Checkmarx Zero
- [Pickle Scanning](https://huggingface.co/docs/hub/en/security-pickle) — Hugging Face
- [Safetensors](https://huggingface.co/docs/safetensors/en/index) — Hugging Face
- [Loading custom models](https://huggingface.co/docs/transformers/en/models) — Hugging Face
- [Serialization semantics](https://docs.pytorch.org/docs/2.14/notes/serialization.html) — PyTorch