Hugging Face үлгі файлдары жасырын кодты іске қоса алады

Бұл бейне не туралы

• Сандық үлгі салмақтары, орындалатын серияландыру және репозиторийдің арнайы коды әртүрлі нәрселер.
• JFrog және ReversingLabs кері қабықшалардың пайдалы жүктемелерін құжаттады; олардың таңдалған есептері аталған құрбандардан тіркелгі деректерін ұрлауды анықтаған жоқ.
• Checkmarx Model Confusion сәйкес қашықтағы үлгіні және қауіпті жүктеуді қажет ететін зерттеу демонстрациясы болды.
• safetensors және патчталған жүктегіштерді қолданыңыз, арнайы кодты қарап шығыңыз және бекітіңіз, сондай-ақ бейтаныс пакеттерді жеке құпиялардан және қажетсіз желілік қолжетімділіктен оқшаулаңыз.

Аударылған транскрипция

Бастапқы ағылшын тіліндегі баяндамадан аударылған. Қолжетімді аудио және субтитрлерді YouTube басқарады.

Үлгіні жүктеу қалай қонақты шақыра алады?

0:00 Үлгі файлы — бұл дисктегі сандар ғана. Бір зиянды Hugging Face пакетін жүктеу қашықтағы қабықшаны ашты, бұл жергілікті AI-дың өршіл интерпретациясы. Жүктеу қалай орындауға айналады? Ол қандай құпияларға қол жеткізе алады? Оны не тоқтатады? Және бір жұмбақты есте сақтаңыз. Қауіпті бөлік орын алғаннан кейін модель жүктелмей қалуы мүмкін.

0:18 Бұл The Daily Diff, ішкі механизмдері. Hugging Face — бұл машиналық оқыту модельдерін, деректер жиынтықтарын және қолданбаларын бөлісуге арналған платформа. Модель салмақтары — үйретілген сандар. Репозиторий конфигурация мен Python кодын да қамтуы мүмкін. Мұндағы қауіп — орындалатын пакеттерді жүктеген кезде компьютеріңізге кіруі. Pickle Python объектілерін оларды қайта құру нұсқауларымен сақтайды. Қауіпті жүктегіш осы нұсқауларды орындап, функцияларды шақыруы мүмкін

Жүктегіш сәлемдеменің нұсқауларын қалай іске қосады?

0:37 қораптан шығарған кезде. Байттарды жүктеу сәлемдемені дискіңізге орналастырады. Сериясыздандыру оны ашады. Бір жерде файл форматы ақысыз жүйе әкімшісіне көтерілді. JFrog Goober Two туралы жиырма жиырма төртінші жылдың ақпан айында хабарлады. Оның Pickle пайдалы жүктемесі кері қабықшаны ашып, қашықтан командалық қолжетімділікті ұсыну үшін сыртқа қосылды. Репозиторий жойылды. JFrog сонымен қатар зерттеушілердің қатысуын көрсететін дәлелдер тапты, сондықтан атрибуция белгісіз.

1:02 Қалаусыз қонақ құжатталған. Нақты құрбандардан тіркелгі деректерін ұрлау анықталған жоқ. Сіздің пайдаланушыңыз ретінде жұмыс істейтін код сол процестің оқи алатын кез келгенін оқи алады.

Процестің қолы жететін қандай құпиялар бар?

1:09 Орнатылған бұлт кілті немесе қолжетімді токен ықтимал нысанға айналады. Оны жіберу үшін жұмыс істейтін желілік маршрут қажет. Тек сандық салмақтардың сиқырлы тіркелгі деректерінің күші жоқ. Сіздің рұқсаттарыңыз модель картасының қызықты бөлігін қамтамасыз етеді. Басқа есік бар. Кейбір модельдер сізден қашықтағы кодқа сенуді сұрайды, бұл репозиторийден Python-ға рұқсат береді. Қауіпсіз сенсор файлдары сол кодтың жанында орналасуы мүмкін. Салмақ форматын тексеру бір кіреберісті қамтиды, ал репозиторийдің коды сізге келуші белгісін беруді

1:32 күтіп тұр. Checkmarx Model Confusion демонстрациясын өткізді.

Жергілікті жолдың болмауы неліктен қашықтағы үлгіге айналуы мүмкін?

1:38 Жергілікті модель жолының болмауы сәйкес атауы бар жалпыға ортақ репозиторийге айналуы мүмкін. Оны қашықтағы кодпен біріктіріңіз, қосулы болса, қате пакет орындалуы мүмкін. Бұл аталмаған компанияның үлгісін қамтитын зерттеу демонстрациясы болды, бір күн ішінде түзетілді. Жоқ қалта иесін тапты. ReversingLabs жиырма жиырма бесінші жылдың ақпан айында екі үлгі туралы хабарлады, техниканы nullify AI деп атады.

Бүлінген пакеттер ескі сканерден қалай өтті?

1:58 Екеуінде де кері қабықшалар болды. Олардың жеті зип пакеттері кәдімгі PyTorch жүктеуін бұғаттады, сондықтан бұл жолға шығару және қауіпті сериясыздандыру қажет болды. Бүлінген Pickle ағындары сканердің соқыр жерін де көрсетті. Сәтсіз сканерлеу кез келген адам сәлемдемені ашпас бұрын тексеруді қажет етеді. Зерттеушілердің зиянсыз сынағында нұсқаулар жүктегіш бұзылған бөлікке жетіп, қателік тудырғанға дейін файлды жазды.

2:18 Сәлемдемені ашып, енотты жіберіп, содан кейін жеткізу белгісінің жарамсыз екенін байқағаныңызды елестетіңіз. Қате туралы хабарлама тамаша грамматикамен және жаман уақытта келеді. Hugging Face хабарланған үлгілерді жиырма төрт сағат ішінде жойып, сканерді өзгертті. Бұл нақты тұжырым түзетуге түрткі болды. Қауіпсіздік сканері пайдалы дәлел болып табылады және әрбір сканер қатесін таза денсаулық құжаты ретінде қарастыру сәтсіздіктің таңқаларлықтай жомарт интерпретациясы болып қала береді. Қауіпсіз сенсорларды және ағымдағы патчталған жүктегіштерді қолданыңыз. PyTorch әдепкі жүктегішін екі нүкте алты нұсқасынан бастап тарылтты.

2:43 Арнайы кодты қарап шығыңыз және қарап шыққан нұсқаны бекітіңіз.

Құпия кілтті қонақтың қолы жетпейтін жерде не сақтайды?

2:46 Бейтаныс пакеттерді жеке кілттерсіз, оқшаулап іске қосыңыз, желілік қолжетімділігі шектеулі. Орнатылған тіркелгі деректері толы контейнер — бұл атаулар кеңістігі бар сыйлық корзинасы. Бұл ашылатын жұмбақтың жауабы бар. Жүктеу қатесі орындау тоқтаған жерді айтады. Бұрынғы нұсқаулар қазірдің өзінде орындалған болуы мүмкін. Сәлемдемені ашпас бұрын құпияларды оның қолы жетпейтін жерде сақтаңыз. Үкім, ішкі механизмдері.

3:08 жүктегіш. Тегін жүктеу модельмен бірге келуі керек, ал қонақтар тізімі менің шешімімде қалуы керек. Егер сіз мұны естігеннен гөрі оқығанды жөн көрсеңіз, diff күн сайын таңертең сіздің пошта жәшігіңізге тегін келеді, daily diff dot dev сайтында, төмендегі сілтеме.

Неліктен мен бұған NEEDS REVIEW белгісін қояр едім?

3:16 Және бұл бүгінгі diff. Мен Axrisi-ден Нико. Жауапкершілікпен біріктіріңіз. Егер сіз мұны естігеннен гөрі оқығанды жөн көрсеңіз, diff күн сайын таңертең сіздің пошта жәшігіңізге тегін келеді, daily diff dot dev сайтында, төмендегі сілтеме. Және бұл бүгінгі diff. Мен Axrisi-ден Нико. Жауапкершілікпен біріктіріңіз.

Дереккөздер

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch