Faili za modeli za Hugging Face zinaweza kuendesha msimbo fiche

Nini video hii inashughulikia

• Uzito wa mfano wa namba, ufuatiliaji wa utekelezaji na msimbo maalum wa hazina ni vitu tofauti.
• JFrog na ReversingLabs ziliandika malipo ya reverse-shell; ripoti zao zilizochaguliwa hazijathibitisha wizi wa hati kutoka kwa waathirika waliotajwa.
• Mkanganyiko wa Mfano wa Checkmarx ulikuwa onyesho la utafiti linalohitaji mfano unaofanana wa mbali na upakiaji usio salama.
• Pendelea safetensors na vipakiaji vilivyoboreshwa, kagua na uweke msimbo maalum, na utenganishe vifurushi visivyojulikana kutoka kwa siri za kibinafsi na ufikiaji wa mtandao usio wa lazima.

Nakala iliyotafsiriwa

Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.

Upakuaji wa modeli unawezaje kumkaribisha mgeni?

0:00 Faili ya modeli ni namba tu kwenye diski. Kupakia kifurushi kimoja cha Hugging Face chenye nia mbaya kulifungua shell ya mbali, ambayo ni tafsiri kabambe ya AI ya ndani. Upakiaji unakuwaje utekelezaji? Unaweza kufikia siri gani? Ni nini kinachoisimamisha? Na kumbuka fumbo moja. Mfano unaweza kushindwa kupakia baada ya sehemu hatari tayari imetokea.

0:18 Huu ni The Daily Diff, chini ya kofia. Hugging Face ni jukwaa la kushiriki mifumo ya kujifunza kwa mashine, seti za data na programu. Uzito wa modeli ni namba zilizojifunza. Hifadhi pia inaweza kuwa na usanidi na msimbo wa Python. Hatari hapa ni upakiaji wa utekelezaji unaoingia kwenye kompyuta yako unapoipakia. Pickle huhifadhi vitu vya Python na maelekezo ya kuvijenga upya.

Kipakiaji huendesha vipi maelekezo ya kifurushi?

0:37 Kipakiaji kisicho salama kinaweza kufuata maelekezo hayo na kupiga simu wakati wa kufungua. Kupakua baiti huweka kifurushi kwenye diski yako. Kufungua kunafungua. Mahali fulani, umbizo la faili limepandishwa cheo na kuwa msimamizi wa mfumo asiyelipwa. JFrog iliripoti Goober Two mnamo Februari ishirini na ishirini na nne. Malipo yake ya Pickle yalifungua shell ya nyuma, ikijaribu kutoa ufikiaji wa amri ya mbali. Hifadhi ilifutwa. JFrog pia ilipata vidokezo vinavyoonyesha ushiriki wa mtafiti,

1:02 hivyo ushiriki haujulikani. Mgeni asiyehitajika aliandikwa. Wizi wa hati kutoka kwa waathirika halisi haukuthibitishwa.

Ni siri gani zilizo ndani ya ufikiaji wa mchakato?

1:09 Msimbo unaoendesha kama mtumiaji wako unaweza kusoma chochote ambacho mchakato huo unaweza kusoma. Ufunguo wa wingu uliowekwa au tokeni inayoweza kufikiwa inakuwa lengo linalowezekana. Kuituma nje pia inahitaji njia ya mtandao inayofanya kazi. Uzito wa namba pekee hauna nguvu za siri za kipekee. Ruhusa zako hutoa sehemu ya kuvutia ya kadi ya mfano. Kuna mlango mwingine. Baadhi ya mifumo inakuomba uamini msimbo wa mbali, unaoidhinisha Python kutoka kwenye hazina. Faili salama za kihisi zinaweza kukaa kando ya msimbo huo.

1:32 Kuangalia umbizo la uzito kunafunika mlango mmoja, wakati msimbo wa hazina bado unakungojea uupe beji ya mgeni. Kuangalia umbizo la uzito kunafunika mlango mmoja, wakati msimbo wa hazina bado unakungojea uupe beji ya mgeni.

Kwa nini njia ya ndani inayokosekana inaweza kuwa mfano wa mbali?

1:38 Checkmarx ilionyesha Mkanganyiko wa Mfano. Njia ya mfano ya ndani inayokosekana inaweza kutatua hadi kwenye hazina ya umma yenye jina linalofanana. Unganisha hilo na msimbo wa mbali umewezeshwa, na kifurushi kibaya kinaweza kutekeleza. Unganisha hilo na msimbo wa mbali umewezeshwa, na kifurushi kibaya kinaweza kutekeleza. Huu ulikuwa onyesho la utafiti linalohusisha sampuli ya kampuni isiyojulikana, iliyorekebishwa ndani ya siku moja. Folda iliyokosekana ilipata mpangaji. ReversingLabs iliripoti sampuli mbili mnamo Februari ishirini na ishirini na tano,

Vifurushi vilivyovunjika viliepuka vipi skana ya zamani?

1:58 ikiita mbinu hiyo nullify AI. Zote mbili zilikuwa na shell za nyuma. Ufungaji wao wa zip saba ulikwaza upakiaji wa kawaida wa PyTorch, hivyo njia hii ilihitaji uchimbaji na ufunguaji usio salama. Mkondo wa Pickle uliovunjika pia ulifichua sehemu butu ya skana. Uchunguzi ulioshindwa unastahili uchunguzi kabla ya mtu yeyote kufungua kifurushi. Katika jaribio lisilo na madhara la watafiti, maelekezo yaliandika faili kabla ya kipakiaji

2:18 kufikia sehemu iliyovunjika na kuinua kosa. Fikiria kufungua kifurushi, kutoa rakuni, kisha kugundua lebo ya usafirishaji si halali. Fikiria kufungua kifurushi, kutoa rakuni, kisha kugundua lebo ya usafirishaji si halali. Ujumbe wa makosa unafika na sarufi bora na wakati mbaya. Hugging Face iliondoa sampuli zilizoripotiwa ndani ya saa ishirini na nne na kubadilisha skana. Matokeo hayo maalum yalisababisha marekebisho. Uchunguzi wa usalama ni ushahidi muhimu, na kutibu kila kosa la skana kama cheti safi cha afya bado ni tafsiri ya ukarimu sana ya kutofaulu.

2:43 Pendelea kihisi salama na vipakiaji vya sasa vilivyorekebishwa.

Ni nini huzuia ufunguo nje ya ufikiaji wa mgeni?

2:46 PyTorch ilipunguza kipakiaji chake chaguo-msingi kuanzia toleo la mbili nukta sita. Kagua msimbo maalum na uweke marekebisho yaliyokaguliwa. Endesha vifurushi visivyojulikana kwa kutengwa bila funguo za kibinafsi, na ufikiaji wa mtandao uliowekewa mipaka. Kifaa kilichojaa hati zilizowekwa ni kikapu cha zawadi kilicho na majina. Fumbo hilo la ufunguzi lina jibu. Kushindwa kupakia kunakuambia ni wapi utekelezaji ulisimama. Maelekezo ya awali yanaweza tayari yameendeshwa.

3:08 Weka siri nje ya ufikiaji wake kabla ya kufungua kifurushi. Hukumu, chini ya kofia.

Kwa nini nitaweka stempu hii INAHITAJI KUKAGULIWA?

3:16 kipakiaji. Upakuaji wa bure unapaswa kuja na mfano, na orodha ya wageni inapaswa kubaki uamuzi wangu. Ikiwa unapendelea kusoma hii kuliko kunisikia nikisema, diff inatua kwenye kikasha chako kila asubuhi, bure kwenye the daily diff dot dev, kiungo hapa chini. Na hiyo ndiyo tofauti kwa leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.

Vyanzo

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch