Hugging Face model faylları gizli kod işlədə bilər

Bu videoda nələr əhatə olunur

• Ədədi model çəkiləri, icra oluna bilən seriyalaşdırma və xüsusi repozitoriya kodu fərqli şeylərdir.
• JFrog və ReversingLabs tərs-qabıq yüklərini sənədləşdirmişlər; onların seçilmiş hesabatları adı çəkilən qurbanlardan etimadnamə oğurluğunu təsdiq etmir.
• Checkmarx Model Qarışıqlığı uyğun uzaq model və təhlükəsiz olmayan yükləmə tələb edən bir tədqiqat nümayişi idi.
• Safetensors və yamaqlanmış yükləyicilərə üstünlük verin, xüsusi kodu nəzərdən keçirin və bağlayın, tanış olmayan paketləri şəxsi sirlərdən və lazımsız şəbəkə girişindən təcrid edin.

Tərcümə olunmuş transkript

Orijinal ingilis dilindəki nəqldən tərcümə edilmişdir. Mövcud audio və subtitrlər YouTube tərəfindən idarə olunur.

Model yükləmə necə qonağı dəvət edə bilər?

0:00 Model faylı diskdə sadəcə rəqəmlərdir. Bir zərərli Hugging Face paketini yükləmək uzaqdan bir qabıq açdı, bu, yerli süni intellektin iddialı bir təfsiridir. Yükləmə necə icraya çevrilir? Hansı sirlərə çata bilər? Onu əslində nə dayandırır? Və bir tapmacanı yadda saxlayın. Təhlükəli hissə artıq baş verdikdən sonra bir model yüklənməyə bilər.

0:18 Bu, The Daily Diff, pərdə arxasında. Hugging Face maşın öyrənmə modellərini paylaşmaq üçün bir platformadır, dəstlər və tətbiqlər. Model çəkiləri öyrənilmiş rəqəmlərdir. Bir repozitoriya konfiqurasiya və Python kodunu da ehtiva edə bilər. Buradakı təhlükə, onu yüklədiyiniz zaman icra oluna bilən paketin kompüterinizə daxil olmasıdır. Pickle Python obyektlərini onları yenidən qurmaq üçün təlimatlarla saxlayır.

Yükləyici bağlamanın təlimatlarını necə işlədir?

0:37 Təhlükəsiz olmayan bir yükləyici bu təlimatlara əməl edə bilər və açarkən funksiyaları çağıra bilər. Baytları yükləmək bağlamanı diskə qoyur. Deserialize etmək onu açır. Haradasa, bir fayl formatı ödənişsiz sistem administratoru səviyyəsinə qaldırılıb. JFrog 2024-cü ilin fevralında Goober Two haqqında məlumat verdi. Onun Pickle yükü, uzaqdan əmr girişini təklif etmək üçün xaricə qoşularaq tərs bir qabıq açdı. Repozitoriya silindi. JFrog həmçinin tədqiqatçıların iştirakını göstərən ipucular tapdı,

1:02 buna görə də aidiyyət qeyri-müəyyəndir. İstənməyən qonaq sənədləşdirildi. Faktiki qurbanlardan etimadnamə oğurluğu təsdiq edilmədi.

Hansı sirlər prosesin əhatə dairəsindədir?

1:09 İstifadəçiniz kimi işləyən kod həmin prosesin oxuya biləcəyi hər şeyi oxuya bilər. Quraşdırılmış bulud açarı və ya əlçatan bir token mümkün bir hədəfə çevrilir. Onu göndərmək üçün işlək bir şəbəkə marşrutu da lazımdır. Yalnız ədədi çəkilərin heç bir sehrli etimadnamə gücü yoxdur. Sizin icazələriniz model kartının maraqlı hissəsini təmin edir. Başqa bir qapı var. Bəzi modellər uzaq koda etibar etməyinizi xahiş edir ki, bu da repozitoriyadan Python-u icazə verir. Təhlükəsiz tensor faylları həmin kodun yanında otura bilər.

1:32 Çəki formatını yoxlamaq bir girişi əhatə edir, repozitoriyanın kodu isə hələ də sizdən ona bir qonaq nişanı verməyinizi gözləyir. Checkmarx Model Qarışıqlığını nümayiş etdirdi.

Niyə itkin yerli yol uzaq modelə çevrilə bilər?

1:38 İtkin yerli model yolu uyğun adla ictimai bir repozitoriyaya həll oluna bilər. Bunu uzaq kodla birləşdirin aktivləşdirildikdə, səhv paket icra oluna bilər. Bu, adı açıqlanmayan bir şirkətin nümunəsini əhatə edən, bir gün ərzində düzəldilən bir tədqiqat nümayişi idi. İtkin bir qovluq bir ev sahibi əldə etdi. ReversingLabs 2025-ci ilin fevralında iki nümunə haqqında məlumat verdi, bu texnikanı nullify AI adlandırdı. Hər ikisi tərs qabıqları ehtiva edirdi.

Qırılmış paketlər köhnə skanerdən necə yayınmışdır?

1:58 Onların yeddi zip qablaşdırması adi PyTorch yükləməsini blokladı, buna görə də bu yol çıxarılma və təhlükəsiz olmayan deserializasiya tələb edirdi. Qırılmış Pickle axınları həmçinin skanerin kor nöqtəsini ifşa etdi. Uğursuz bir skan, kimsə bağlamanı açmadan əvvəl araşdırılmağa layiqdir. Tədqiqatçıların zərərsiz testində təlimatlar yükləyici qırılmış hissəyə çatmazdan və səhv verməzdən əvvəl bir fayl yazdı. Bir bağlamanı açdığınızı, yenotun çıxdığını, sonra isə göndərmə etiketinin etibarsız olduğunu gördüyünüzü təsəvvür edin. Səhv mesajı əla qrammatika və dəhşətli vaxtlama ilə gəlir.

2:18 Hugging Face məlumat verilən nümunələri iyirmi dörd saat ərzində sildi və skaneri dəyişdi. Həmin xüsusi tapıntı bir düzəlişə səbəb oldu. Təhlükəsizlik skanı faydalı bir sübutdur və hər skaner səhvini uğursuzluğun olduqca səxavətli bir təfsiri kimi qəbul etmək qalır. Təhlükəsiz tensorlara və cari yamaqlanmış yükləyicilərə üstünlük verin. PyTorch default yükləyicisini iki nöqtə altı versiyasından başlayaraq daraltdı. Xüsusi kodu nəzərdən keçirin və nəzərdən keçirilmiş revizyonu bağlayın. Şəxsi açarlar olmadan, məhdud şəbəkə girişi ilə tanış olmayan paketləri təcrid olunmuş şəkildə işlədin. Quraşdırılmış etimadnamələrlə dolu bir konteyner ad sahələri olan bir hədiyyə səbətidir.

2:43 Həmin açılış tapmacasının cavabı var.

Açarı qonağın əlçatanlığından kənarda nə saxlayır?

2:46 Yükləmə uğursuzluğu icranın harada dayandığını sizə bildirir. Əvvəlki təlimatlar artıq işləmiş ola bilər. Bağlamanı açmazdan əvvəl sirləri onun əlçatanlığından kənarda saxlayın. Hökm, pərdə arxasında. yükləyici. Pulsuz yükləmə bir model ilə gəlməlidir və qonaq siyahısı mənim qərarım olaraq qalmalıdır. Əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, diff hər səhər pulsuz olaraq thedaily diff dot dev saytında, aşağıdakı keçiddə, sizin poçt qutunuza düşür. Və bu, bugünkü diffdir. Mən Axrisi-dən Nikonam.

3:08 Məsuliyyətlə birləşdirin. Yükləyici. Pulsuz yükləmə bir model ilə gəlməlidir və qonaq siyahısı mənim qərarım olaraq qalmalıdır.

Niyə buna NEEDS REVIEW möhürünü vurmalıyam?

3:16 Əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, diff hər səhər pulsuz olaraq the daily diff dot dev saytında, aşağıdakı keçiddə, sizin poçt qutunuza düşür. Və bu, bugünkü diffdir. Mən Axrisi-dən Nikonam. Məsuliyyətlə birləşdirin. Və bu, bugünkü diffdir. Mən Axrisi-dən Nikonam. Məsuliyyətlə birləşdirin.

Mənbələr

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch