ឯកសារម៉ូដែល Hugging Face អាចដំណើរការកូដលាក់កំបាំង

អ្វីដែលវីដេអូនេះគ្របដណ្ដប់

• ទម្ងន់ម៉ូដែលលេខ ការធ្វើស៊េរីប្រតិបត្តិ និងលេខកូដឃ្លាំងផ្ទុកផ្ទាល់ខ្លួនគឺជាវត្ថុផ្សេងគ្នា។
• JFrog និង ReversingLabs បានចងក្រងជាឯកសារនូវបន្ទុកសែលបញ្ច្រាស។ របាយការណ៍ដែលបានជ្រើសរើសរបស់ពួកគេមិនបង្កើតការលួចព័ត៌មានសម្ងាត់ពីជនរងគ្រោះដែលបានដាក់ឈ្មោះនោះទេ។
• Checkmarx Model Confusion គឺជាការបង្ហាញការស្រាវជ្រាវដែលតម្រូវឱ្យមានម៉ូដែលពីចម្ងាយដែលត្រូវគ្នា និងការផ្ទុកមិនមានសុវត្ថិភាព។
• ពេញចិត្ត safetensors និងកម្មវិធីផ្ទុកដែលបានបិទបាំង ពិនិត្យឡើងវិញ និងដាក់កូដផ្ទាល់ខ្លួន និងញែកកញ្ចប់ដែលមិនធ្លាប់ស្គាល់ចេញពីអាថ៌កំបាំងផ្ទាល់ខ្លួន និងការចូលប្រើបណ្តាញដែលមិនចាំបាច់។

កំណត់ត្រាដែលបានបកប្រែ

បកប្រែចេញពីការនិទានដើមជាភាសាអង់គ្លេស។ សំឡេង និងចំណងជើងរងដែលមានគឺស្ថិតនៅក្រោមការគ្រប់គ្រងរបស់ YouTube។

តើការទាញយកម៉ូដែលអាចអញ្ជើញភ្ញៀវដោយរបៀបណា?

0:00 ឯកសារគំរូគ្រាន់តែជាលេខនៅលើថាសប៉ុណ្ណោះ។ ការផ្ទុកកញ្ចប់ Hugging Face ដែលមានគំរូអាក្រក់មួយបានបើកសែលពីចម្ងាយ ដែលជាការបកស្រាយដ៏មហិច្ឆតានៃ AI ក្នុងស្រុក។ តើការផ្ទុកក្លាយជាការប្រតិបត្តិដោយរបៀបណា? តើអាថ៌កំបាំងអ្វីខ្លះដែលវាអាចទៅដល់? តើអ្វីដែលពិតជាបញ្ឈប់វា? ហើយរក្សាទុកល្បែងផ្គុំរូបមួយនៅក្នុងចិត្ត។ ម៉ូដែលអាចបរាជ័យក្នុងការផ្ទុកបន្ទាប់ពីផ្នែកគ្រោះថ្នាក់បានកើតឡើងរួចហើយ។

0:18 នេះគឺជា The Daily Diff នៅពីក្រោយឆាក។ Hugging Face គឺជាវេទិកាសម្រាប់ការចែករំលែកម៉ូដែលការរៀនម៉ាស៊ីន សំណុំទិន្នន័យ និងកម្មវិធី។ ទម្ងន់ម៉ូដែលគឺជាលេខដែលបានរៀន។ ឃ្លាំងផ្ទុកក៏អាចមានការកំណត់រចនាសម្ព័ន្ធ និងកូដ Python ផងដែរ។ គ្រោះថ្នាក់នៅទីនេះគឺការវេចខ្ចប់ដែលអាចប្រតិបត្តិបានឆ្លងចូលទៅក្នុងកុំព្យូទ័ររបស់អ្នកនៅពេលអ្នក ផ្ទុកវា។ Pickle រក្សាទុកវត្ថុ Python ជាមួយនឹងការណែនាំសម្រាប់ការសាងសង់ពួកវាឡើងវិញ។

តើ loader ដំណើរការការណែនាំរបស់ parcel ដោយរបៀបណា?

0:37 កម្មវិធីផ្ទុកដែលមិនមានសុវត្ថិភាពអាចធ្វើតាមការណែនាំទាំងនោះ និងហៅមុខងារខណៈពេលកំពុង ពន្លា។ ការទាញយកបៃដាក់កញ្ចប់នៅលើថាសរបស់អ្នក។ ការបកស្រាយស៊េរីបើកវា។ កន្លែងណាមួយ ទ្រង់ទ្រាយឯកសារត្រូវបានលើកកម្ពស់ទៅជាអ្នកគ្រប់គ្រងប្រព័ន្ធដែលមិនបានបង់ប្រាក់។ JFrog បានរាយការណ៍ Goober Two ក្នុងខែកុម្ភៈ ឆ្នាំ ២០២៤។ បន្ទុក Pickle របស់វាបានបើកសែលបញ្ច្រាស តភ្ជាប់ចេញក្រៅដើម្បីផ្តល់ការចូលប្រើពាក្យបញ្ជាពីចម្ងាយ។ ឃ្លាំងផ្ទុកត្រូវបានលុប។ JFrog ក៏បានរកឃើញតម្រុយដែលណែនាំពីការចូលរួមរបស់អ្នកស្រាវជ្រាវផងដែរ

1:02 ដូច្នេះការកំណត់អត្តសញ្ញាណមិនច្បាស់លាស់។ ភ្ញៀវដែលមិនចង់បានត្រូវបានចងក្រងជាឯកសារ។ ការលួចព័ត៌មានសម្ងាត់ពីជនរងគ្រោះជាក់ស្តែងមិនត្រូវបានបង្កើតឡើងទេ។

តើអាថ៌កំបាំងអ្វីខ្លះដែលស្ថិតនៅក្នុងការឈានដល់ដំណើរការ?

1:09 កូដដែលដំណើរការជាអ្នកប្រើប្រាស់របស់អ្នកអាចអានអ្វីក៏ដោយដែលដំណើរការនោះអាចអានបាន។ សោពពកដែលបានម៉ោន ឬថូខឹនដែលអាចចូលប្រើបានក្លាយជាគោលដៅដែលអាចកើតមាន។ ការផ្ញើវាចេញក៏ត្រូវការផ្លូវបណ្តាញដែលដំណើរការផងដែរ។ ទម្ងន់លេខតែម្នាក់ឯងមិនមានថាមពលសម្ងាត់វេទមន្តទេ។ ការអនុញ្ញាតរបស់អ្នកផ្តល់ផ្នែកគួរឱ្យចាប់អារម្មណ៍នៃកាតម៉ូដែល។ មានទ្វារមួយទៀត។ ម៉ូដែលមួយចំនួនស្នើឱ្យអ្នកទុកចិត្តកូដពីចម្ងាយ ដែលអនុញ្ញាត Python ពី ឃ្លាំងផ្ទុក។ ឯកសារ safetensor អាចនៅជាប់នឹងកូដនោះ។

1:32 ការត្រួតពិនិត្យទ្រង់ទ្រាយទម្ងន់គ្របដណ្តប់ច្រកចូលមួយ ខណៈពេលដែលកូដរបស់ឃ្លាំងផ្ទុកនៅតែ កំពុងរង់ចាំអ្នកប្រគល់ផ្លាកសញ្ញាអ្នកទស្សនាឱ្យវា។

ហេតុអ្វីបានជាផ្លូវមូលដ្ឋានដែលបាត់អាចក្លាយជាគំរូពីចម្ងាយ?

1:38 Checkmarx បានបង្ហាញ Model Confusion ។ ផ្លូវម៉ូដែលមូលដ្ឋានដែលបាត់អាចដោះស្រាយទៅកាន់ឃ្លាំងផ្ទុកសាធារណៈដែលមានឈ្មោះ ដែលត្រូវគ្នា។ រួមបញ្ចូលគ្នាជាមួយនឹងកូដពីចម្ងាយ ដែលបានបើក ហើយកញ្ចប់ខុសអាចប្រតិបត្តិបាន។ នេះគឺជាការបង្ហាញការស្រាវជ្រាវដែលពាក់ព័ន្ធនឹងគំរូរបស់ក្រុមហ៊ុនដែលមិនបានដាក់ឈ្មោះ ដែលបានកែតម្រូវក្នុងរយៈពេលមួយថ្ងៃ។ ថតដែលបាត់បានទទួលម្ចាស់ផ្ទះ។ ReversingLabs បានរាយការណ៍ពីគំរូពីរក្នុងខែកុម្ភៈ ឆ្នាំ ២០២៥

តើកញ្ចប់ដែលខូចអាចគេចចេញពីម៉ាស៊ីនស្កេនចាស់ដោយរបៀបណា?

1:58 ដោយហៅបច្ចេកទេសនេះថា nullify AI ។ ទាំងពីរមានសែលបញ្ច្រាស។ ការវេចខ្ចប់ 7zip របស់ពួកគេបានបិទការផ្ទុក PyTorch ធម្មតា ដូច្នេះផ្លូវនេះទាមទារការទាញយក និងការបកស្រាយស៊េរីដែលមិនមានសុវត្ថិភាព។ ស្ទ្រីម Pickle ដែលខូចក៏បានបង្ហាញពីចំណុចខ្វះខាតរបស់ម៉ាស៊ីនស្កេនផងដែរ។ ការស្កេនដែលបរាជ័យសមនឹងទទួលបានការស៊ើបអង្កេតមុនពេលនរណាម្នាក់បើកកញ្ចប់។ នៅក្នុងការសាកល្បងដែលមិនបង្កគ្រោះថ្នាក់របស់អ្នកស្រាវជ្រាវ ការណែនាំ បានសរសេរឯកសារមុនពេល loader

2:18 ទៅដល់ផ្នែកដែលខូច ហើយបង្កឱ្យមានកំហុស។ ស្រមៃមើលការបើកកញ្ចប់មួយ ដោះលែងសត្វ Raccoon បន្ទាប់មកកត់សម្គាល់ការដឹកជញ្ជូន ស្លាកមិនត្រឹមត្រូវ។ សារកំហុសមកដល់ជាមួយនឹងវេយ្យាករណ៍ល្អឥតខ្ចោះ និងពេលវេលាដ៏អាក្រក់។ Hugging Face បានលុបគំរូដែលបានរាយការណ៍ក្នុងរយៈពេល ២៤ ម៉ោង ហើយបានផ្លាស់ប្តូរ ម៉ាស៊ីនស្កេន។ ការរកឃើញជាក់លាក់នោះបានជំរុញឱ្យមានការកែតម្រូវ។ ការស្កេនសុវត្ថិភាពគឺជាភស្តុតាងដ៏មានប្រយោជន៍ ហើយការចាត់ទុកកំហុសម៉ាស៊ីនស្កេននីមួយៗថាជា វិញ្ញាបនបត្រសុខភាពដែលស្អាតនៅតែជាការបកស្រាយដ៏សប្បុរសនៃភាពបរាជ័យ។

2:43 ពេញចិត្ត safe tensors និងកម្មវិធីផ្ទុកដែលបានបិទបាំងបច្ចុប្បន្ន។

តើអ្វីដែលរក្សាសោនៅខាងក្រៅការឈានដល់របស់ភ្ញៀវ?

2:46 PyTorch បានបង្រួម loader លំនាំដើមរបស់ខ្លួនចាប់ផ្តើមពីកំណែ 2.6 ។ ពិនិត្យឡើងវិញនូវកូដផ្ទាល់ខ្លួន ហើយដាក់ការកែប្រែដែលបានពិនិត្យឡើងវិញ។ ដំណើរការកញ្ចប់ដែលមិនធ្លាប់ស្គាល់ដោយឯកោដោយគ្មានសោផ្ទាល់ខ្លួន ជាមួយនឹងការចូលប្រើបណ្តាញដែលត្រូវបានរឹតបន្តឹង។ ធុងមួយពោរពេញដោយព័ត៌មានសម្ងាត់ដែលបានម៉ោនគឺជាកញ្ចប់អំណោយដែលមានឈ្មោះលំហ។ ល្បែងផ្គុំរូបបើកឆាកនោះមានចម្លើយ។ ការបរាជ័យក្នុងការផ្ទុកប្រាប់អ្នកពីកន្លែងដែលការប្រតិបត្តិបានឈប់។ ការណែនាំមុនៗប្រហែលជាបានដំណើរការរួចហើយ។

3:08 រក្សាទុកអាថ៌កំបាំងនៅខាងក្រៅការឈានដល់របស់វាមុនពេលបើកកញ្ចប់។ សាលក្រម នៅពីក្រោយឆាក។

ហេតុអ្វីបានជាខ្ញុំនឹងបោះត្រា NEEDS REVIEW នេះ?

3:16 loader ។ ការទាញយកដោយឥតគិតថ្លៃគួរតែមកជាមួយម៉ូដែលមួយ ហើយបញ្ជីភ្ញៀវគួរតែ នៅតែជាការសម្រេចចិត្តរបស់ខ្ញុំ។ ប្រសិនបើអ្នកចង់អាននេះជាជាងស្តាប់ខ្ញុំនិយាយ ការឌីហ្វចុះចតនៅក្នុងប្រអប់សំបុត្ររបស់អ្នក រៀងរាល់ព្រឹក ឥតគិតថ្លៃនៅ the daily diff dot dev តំណភ្ជាប់ខាងក្រោម។ ហើយនោះគឺជាឌីហ្វសម្រាប់ថ្ងៃនេះ។ ខ្ញុំ Niko មកពី Axrisi ។ បញ្ចូលដោយការទទួលខុសត្រូវ។

ប្រភព

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch