Hugging Face ماڈل فائلز چھپا ہوا کوڈ چلا سکتی ہیں

اس ویڈیو میں کیا شامل ہے

• عددی ماڈل کے وزن، قابل عمل سیریلائزیشن اور حسب ضرورت ریپوزٹری کوڈ مختلف چیزیں ہیں۔
• JFrog اور ReversingLabs نے ریورس شیل پے لوڈز کو دستاویزی شکل دی؛ ان کی منتخب رپورٹس نامزد متاثرین سے اسناد کی چوری کو ثابت نہیں کرتی ہیں۔
• Checkmarx ماڈل کنفیوژن ایک تحقیقی مظاہرہ تھا جس کے لیے ایک مماثل ریموٹ ماڈل اور غیر محفوظ لوڈنگ کی ضرورت تھی۔
• safetensors اور پیچڈ لوڈرز کو ترجیح دیں، حسب ضرورت کوڈ کا جائزہ لیں اور پن کریں، اور ناواقف پیکجز کو ذاتی رازوں اور غیر ضروری نیٹ ورک رسائی سے الگ رکھیں۔

ترجمہ شدہ ٹرانسکرپٹ

اصل انگریزی بیان سے ترجمہ کیا گیا۔ دستیاب آڈیو اور کیپشنز یوٹیوب کے زیر انتظام ہیں۔

ایک ماڈل ڈاؤن لوڈ مہمان کو کیسے مدعو کر سکتا ہے؟

0:00 ایک ماڈل فائل ڈسک پر محض اعداد و شمار ہے۔ ایک بدنیتی پر مبنی Hugging Face پیکج کو لوڈ کرنے سے ایک ریموٹ شیل کھل گیا، جو کہ مقامی AI کی ایک مہتواکانکشی تشریح ہے۔ لوڈنگ عملدرآمد کیسے بن جاتی ہے؟ یہ کن رازوں تک پہنچ سکتا ہے؟ اصل میں اسے کیا روکتا ہے؟ اور ایک پہیلی کو ذہن میں رکھیں۔ ایک ماڈل لوڈ ہونے میں ناکام ہو سکتا ہے جبکہ خطرناک حصہ پہلے ہی ہو چکا ہو۔

0:18 یہ The Daily Diff ہے، اندر کی بات۔ Hugging Face مشین لرننگ ماڈلز کو شیئر کرنے کا ایک پلیٹ فارم ہے، ڈیٹا سیٹس اور ایپلیکیشنز۔ ماڈل کے وزن سیکھے ہوئے اعداد ہیں۔ ایک ریپوزٹری میں کنفیگریشن اور پائتھون کوڈ بھی ہو سکتا ہے۔ یہاں خطرہ قابل عمل پیکیجنگ ہے جو آپ کے کمپیوٹر میں داخل ہوتی ہے جب آپ اسے لوڈ کرتے ہیں۔ پکل پائتھون آبجیکٹس کو ان کی دوبارہ تعمیر کے لیے ہدایات کے ساتھ ذخیرہ کرتا ہے۔

ایک لوڈر پارسل کی ہدایات کو کیسے چلاتا ہے؟

0:37 ایک غیر محفوظ لوڈر ان ہدایات پر عمل کر سکتا ہے اور پیک کھولتے وقت فنکشنز کو کال کر سکتا ہے۔ بائٹس ڈاؤن لوڈ کرنے سے پارسل آپ کی ڈسک پر آ جاتا ہے۔ غیر سیریلائز کرنا اسے کھولتا ہے۔ کہیں، ایک فائل فارمیٹ کو بغیر تنخواہ کے سسٹم ایڈمنسٹریٹر کے عہدے پر ترقی دے دی گئی ہے۔ JFrog نے فروری 2024 میں Goober Two کی اطلاع دی۔ اس کے پکل پے لوڈ نے ایک ریورس شیل کھولا، جو ریموٹ کمانڈ تک رسائی کی پیشکش کے لیے باہر سے جڑا۔ ریپوزٹری حذف کر دی گئی۔ JFrog نے محققین کی شمولیت کی نشاندہی کرنے والے سراغ بھی پائے،

1:02 لہذا انتساب غیر یقینی ہے۔ ناپسندیدہ مہمان کو دستاویزی شکل دی گئی۔ اصل متاثرین سے اسناد کی چوری ثابت نہیں ہوئی۔

عمل کی پہنچ میں کون سے راز ہیں؟

1:09 آپ کے صارف کے طور پر چلنے والا کوڈ وہ سب پڑھ سکتا ہے جو وہ عمل پڑھ سکتا ہے۔ ایک ماؤنٹڈ کلاؤڈ کلید یا ایک قابل رسائی ٹوکن ایک ممکنہ ہدف بن جاتا ہے۔ اسے باہر بھیجنے کے لیے ایک فعال نیٹ ورک روٹ کی بھی ضرورت ہے۔ صرف عددی وزن میں کوئی جادوئی سند کی طاقت نہیں ہے۔ آپ کی اجازتیں ماڈل کارڈ کا دلچسپ حصہ فراہم کرتی ہیں۔ ایک اور دروازہ ہے۔ کچھ ماڈلز آپ سے ریموٹ کوڈ پر بھروسہ کرنے کو کہتے ہیں، جو ریپوزٹری سے پائتھون کو اجازت دیتا ہے۔ محفوظ ٹینسر فائلیں اس کوڈ کے ساتھ بیٹھ سکتی ہیں۔

1:32 وزن کے فارمیٹ کی جانچ ایک داخلے کو کور کرتی ہے، جبکہ ریپوزٹری کا کوڈ اب بھی آپ کا انتظار کر رہا ہے کہ آپ اسے وزیٹر بیج دیں۔

مقامی راستہ گمشدہ ہونے پر ریموٹ ماڈل کیوں بن سکتا ہے؟

1:38 Checkmarx نے ماڈل کنفیوژن کا مظاہرہ کیا۔ ایک گمشدہ مقامی ماڈل کا راستہ ایک مماثل نام کے ساتھ ایک عوامی ریپوزٹری میں حل ہو سکتا تھا۔ اسے ریموٹ کوڈ کے ساتھ یکجا کریں فعال، اور غلط پیکج عملدرآمد ہو سکتا ہے۔ یہ ایک گمنام کمپنی کے نمونے سے متعلق ایک تحقیقی مظاہرہ تھا، جو ایک دن کے اندر درست کر دیا گیا۔ ایک گمشدہ فولڈر کو ایک مالک مکان مل گیا۔ ReversingLabs نے فروری 2025 میں دو نمونوں کی اطلاع دی،

خراب پیکجز پرانے سکینر سے کیسے بچے؟

1:58 تکنیک کو nullify AI کہتے ہوئے۔ دونوں میں ریورس شیلز تھے۔ ان کی سات زپ پیکیجنگ نے عام PyTorch لوڈنگ کو روک دیا، لہذا اس راستے کے لیے نکالنا اور غیر محفوظ غیر سیریلائزیشن کی ضرورت تھی۔ خراب پکل سٹریمز نے سکینر کے اندھے مقام کو بھی بے نقاب کیا۔ ایک ناکام سکین کی تحقیق ہونی چاہیے اس سے پہلے کہ کوئی پارسل کھولے۔ محققین کے بے ضرر ٹیسٹ میں، ہدایات لوڈر کے فائل لکھنے سے پہلے

2:18 خراب حصے تک پہنچا اور ایک غلطی کو اٹھایا۔ تصور کریں کہ ایک پارسل کھولنا، ایک ریکون کو آزاد کرنا، پھر یہ دیکھنا کہ شپنگ لیبل غلط ہے۔ غلطی کا پیغام بہترین گرامر اور خوفناک وقت کے ساتھ پہنچتا ہے۔ Hugging Face نے 24 گھنٹوں کے اندر رپورٹ شدہ نمونوں کو ہٹا دیا اور سکینر کو تبدیل کیا۔ اس مخصوص دریافت نے ایک درستگی کو جنم دیا۔ ایک سیکیورٹی سکین مفید ثبوت ہے، اور ہر سکینر کی غلطی کو ایک صاف صحت کا بل سمجھنا ناکامی کی ایک قابل ذکر حد تک سخی تشریح ہے۔

2:43 محفوظ ٹینسرز اور موجودہ پیچڈ لوڈرز کو ترجیح دیں۔

چابی کو مہمان کی پہنچ سے باہر کیا رکھتا ہے؟

2:46 PyTorch نے ورژن 2.6 سے شروع ہونے والے اپنے ڈیفالٹ لوڈر کو تنگ کیا۔ حسب ضرورت کوڈ کا جائزہ لیں اور جائزہ شدہ ریویژن کو پن کریں۔ ناواقف پیکجز کو ذاتی کیز کے بغیر تنہائی میں چلائیں، محدود نیٹ ورک رسائی کے ساتھ۔ ماؤنٹڈ اسناد سے بھرا ایک کنٹینر ایک گفٹ باسکٹ ہے جس میں نام کی جگہیں ہیں۔ اس افتتاحی پہیلی کا ایک جواب ہے۔ لوڈنگ کی ناکامی آپ کو بتاتی ہے کہ عملدرآمد کہاں رکا۔ پہلے کی ہدایات پہلے ہی چل چکی ہوں گی۔

3:08 پارسل کھولنے سے پہلے رازوں کو اس کی پہنچ سے باہر رکھیں۔ فیصلہ، اندر کی بات۔

میں اس پر NEEDS REVIEW کیوں لگاؤں گا؟

3:16 لوڈر۔ مفت ڈاؤن لوڈ ایک ماڈل کے ساتھ آنا چاہیے، اور مہمانوں کی فہرست میرا فیصلہ رہنا چاہیے۔ اگر آپ اسے سننے کے بجائے پڑھنا چاہتے ہیں، تو ڈیف ہر صبح آپ کے ان باکس میں آتا ہے، daily diff dot dev پر مفت، لنک نیچے ہے۔ اور یہی آج کا ڈیف ہے۔ میں Axrisi سے Niko ہوں۔ ذمہ داری سے ضم کریں۔

ذرائع

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch