হাগিং ফেস মডেল ফাইল লুকানো কোড চালাতে পারে

এই ভিডিওতে যা আছে

• সংখ্যাসূচক মডেল ওজন, এক্সিকিউটেবল সিরিয়ালাইজেশন এবং কাস্টম রিপোজিটরি কোড ভিন্ন জিনিস।
• JFrog এবং ReversingLabs রিভার্স-শেল পেলোড নথিভুক্ত করেছে; তাদের নির্বাচিত প্রতিবেদনগুলি নামধারী শিকারদের থেকে শংসাপত্র চুরি প্রমাণ করে না।
• চেকমার্ক্স মডেল কনফিউশন ছিল একটি গবেষণা প্রদর্শন যার জন্য একটি মিলে যাওয়া রিমোট মডেল এবং অনিরাপদ লোডিং প্রয়োজন ছিল।
• সেফটেনসর এবং প্যাচ করা লোডার ব্যবহার করুন, কাস্টম কোড পর্যালোচনা এবং পিন করুন এবং ব্যক্তিগত গোপনীয়তা এবং অপ্রয়োজনীয় নেটওয়ার্ক অ্যাক্সেস থেকে অপরিচিত প্যাকেজগুলিকে আলাদা করুন।

অনুবাদিত প্রতিলিপি

মূল ইংরেজি বর্ণনা থেকে অনূদিত। উপলব্ধ অডিও এবং ক্যাপশন YouTube দ্বারা নিয়ন্ত্রিত।

একটি মডেল ডাউনলোড কীভাবে একজন অতিথিকে আমন্ত্রণ জানাতে পারে?

0:00 একটি মডেল ফাইল ডিস্কে কেবল সংখ্যা। একটি দূষিত Hugging Face প্যাকেজ লোড করা একটি রিমোট শেল খুলে দেয়, যা স্থানীয় AI এর একটি উচ্চাভিলাষী ব্যাখ্যা। লোডিং কীভাবে এক্সিকিউশনে পরিণত হয়? এটি কোন গোপনীয়তাগুলি অ্যাক্সেস করতে পারে? আসলে এটি কী বন্ধ করে? এবং একটি ধাঁধা মনে রাখবেন। বিপজ্জনক অংশটি ইতিমধ্যে ঘটে যাওয়ার পরে একটি মডেল লোড হতে ব্যর্থ হতে পারে।

0:18 এটি হল The Daily Diff, আড়ালে। Hugging Face হল মেশিন লার্নিং মডেল, ডেটাসেট এবং অ্যাপ্লিকেশন শেয়ার করার একটি প্ল্যাটফর্ম। ডেটাসেট এবং অ্যাপ্লিকেশন। মডেল ওজন হল শেখা সংখ্যা। একটি রিপোজিটরি কনফিগারেশন এবং পাইথন কোডও ধারণ করতে পারে। এখানে বিপদ হল এক্সিকিউটেবল প্যাকেজিং আপনার কম্পিউটারে প্রবেশ করা যখন আপনি এটি লোড করেন। পিকল পাইথন অবজেক্টগুলিকে পুনরায় তৈরি করার নির্দেশাবলী সহ সংরক্ষণ করে।

একটি লোডার কীভাবে পার্সেলের নির্দেশাবলী চালায়?

0:37 একটি অনিরাপদ লোডার সেই নির্দেশাবলী অনুসরণ করতে পারে এবং আনপ্যাক করার সময় ফাংশন কল করতে পারে। বাইট ডাউনলোড করা পার্সেলটিকে আপনার ডিস্কে রাখে। ডি-সিরিয়ালাইজেশন এটিকে খোলে। কোথাও, একটি ফাইল ফরম্যাটকে অবৈতনিক সিস্টেম অ্যাডমিনিস্ট্রেটর পদে উন্নীত করা হয়েছে। JFrog ফেব্রুয়ারি ২০২৪-এ গোবার টু রিপোর্ট করেছে। এর পিকল পেলোড একটি রিভার্স শেল খুলেছিল, রিমোট কমান্ড অ্যাক্সেস দেওয়ার জন্য বাইরে সংযোগ স্থাপন করেছিল। রিপোজিটরিটি মুছে ফেলা হয়েছিল। JFrog গবেষকদের জড়িত থাকার ইঙ্গিতও খুঁজে পেয়েছিল,

1:02 সুতরাং অ্যাট্রিবিউশন অনিশ্চিত। অবাঞ্ছিত অতিথিকে নথিভুক্ত করা হয়েছিল। প্রকৃত শিকারদের থেকে শংসাপত্র চুরি প্রতিষ্ঠিত হয়নি।

প্রক্রিয়াটির নাগালের মধ্যে কোন গোপনীয়তা আছে?

1:09 আপনার ব্যবহারকারী হিসাবে চলমান কোড সেই প্রক্রিয়াটি যা পড়তে পারে তা পড়তে পারে। একটি মাউন্ট করা ক্লাউড কী বা অ্যাক্সেসযোগ্য টোকেন একটি সম্ভাব্য লক্ষ্য হয়ে ওঠে। এটি বাইরে পাঠানোর জন্য একটি কার্যকর নেটওয়ার্ক রুটেরও প্রয়োজন। শুধুমাত্র সংখ্যাসূচক ওজনের কোনো জাদুর শংসাপত্র ক্ষমতা নেই। আপনার অনুমতি মডেল কার্ডের আকর্ষণীয় অংশ সরবরাহ করে। আরেকটি দরজা আছে। কিছু মডেল আপনাকে রিমোট কোড বিশ্বাস করতে বলে, যা রিপোজিটরি থেকে পাইথনকে অনুমোদন করে। সেই কোডের পাশে নিরাপদ টেনসর ফাইল থাকতে পারে।

1:32 ওজন বিন্যাস পরীক্ষা করা একটি প্রবেশপথকে কভার করে, যখন রিপোজিটরির কোড এখনও আপনার কাছে একটি ভিজিটর ব্যাজ দেওয়ার জন্য অপেক্ষা করছে। রিপোজিটরির কোড এখনও আপনার কাছে একটি ভিজিটর ব্যাজ দেওয়ার জন্য অপেক্ষা করছে।

কেন একটি অনুপস্থিত স্থানীয় পথ একটি রিমোট মডেল হয়ে উঠতে পারে?

1:38 চেকমার্ক্স মডেল কনফিউশন প্রদর্শন করেছে। একটি অনুপস্থিত স্থানীয় মডেল পথ একটি মিলে যাওয়া নামের একটি পাবলিক রিপোজিটরিতে সমাধান করতে পারে। এটিকে রিমোট কোডের সাথে একত্রিত করুন সক্রিয় করা হলে, ভুল প্যাকেজটি কার্যকর হতে পারে। এটি একটি বেনামী কোম্পানির নমুনা জড়িত একটি গবেষণা প্রদর্শন ছিল, এক দিনের মধ্যে সংশোধন করা হয়েছে। একটি অনুপস্থিত ফোল্ডার একজন বাড়িওয়ালা অর্জন করেছে। ReversingLabs ফেব্রুয়ারি ২০২৫-এ দুটি নমুনা রিপোর্ট করেছে,

ভাঙা প্যাকেজগুলি কীভাবে পুরানো স্ক্যানারকে এড়িয়ে গেছে?

1:58 এই কৌশলটিকে nullify AI বলে অভিহিত করেছে। উভয়টিতে রিভার্স শেল ছিল। তাদের ৭ জিপ প্যাকেজিং সাধারণ পাইটর্চ লোডিংকে ব্লক করেছিল, সুতরাং এই পথটির জন্য এক্সট্রাকশন এবং অনিরাপদ ডি-সিরিয়ালাইজেশন প্রয়োজন ছিল। ভাঙা পিকল স্ট্রিমগুলি একটি স্ক্যানার ব্লাইন্ড স্পটও উন্মোচন করেছে। একটি ব্যর্থ স্ক্যান পার্সেল খোলার আগে তদন্তের দাবি রাখে। গবেষকদের নিরীহ পরীক্ষায়, নির্দেশাবলী লোডার ভাঙা অংশে পৌঁছানোর এবং ত্রুটি উত্থাপন করার আগে একটি ফাইল লিখেছিল।

2:18 ভাঙা অংশে পৌঁছানোর এবং ত্রুটি উত্থাপন করার আগে একটি ফাইল লিখেছিল। কল্পনা করুন একটি পার্সেল খুলছেন, র্যাকুনটি ছেড়ে দিচ্ছেন, তারপর লক্ষ্য করছেন যে শিপিং লেবেলটি অবৈধ। লেবেলটি অবৈধ। ত্রুটি বার্তাটি চমৎকার ব্যাকরণ এবং ভয়ানক সময় নিয়ে আসে। Hugging Face চব্বিশ ঘন্টার মধ্যে রিপোর্ট করা নমুনাগুলি সরিয়ে দিয়েছে এবং স্ক্যানার পরিবর্তন করেছে। সেই নির্দিষ্ট ফলাফল একটি সমাধানের সূচনা করেছে। একটি নিরাপত্তা স্ক্যান দরকারী প্রমাণ, এবং প্রতিটি স্ক্যানার ত্রুটিকে একটি পরিষ্কার স্বাস্থ্য বিল হিসাবে বিবেচনা করা ব্যর্থতার একটি অসাধারণ উদার ব্যাখ্যা। স্বাস্থ্য বিল হিসাবে বিবেচনা করা ব্যর্থতার একটি অসাধারণ উদার ব্যাখ্যা।

2:43 সেফ টেনসর এবং বর্তমান প্যাচ করা লোডার ব্যবহার করুন।

কীভাবে চাবিটি অতিথির নাগালের বাইরে থাকে?

2:46 পাইটর্চ তার ডিফল্ট লোডারকে সংস্করণ ২.৬ থেকে শুরু করে সংকীর্ণ করেছে। কাস্টম কোড পর্যালোচনা করুন এবং পর্যালোচনা করা সংশোধনটি পিন করুন। অপরিচিত প্যাকেজগুলি ব্যক্তিগত কী ছাড়া বিচ্ছিন্নভাবে চালান, সীমাবদ্ধ নেটওয়ার্ক অ্যাক্সেস সহ। মাউন্ট করা শংসাপত্র পূর্ণ একটি কন্টেইনার হল নেমস্পেস সহ একটি উপহারের ঝুড়ি। সেই উদ্বোধনী ধাঁধার একটি উত্তর আছে। লোডিং ব্যর্থতা আপনাকে বলে যে এক্সিকিউশন কোথায় বন্ধ হয়েছে। পূর্ববর্তী নির্দেশাবলী ইতিমধ্যে চলতে পারে।

3:08 পার্সেল খোলার আগে গোপনীয়তাগুলি তার নাগালের বাইরে রাখুন। রায়, আড়ালে।

আমি কেন এটি NEEDS REVIEW স্ট্যাম্প করব?

3:16 লোডার। বিনামূল্যে ডাউনলোডের সাথে একটি মডেল আসা উচিত, এবং অতিথির তালিকা আমার সিদ্ধান্ত থাকা উচিত। আমার সিদ্ধান্ত থাকা উচিত। আপনি যদি এটি আমার মুখে শোনার চেয়ে পড়তে পছন্দ করেন তবে ডিফারেন্সটি প্রতিদিন সকালে আপনার ইনবক্সে আসে, daily diff dot dev-এ বিনামূল্যে, লিঙ্ক নিচে দেওয়া আছে। এবং আজকের জন্য এই হল ডিফারেন্স। আমি Axrisi থেকে নিকো। দায়িত্বের সাথে মার্জ করুন।

উৎস

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch