হাগিং ফেচ মডেল ফাইলসমূহে লুকাই থকা কোড চলাব পাৰে

এই ভিডিঅ’টোত কি আছে

• সংখ্যাগত মডেলৰ ওজন, এক্সিকিউটেবল ছিৰিয়ালাইজেচন আৰু কাষ্টম ৰিপোজিটৰী কোড ভিন্ন বস্তু।
• JFrog আৰু ReversingLabs-এ ৰিভাৰ্ছ-শ্বেল পেলোড নথিভুক্ত কৰিছিল; তেওঁলোকৰ নিৰ্বাচিত প্ৰতিবেদনসমূহে নাম থকা ভুক্তভোগীসকলৰ পৰা ক্ৰেডেনচিয়েল চুৰি হোৱা বুলি প্ৰমাণ কৰা নাই।
• Checkmarx মডেল কন্‌ফিউজন এটা গৱেষণা প্ৰদৰ্শন আছিল যাৰ বাবে এটা মিল থকা ৰিম'ট মডেল আৰু ইনচিকিউৰ লোডিংৰ প্ৰয়োজন আছিল।
• safetensors আৰু পেচড লোডাৰসমূহ পছন্দ কৰক, কাষ্টম কোড পৰ্যালোচনা আৰু পিন কৰক, আৰু অপৰিচিত পেকেজসমূহ ব্যক্তিগত গোপনীয়তা আৰু অনাৱশ্যক নেটৱৰ্ক এক্সচেছৰ পৰা পৃথক কৰক।

অনূদিত ট্ৰান্সক্ৰিপ্ট

মূল ইংৰাজী বৰ্ণনাৰ পৰা অনুবাদ কৰা হৈছে। উপলব্ধ অডিঅ’ আৰু কেপচন ইউটিউবে নিয়ন্ত্ৰণ কৰে।

এটা মডেল ডাউনলোডে কেনেকৈ এজন আলহীক নিমন্ত্ৰণ কৰিব পাৰে?

0:00 এটা মডেল ফাইল কেৱল ডিস্কত থকা সংখ্যাহে। এটা ক্ষতিকাৰক হাগিং ফেচ পেকেজ লোড কৰিলে এটা ৰিম'ট শ্বেল খোলা হৈছিল, যিটো স্থানীয় এআইৰ এক উচ্চাকাংক্ষী ব্যাখ্যা। লোড কৰাটো কেনেকৈ এক্সিকিউচন হয়? ই কি কি গোপনীয়তাত উপনীত হ'ব পাৰে? আচলতে কিহে ইয়াক ৰখায়? আৰু এটা সাঁথৰ মনত ৰাখিব। বিপদজনক অংশটো ইতিমধ্যে ঘটি যোৱাৰ পিছত এটা মডেলে লোড হ'বলৈ ব্যৰ্থ হ'ব পাৰে।

0:18 এইটো The Daily Diff, আন্ডাৰ দ্য হুড। হাগিং ফেচ মেচিন লাৰ্নিং মডেলসমূহ ভাগ বতৰা কৰাৰ এক প্লেটফৰ্ম, ডেটাসেট আৰু এপ্লিকেচন। মডেলৰ ওজন হৈছে শিকোৱা সংখ্যাসমূহ। এটা ৰিপোজিটৰীত কনফিগাৰেচন আৰু পাইথন কোডো থাকিব পাৰে। ইয়াত বিপদটো হ'ল আপুনি ইয়াক লোড কৰোঁতে আপোনাৰ কম্পিউটাৰত এক্সিকিউটেবল পেকেজিং প্ৰৱেশ কৰা। পেকেলে পাইথন অবজেক্টসমূহ পুনৰ নিৰ্মাণৰ নিৰ্দেশনাৰে সংগ্ৰহ কৰে।

এটা লোডাৰে কেনেকৈ পাৰ্চেলৰ নিৰ্দেশনা চলায়?

0:37 এটা সুৰক্ষিত নোহোৱা লোডাৰে সেই নিৰ্দেশনাসমূহ অনুসৰণ কৰিব পাৰে আৰু আনপেক কৰোঁতে ফাংচন কল কৰিব পাৰে। বাইটসমূহ ডাউনলোড কৰিলে পাৰ্চেলটো আপোনাৰ ডিস্কত ৰাখে। ডিছিৰিয়ালাইজিং-এ ইয়াক খোলে। ক'ৰবাত, এটা ফাইল ফৰ্মেটক অপ্ৰাপ্তৱান্থিক ছিষ্টেম এডমিনিষ্ট্ৰেটৰলৈ পদোন্নতি দিয়া হৈছে। JFrog-এ ফেব্ৰুৱাৰী ২০২৪-ত গোবাৰ টুৰ কথা জনাইছিল। ইয়াৰ পেকেল পেলোড-এ এটা ৰিভাৰ্ছ শ্বেল খুলিছিল, ৰিম'ট কমাণ্ড এক্সেছ আগবঢ়াবলৈ বাহিৰলৈ সংযোগ হৈছিল। ৰিপোজিটৰীটো ডিলিট কৰা হৈছিল। JFrog-এ গৱেষকৰ জড়িততাৰ ইংগিতো পাইছিল,

1:02 গতিকে এট্ৰিবিউচন অনিশ্চিত। অবাঞ্চিত আলহীজন নথিভুক্ত কৰা হৈছিল। প্ৰকৃত ভুক্তভোগীসকলৰ পৰা ক্ৰেডেনচিয়েল চুৰি হোৱাটো প্ৰতিষ্ঠা কৰা হোৱা নাছিল।

প্ৰক্ৰিয়াটোৰ কাৰ্যক্ষেত্ৰৰ ভিতৰত কি কি গোপনীয়তা আছে?

1:09 আপোনাৰ ব্যৱহাৰকাৰী হিচাপে চলা কোডে সেই প্ৰক্ৰিয়াটোৱে পঢ়িব পৰা সকলো পঢ়িব পাৰে। এটা মাউন্ট কৰা ক্লাউড কী বা এটা এক্সেছেবল টোকেন এটা সম্ভাৱ্য লক্ষ্য হৈ পৰে। ইয়াক পঠোৱাৰ বাবে এটা কাৰ্যক্ষম নেটৱৰ্ক ৰুটো লাগে। সংখ্যাগত ওজনসমূহৰ অকলে কোনো যাদুকৰী ক্ৰেডেনচিয়েল শক্তি নাই। আপোনাৰ অনুমতিয়ে মডেল কাৰ্ডৰ আকৰ্ষণীয় অংশটো যোগান ধৰে। আন এটা দুৱাৰ আছে। কিছুমান মডেলে আপোনাক ৰিম'ট কোড বিশ্বাস কৰিবলৈ কয়, যিয়ে ৰিপোজিটৰীৰ পৰা পাইথন অথৰাইজ কৰে। ছিফ টেনছৰ ফাইলসমূহ সেই কোডৰ কাষত থাকিব পাৰে।

1:32 ওজন ফৰ্মেট পৰীক্ষা কৰিলে এটা প্ৰৱেশপথ আৱৰি ধৰে, আনহাতে ৰিপোজিটৰীৰ কোডটো আপুনি ইয়াক এটা ভিজিটৰ বেজ দিয়াৰ বাবে এতিয়াও অপেক্ষা কৰি আছে।

এটা হেৰুৱা স্থানীয় পথ কিয় ৰিম'ট মডেল হ'ব পাৰে?

1:38 Checkmarx-এ মডেল কন্‌ফিউজন প্ৰদৰ্শন কৰিছিল। এটা হেৰুৱা স্থানীয় মডেল পাথে মিল থকা নামৰ সৈতে এটা ৰাজহুৱা ৰিপোজিটৰীলৈ সমাধান কৰিব পাৰে। সেইটো ৰিম'ট কোডৰ সৈতে সংযুক্ত কৰক সক্ষম কৰা হ'লে, ভুল পেকেজটো এক্সিকিউট হ'ব পাৰে। এইটো এটা অখ্যাত কোম্পানীৰ নমুনা জড়িত এটা গৱেষণা প্ৰদৰ্শন আছিল, এটা দিনৰ ভিতৰত সংশোধন কৰা হৈছিল। এটা হেৰুৱা ফোল্ডাৰে এজন ঘৰৰ মালিক লাভ কৰিছিল। ReversingLabs-এ ফেব্ৰুৱাৰী ২০২৫-ত দুটা নমুনা জনাইছিল,

ভঙা পেকেজবোৰে কেনেকৈ পুৰণি স্কেনাৰক এৰাই চলিছিল?

1:58 প্ৰযুক্তিটোক nullify AI বুলি কৈছিল। দুয়োটাতে ৰিভাৰ্ছ শ্বেল আছিল। তেওঁলোকৰ ৭ জিপ পেকেজিং-এ সাধাৰণ পাইটৰ্চ লোডিং বন্ধ কৰিছিল, গতিকে এই পথৰ বাবে এক্সট্ৰেকচন আৰু সুৰক্ষিত নোহোৱা ডিছিৰিয়ালাইজেচনৰ প্ৰয়োজন আছিল। ভঙা পেকেল ষ্ট্ৰীমসমূহেও এটা স্কেনাৰ ব্লাইণ্ড স্পট উন্মোচন কৰিছিল। এটা ব্যৰ্থ স্কেনৰ বিষয়ে কোনেও পাৰ্চেলটো খোলাৰ আগতে তদন্ত কৰা উচিত। গৱেষকসকলৰ নিৰ্দোষী পৰীক্ষাত, নিৰ্দেশনাসমূহে লোডাৰে এটা ফাইল লিখিছিল

2:18 ভঙা অংশটোলৈ উপনীত হোৱাৰ আগতে আৰু এটা ত্ৰুটি উত্থাপন কৰিছিল। এটা পাৰ্চেল খোলাৰ কল্পনা কৰক, ৰেকুনটোক এৰি দিয়া, তাৰ পিছত দেখা যে শ্বিপিং লেবেলটো অবৈধ। ত্ৰুটি বাৰ্তা অতি সুন্দৰ ব্যাকৰণ আৰু ভয়ানক সময়ৰ সৈতে আহে। হাগিং ফেচ-এ ২৪ ঘন্টাৰ ভিতৰত জনোৱা নমুনা বিলুপ্ত কৰিছিল আৰু স্কেনাৰ সলনি কৰিছিল। সেই বিশেষ ফলাফলটোৱে এটা সংশোধনৰ বাবে উদগনি দিছিল। এটা সুৰক্ষা স্কেন উপযোগী প্ৰমাণ, আৰু প্ৰতিটো স্কেনাৰ ত্ৰুটিক এটা শুদ্ধ বুলি গণ্য কৰা স্বাস্থ্যৰ বিলটো ব্যৰ্থতাৰ এক উল্লেখনীয় উদাৰ ব্যাখ্যা হৈয়েই আছে।

2:43 ছিফ টেনছৰ আৰু বৰ্তমানৰ পেচড লোডাৰসমূহ পছন্দ কৰক।

কিহে কুনজিক আলহীৰ কাৰ্যক্ষেত্ৰৰ বাহিৰত ৰাখে?

2:46 পাইটৰ্চ-এ ২.৬ সংস্কৰণৰ পৰা ইয়াৰ ডিফল্ট লোডাৰ সীমিত কৰিছিল। কাষ্টম কোড পৰ্যালোচনা কৰক আৰু পৰ্যালোচনা কৰা ৰিভিজন পিন কৰক। ব্যক্তিগত কী অবিহনে অপৰিচিত পেকেজসমূহ পৃথকভাৱে চলাওক, প্ৰতিবন্ধিত নেটৱৰ্ক এক্সেছৰ সৈতে। মাউন্ট কৰা ক্ৰেডেনচিয়েলৰে ভৰা এটা কন্টেইনাৰ নেমস্পেছৰ সৈতে এটা উপহাৰ বাস্কেট। সেই প্ৰাৰম্ভিক সাঁথৰৰ এটা উত্তৰ আছে। লোডিং ব্যৰ্থতাই আপোনাক ক'ত এক্সিকিউচন বন্ধ হৈছিল সেয়া ক'ব। আগৰ নিৰ্দেশনাসমূহ ইতিমধ্যে চলি থাকিব পাৰে।

3:08 পাৰ্চেলটো খোলাৰ আগতে গোপনীয়তাসমূহ ইয়াৰ কাৰ্যক্ষেত্ৰৰ বাহিৰত ৰাখক। ৰায়, আন্ডাৰ দ্য হুড।

মই কিয় ইয়াত NEEDS REVIEW লিখিম?

3:16 লোডাৰ। বিনামূলীয়া ডাউনলোডে এটা মডেলৰ সৈতে আহিব লাগে, আৰু আলহীৰ তালিকা মোৰ সিদ্ধান্ত হৈয়েই থাকিব লাগে। যদি আপুনি মোক শুনাৰ পৰিৱৰ্তে এইটো পঢ়িব বিচাৰে, তেন্তে প্ৰতিদিনে পুৱা আপোনাৰ ইনবক্সত ডিফটো পৰে, daily diff dot dev-ত বিনামূলীয়াকৈ, লিংক তলত আছে। আৰু সেয়াই আজিৰ বাবে ডিফ। মই এক্সিছিৰ নিকো। দায়িত্বশীলভাৱে মাৰ্জ কৰক।

উৎসসমূহ

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch