+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

হাগিং ফেচ মডেল ফাইলসমূহে লুকাই থকা কোড চলাব পাৰে

ক্ষতিকাৰক মডেল পেকেজসমূহে সুৰক্ষিত নোহোৱা লোডিংৰ সময়ত কোড এক্সিকিউট কৰিব পাৰে।

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

ক্ষতিকাৰক মডেল পেকেজসমূহে সুৰক্ষিত নোহোৱা লোডিংৰ সময়ত কোড এক্সিকিউট কৰিব পাৰে। তিনিটা নথিভুক্ত উদাহৰণে পেকেল ৰিভাৰ্ছ শ্বেল, ভাঙি যোৱা ফাইল স্কেনাৰৰ আচৰণ, আৰু গৱেষণাত প্ৰদৰ্শিত মডেল-নামৰ বিভ্ৰান্তি ব্যাখ্যা কৰে, লগতে ক্ৰেডেনচিয়েল চুৰিৰ দাবীৰ ওপৰত স্পষ্ট সীমা থাকে।

লিখিত সংস্কৰণ পঢ়ক (ইংৰাজী) ↗

এই ভিডিঅ’টোত কি আছে

  • সংখ্যাগত মডেলৰ ওজন, এক্সিকিউটেবল ছিৰিয়ালাইজেচন আৰু কাষ্টম ৰিপোজিটৰী কোড ভিন্ন বস্তু।
  • JFrog আৰু ReversingLabs-এ ৰিভাৰ্ছ-শ্বেল পেলোড নথিভুক্ত কৰিছিল; তেওঁলোকৰ নিৰ্বাচিত প্ৰতিবেদনসমূহে নাম থকা ভুক্তভোগীসকলৰ পৰা ক্ৰেডেনচিয়েল চুৰি হোৱা বুলি প্ৰমাণ কৰা নাই।
  • Checkmarx মডেল কন্‌ফিউজন এটা গৱেষণা প্ৰদৰ্শন আছিল যাৰ বাবে এটা মিল থকা ৰিম'ট মডেল আৰু ইনচিকিউৰ লোডিংৰ প্ৰয়োজন আছিল।
  • safetensors আৰু পেচড লোডাৰসমূহ পছন্দ কৰক, কাষ্টম কোড পৰ্যালোচনা আৰু পিন কৰক, আৰু অপৰিচিত পেকেজসমূহ ব্যক্তিগত গোপনীয়তা আৰু অনাৱশ্যক নেটৱৰ্ক এক্সচেছৰ পৰা পৃথক কৰক।

প্ৰশ্ন আৰু উত্তৰ

মেশিন লার্নিং মডেল এটা ডাউনলۆড কৰিলে মোৰ কম্পিউটাৰত কেনেকৈ দূষিত কোড চলিব পাৰে?

বাইটসমূহ ডাউনল'ড কৰিলে ফাইলবোৰ কেৱল ডিস্কতহে জমা হয়। যেতিয়া এটা নিৰাপদ নোহোৱা লোডাৰে সেইবোৰ ডিচেৰিয়ালাইজ কৰে তেতিয়াহে বিপদ আৰম্ভ হয়। পিকালে পাইথন অবজেক্টসমূহ পুনৰ নিৰ্মাণৰ নিৰ্দেশনা সহ সংৰক্ষণ কৰে, আৰু এটা লোডাৰে সেই নিৰ্দেশনাবোৰ অনুসৰণ কৰি আনপেক কৰোঁতে ফাংচন কল কৰিব পাৰে। JFrog-এ এটা হাংগিং ফেচ মডেল নথিভুক্ত কৰিছিল যাৰ পিকালে ৰিভাৰ্ছ শ্বেল খুলিছিল, যি ৰিম'ট কমাণ্ড এক্সেছ প্ৰদান কৰে।

এই অংশটো চাওক 0:35 · JFrog · PyTorch

দূষিত হাংগিং ফেচ মডেলসমূহে ডেভেলপাৰসকলৰ ক্ৰেডেনচিয়েল চুৰি কৰিছিলনে?

নিৰ্বাচিত প্ৰতিবেদনসমূহে সেয়া স্থাপন কৰা নাই। JFrog আৰু ReversingLabs-এ ৰিভাৰ্ছ-শ্বেল পেল'ডসমূহ নথিভুক্ত কৰিছিল, কিন্তু কোনো প্ৰতিবেদনে নাম দিয়া ভুক্তভোগীৰ পৰা ক্ৰেডেনচিয়েল চুৰিৰ কথা স্থাপন কৰা নাই। এই খণ্ডটোৱে ইয়াৰ পৰিৱৰ্তে এক্সপ'জাৰ ব্যাখ্যা কৰে: আপোনাৰ ব্যৱহাৰকাৰী হিচাপে চলা কোডে সেই প্ৰক্ৰিয়াই যি পঢ়িব পাৰে সেয়া পঢ়িব পাৰে, যেনে এটা মাউণ্টেড ক্লাউড কী বা এটা এক্সেছিবল টোকেন, যদি ইয়াৰ নেটৱৰ্ক ৰুট থাকে।

এই অংশটো চাওক 1:09 · JFrog · ReversingLabs

এআই মডেল যোগান শৃংখল আক্ৰমণত মডেল কনফিউচন কি?

চেকমার্ক্সে এটা ঘটনা বৰ্ণনা কৰিছিল য'ত এটা হেৰুওৱা স্থানীয় মডেল পাথে একে নামৰ এটা ৰাজহুৱা ৰিপজিটৰীলৈ সমাধান কৰিব পাৰিছিল। ৰিম'ট কোড সক্ৰিয় আৰু নিৰাপদ নোহোৱা লোডিং-ৰ সৈতে মিলি, ভুল পেকেজটো কাৰ্যকৰী হ'ব পাৰে। ই এটা নামহীন কোম্পানীৰ নমুনা জড়িত এটা গৱেষণা প্ৰদৰ্শন আছিল, যি এদিনৰ ভিতৰতে সংশোধন কৰা হৈছিল।

এই অংশটো চাওক 1:38 · Checkmarx Zero · Hugging Face

ভঙা পিকালে ফাইলবোৰ হাংগিং ফেচৰ মেলৱেৰ স্কেনাৰৰ পৰা কেনেকৈ পাৰ হ'ল?

ReversingLabs-এ দুটা নমুনাৰ বিষয়ে প্ৰতিবেদন দিছিল যাৰ ভঙা পিকালে ষ্ট্ৰিমসমূহে স্কেনাৰৰ এটা ব্লাইণ্ড স্পট উন্মোচন কৰিছিল। গৱেষকসকলৰ নিৰাপদ পৰীক্ষাত, লোডাৰে ভঙা অংশটোলৈ যোৱাৰ আগতে নিৰ্দেশনাবোৰে এটা ফাইল লিখিছিল আৰু এটা ত্ৰুটি তুলিছিল, গতিকে বিপজ্জনক অংশটো ইতিমধ্যেই চলি যোৱাৰ পিছত এটা মডেল লোড হ'বলৈ ব্যৰ্থ হ'ব পাৰে। হাংগিং ফেচে চব্বিশ ঘণ্টাৰ ভিতৰত প্ৰতিবেদন কৰা নমুনাবোৰ আঁতৰাই পেলাইছিল আৰু স্কেনাৰটো সলনি কৰিছিল।

এই অংশটো চাওক 1:55 · ReversingLabs · Hugging Face

ডেভেলপাৰসকলে হাংগিং ফেচৰ পৰা নিৰাপদভাৱে অবিশ্বস্ত মডেলবোৰ কেনেকৈ লোড কৰিব লাগে?

The Daily Diff-ৰ ৰায় আছিল NEEDS REVIEW। এই খণ্ডটোৱে ছেফটেনচৰ আৰু পেচ কৰা লোডাৰ, কাষ্টম কোড পৰ্যালোচনা কৰা আৰু পৰ্যালোচনা কৰা পুনৰীক্ষণ পিন কৰিবলৈ পৰামৰ্শ দিয়ে। অপৰিচিত পেকেজবোৰ ব্যক্তিগত গোপনীয়তা অবিহনে আৰু সীমিত নেটৱৰ্ক এক্সেছৰ সৈতে নিৰ্জীৱভাৱে চলাব লাগে। এটা স্কেনাৰ ত্ৰুটি এটা পৰিষ্কাৰ ফলাফল হিচাপে গণ্য নকৰি ইয়াৰ তদন্ত কৰা উচিত।

এই অংশটো চাওক 2:44 · Hugging Face · Hugging Face · PyTorch

অনূদিত ট্ৰান্সক্ৰিপ্ট

মূল ইংৰাজী বৰ্ণনাৰ পৰা অনুবাদ কৰা হৈছে। উপলব্ধ অডিঅ’ আৰু কেপচন ইউটিউবে নিয়ন্ত্ৰণ কৰে।

এটা মডেল ডাউনলোডে কেনেকৈ এজন আলহীক নিমন্ত্ৰণ কৰিব পাৰে?

0:00 এটা মডেল ফাইল কেৱল ডিস্কত থকা সংখ্যাহে। এটা ক্ষতিকাৰক হাগিং ফেচ পেকেজ লোড কৰিলে এটা ৰিম'ট শ্বেল খোলা হৈছিল, যিটো স্থানীয় এআইৰ এক উচ্চাকাংক্ষী ব্যাখ্যা। লোড কৰাটো কেনেকৈ এক্সিকিউচন হয়? ই কি কি গোপনীয়তাত উপনীত হ'ব পাৰে? আচলতে কিহে ইয়াক ৰখায়? আৰু এটা সাঁথৰ মনত ৰাখিব। বিপদজনক অংশটো ইতিমধ্যে ঘটি যোৱাৰ পিছত এটা মডেলে লোড হ'বলৈ ব্যৰ্থ হ'ব পাৰে।

0:18 এইটো The Daily Diff, আন্ডাৰ দ্য হুড। হাগিং ফেচ মেচিন লাৰ্নিং মডেলসমূহ ভাগ বতৰা কৰাৰ এক প্লেটফৰ্ম, ডেটাসেট আৰু এপ্লিকেচন। মডেলৰ ওজন হৈছে শিকোৱা সংখ্যাসমূহ। এটা ৰিপোজিটৰীত কনফিগাৰেচন আৰু পাইথন কোডো থাকিব পাৰে। ইয়াত বিপদটো হ'ল আপুনি ইয়াক লোড কৰোঁতে আপোনাৰ কম্পিউটাৰত এক্সিকিউটেবল পেকেজিং প্ৰৱেশ কৰা। পেকেলে পাইথন অবজেক্টসমূহ পুনৰ নিৰ্মাণৰ নিৰ্দেশনাৰে সংগ্ৰহ কৰে।

এটা লোডাৰে কেনেকৈ পাৰ্চেলৰ নিৰ্দেশনা চলায়?

0:37 এটা সুৰক্ষিত নোহোৱা লোডাৰে সেই নিৰ্দেশনাসমূহ অনুসৰণ কৰিব পাৰে আৰু আনপেক কৰোঁতে ফাংচন কল কৰিব পাৰে। বাইটসমূহ ডাউনলোড কৰিলে পাৰ্চেলটো আপোনাৰ ডিস্কত ৰাখে। ডিছিৰিয়ালাইজিং-এ ইয়াক খোলে। ক'ৰবাত, এটা ফাইল ফৰ্মেটক অপ্ৰাপ্তৱান্থিক ছিষ্টেম এডমিনিষ্ট্ৰেটৰলৈ পদোন্নতি দিয়া হৈছে। JFrog-এ ফেব্ৰুৱাৰী ২০২৪-ত গোবাৰ টুৰ কথা জনাইছিল। ইয়াৰ পেকেল পেলোড-এ এটা ৰিভাৰ্ছ শ্বেল খুলিছিল, ৰিম'ট কমাণ্ড এক্সেছ আগবঢ়াবলৈ বাহিৰলৈ সংযোগ হৈছিল। ৰিপোজিটৰীটো ডিলিট কৰা হৈছিল। JFrog-এ গৱেষকৰ জড়িততাৰ ইংগিতো পাইছিল,

1:02 গতিকে এট্ৰিবিউচন অনিশ্চিত। অবাঞ্চিত আলহীজন নথিভুক্ত কৰা হৈছিল। প্ৰকৃত ভুক্তভোগীসকলৰ পৰা ক্ৰেডেনচিয়েল চুৰি হোৱাটো প্ৰতিষ্ঠা কৰা হোৱা নাছিল।

প্ৰক্ৰিয়াটোৰ কাৰ্যক্ষেত্ৰৰ ভিতৰত কি কি গোপনীয়তা আছে?

1:09 আপোনাৰ ব্যৱহাৰকাৰী হিচাপে চলা কোডে সেই প্ৰক্ৰিয়াটোৱে পঢ়িব পৰা সকলো পঢ়িব পাৰে। এটা মাউন্ট কৰা ক্লাউড কী বা এটা এক্সেছেবল টোকেন এটা সম্ভাৱ্য লক্ষ্য হৈ পৰে। ইয়াক পঠোৱাৰ বাবে এটা কাৰ্যক্ষম নেটৱৰ্ক ৰুটো লাগে। সংখ্যাগত ওজনসমূহৰ অকলে কোনো যাদুকৰী ক্ৰেডেনচিয়েল শক্তি নাই। আপোনাৰ অনুমতিয়ে মডেল কাৰ্ডৰ আকৰ্ষণীয় অংশটো যোগান ধৰে। আন এটা দুৱাৰ আছে। কিছুমান মডেলে আপোনাক ৰিম'ট কোড বিশ্বাস কৰিবলৈ কয়, যিয়ে ৰিপোজিটৰীৰ পৰা পাইথন অথৰাইজ কৰে। ছিফ টেনছৰ ফাইলসমূহ সেই কোডৰ কাষত থাকিব পাৰে।

1:32 ওজন ফৰ্মেট পৰীক্ষা কৰিলে এটা প্ৰৱেশপথ আৱৰি ধৰে, আনহাতে ৰিপোজিটৰীৰ কোডটো আপুনি ইয়াক এটা ভিজিটৰ বেজ দিয়াৰ বাবে এতিয়াও অপেক্ষা কৰি আছে।

এটা হেৰুৱা স্থানীয় পথ কিয় ৰিম'ট মডেল হ'ব পাৰে?

1:38 Checkmarx-এ মডেল কন্‌ফিউজন প্ৰদৰ্শন কৰিছিল। এটা হেৰুৱা স্থানীয় মডেল পাথে মিল থকা নামৰ সৈতে এটা ৰাজহুৱা ৰিপোজিটৰীলৈ সমাধান কৰিব পাৰে। সেইটো ৰিম'ট কোডৰ সৈতে সংযুক্ত কৰক সক্ষম কৰা হ'লে, ভুল পেকেজটো এক্সিকিউট হ'ব পাৰে। এইটো এটা অখ্যাত কোম্পানীৰ নমুনা জড়িত এটা গৱেষণা প্ৰদৰ্শন আছিল, এটা দিনৰ ভিতৰত সংশোধন কৰা হৈছিল। এটা হেৰুৱা ফোল্ডাৰে এজন ঘৰৰ মালিক লাভ কৰিছিল। ReversingLabs-এ ফেব্ৰুৱাৰী ২০২৫-ত দুটা নমুনা জনাইছিল,

ভঙা পেকেজবোৰে কেনেকৈ পুৰণি স্কেনাৰক এৰাই চলিছিল?

1:58 প্ৰযুক্তিটোক nullify AI বুলি কৈছিল। দুয়োটাতে ৰিভাৰ্ছ শ্বেল আছিল। তেওঁলোকৰ ৭ জিপ পেকেজিং-এ সাধাৰণ পাইটৰ্চ লোডিং বন্ধ কৰিছিল, গতিকে এই পথৰ বাবে এক্সট্ৰেকচন আৰু সুৰক্ষিত নোহোৱা ডিছিৰিয়ালাইজেচনৰ প্ৰয়োজন আছিল। ভঙা পেকেল ষ্ট্ৰীমসমূহেও এটা স্কেনাৰ ব্লাইণ্ড স্পট উন্মোচন কৰিছিল। এটা ব্যৰ্থ স্কেনৰ বিষয়ে কোনেও পাৰ্চেলটো খোলাৰ আগতে তদন্ত কৰা উচিত। গৱেষকসকলৰ নিৰ্দোষী পৰীক্ষাত, নিৰ্দেশনাসমূহে লোডাৰে এটা ফাইল লিখিছিল

2:18 ভঙা অংশটোলৈ উপনীত হোৱাৰ আগতে আৰু এটা ত্ৰুটি উত্থাপন কৰিছিল। এটা পাৰ্চেল খোলাৰ কল্পনা কৰক, ৰেকুনটোক এৰি দিয়া, তাৰ পিছত দেখা যে শ্বিপিং লেবেলটো অবৈধ। ত্ৰুটি বাৰ্তা অতি সুন্দৰ ব্যাকৰণ আৰু ভয়ানক সময়ৰ সৈতে আহে। হাগিং ফেচ-এ ২৪ ঘন্টাৰ ভিতৰত জনোৱা নমুনা বিলুপ্ত কৰিছিল আৰু স্কেনাৰ সলনি কৰিছিল। সেই বিশেষ ফলাফলটোৱে এটা সংশোধনৰ বাবে উদগনি দিছিল। এটা সুৰক্ষা স্কেন উপযোগী প্ৰমাণ, আৰু প্ৰতিটো স্কেনাৰ ত্ৰুটিক এটা শুদ্ধ বুলি গণ্য কৰা স্বাস্থ্যৰ বিলটো ব্যৰ্থতাৰ এক উল্লেখনীয় উদাৰ ব্যাখ্যা হৈয়েই আছে।

2:43 ছিফ টেনছৰ আৰু বৰ্তমানৰ পেচড লোডাৰসমূহ পছন্দ কৰক।

কিহে কুনজিক আলহীৰ কাৰ্যক্ষেত্ৰৰ বাহিৰত ৰাখে?

2:46 পাইটৰ্চ-এ ২.৬ সংস্কৰণৰ পৰা ইয়াৰ ডিফল্ট লোডাৰ সীমিত কৰিছিল। কাষ্টম কোড পৰ্যালোচনা কৰক আৰু পৰ্যালোচনা কৰা ৰিভিজন পিন কৰক। ব্যক্তিগত কী অবিহনে অপৰিচিত পেকেজসমূহ পৃথকভাৱে চলাওক, প্ৰতিবন্ধিত নেটৱৰ্ক এক্সেছৰ সৈতে। মাউন্ট কৰা ক্ৰেডেনচিয়েলৰে ভৰা এটা কন্টেইনাৰ নেমস্পেছৰ সৈতে এটা উপহাৰ বাস্কেট। সেই প্ৰাৰম্ভিক সাঁথৰৰ এটা উত্তৰ আছে। লোডিং ব্যৰ্থতাই আপোনাক ক'ত এক্সিকিউচন বন্ধ হৈছিল সেয়া ক'ব। আগৰ নিৰ্দেশনাসমূহ ইতিমধ্যে চলি থাকিব পাৰে।

3:08 পাৰ্চেলটো খোলাৰ আগতে গোপনীয়তাসমূহ ইয়াৰ কাৰ্যক্ষেত্ৰৰ বাহিৰত ৰাখক। ৰায়, আন্ডাৰ দ্য হুড।

মই কিয় ইয়াত NEEDS REVIEW লিখিম?

3:16 লোডাৰ। বিনামূলীয়া ডাউনলোডে এটা মডেলৰ সৈতে আহিব লাগে, আৰু আলহীৰ তালিকা মোৰ সিদ্ধান্ত হৈয়েই থাকিব লাগে। যদি আপুনি মোক শুনাৰ পৰিৱৰ্তে এইটো পঢ়িব বিচাৰে, তেন্তে প্ৰতিদিনে পুৱা আপোনাৰ ইনবক্সত ডিফটো পৰে, daily diff dot dev-ত বিনামূলীয়াকৈ, লিংক তলত আছে। আৰু সেয়াই আজিৰ বাবে ডিফ। মই এক্সিছিৰ নিকো। দায়িত্বশীলভাৱে মাৰ্জ কৰক।

উৎসসমূহ

  1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
  2. Malicious ML models discovered on Hugging Face platformReversingLabs
  3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
  4. Pickle ScanningHugging Face
  5. SafetensorsHugging Face
  6. Loading custom modelsHugging Face
  7. Serialization semanticsPyTorch

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

সম্পৰ্কিত ভিডিঅ’সমূহ

under-the-hood · as · ২৩-০৯-২০২৬

যেতিয়া এটা মডেল মৰি যায়, ভিতৰত কি হয়

এটা AI মডেল মৰি নাযায় – ই এটা বন্ধ হোৱাৰ তাৰিখ পায়, আৰু পিছদিনা পুৱা, আপোনাৰ API কলে এটা 404 ঘূৰাই দিয়ে: "মডেলটো পুৰণি হৈ গৈছে, ইয়াত অধিক জানক।" ভিতৰত কি হয়: চাৰিটা-স্থিতিৰ পাইপলাইন (সক্ৰিয় → লে

3:15 ↗
under-the-hood · as · ১৯-০৯-২০২৬

পাছকী, আচলতে কেনেকৈ কাম কৰে

এটা পাছকী হৈছে এটা পাছৱৰ্ড যি আপোনাৰ ডিভাইছে উদ্ভাৱন কৰে, আপোনাক কেতিয়াও নেদেখুৱায় আৰু আপোনাক সহ কাৰো হাতত দিবলৈ অস্বীকাৰ কৰে। আচলতে: WebAuthn অনুষ্ঠান (প্ৰতি-চাইট কী যোৰা, প্ৰত্যাহ্বান, স্বাক্ষৰ),

3:12 ↗
daily · as · ৩১-১০-২০২৬

বিনেন্স হেক, কার্চৰৰ বজাৰত ক্ল'ড ক'ড এক্সটেনচনৰ এটা টেম্পাৰ্ড, নৰ্থফ্লাঙ্কৰ ঘটনা আৰু মিষ্ট্ৰাল লাৰ্জ ৪: এটা ডেইলী ডিফত চাৰিটা ডেভেলপাৰৰ কাহিনী

চাৰিটা ডেভেলপাৰৰ কাহিনী, প্ৰত্যেকটোৱেই ইয়াৰ প্ৰাথমিক উৎসৰ সৈতে জড়িত: বিনেন্সে প্ৰায় বিশ মিনিটত বিলিয়ন বিলিয়ন ডলাৰৰ ক্ৰিপ্টো হেৰুৱালে, ট্ৰেছিং ফাৰ্ম TRM Labs আৰু Elliptic-এ ভিন্ন মুঠ ধন প্ৰকাশ কৰি

6:25 ↗
daily · as · ২৭-১০-২০২৬

Qwen-ৰ ব্লক কৰা আপলোড প্ৰ’ব, এটা ক্ৰ’লাৰ ৰ’ব্লক্স হিচাপে লেবেল কৰা, পাইথনৰ JIT আঁতৰোৱা আৰু ডেবিয়ানৰ LLM ৰিভিউজ: এখন ডেইলি ডিফত চাৰিটা ডেভেলপাৰ কাহিনী

এটা মঙলবাৰৰ পৰা চাৰিটা ডেভেলপাৰ কাহিনী: কোহেৰে প্ৰতিবেদন দিছে যে আলিবাবাৰ Qwen3.8-Flash-Next য়ে বেজিংত থকা আলিবাবা ক্লাউড বাকেটলৈ এটা প্ৰ’ব ফাইল আপলোড কৰিবলৈ চেষ্টা কৰিছিল এটা পৰীক্ষামূলক ছেন্ডবক্সৰ

6:25 ↗