Hugging Face ମଡେଲ ଫାଇଲଗୁଡ଼ିକ ଲୁକ୍କାୟିତ କୋଡ୍ ଚଳାଇପାରେ

ଏହି ଭିଡିଓରେ କ'ଣ ଅଛି

• ସଂଖ୍ୟାତ୍ମକ ମଡେଲ ଓଜନ, ଏକଜ୍ୟୁଟେବଲ୍ ସିରିଆଲାଇଜେସନ୍ ଏବଂ କଷ୍ଟମ୍ ରିପୋଜିଟୋରୀ କୋଡ୍ ଭିନ୍ନ ଜିନିଷ |
• JFrog ଏବଂ ReversingLabs ରିଭର୍ସ-ଶେଲ୍ ପେଲୋଡ୍ ପ୍ରମାଣିତ କରିଛନ୍ତି; ସେମାନଙ୍କ ଦ୍ୱାରା ଚୟନିତ ରିପୋର୍ଟଗୁଡ଼ିକ ନାମିତ ପୀଡିତମାନଙ୍କଠାରୁ ପ୍ରମାଣପତ୍ର ଚୋରି ପ୍ରତିଷ୍ଠା କରେ ନାହିଁ |
• Checkmarx ମଡେଲ୍ କନଫ୍ୟୁଜନ୍ ଏକ ଅନୁସନ୍ଧାନ ପ୍ରଦର୍ଶନ ଥିଲା ଯାହା ଏକ ମେଳ ଖାଉଥିବା ରିମୋଟ ମଡେଲ୍ ଏବଂ ଅସୁରକ୍ଷିତ ଲୋଡିଂ ଆବଶ୍ୟକ କରୁଥିଲା |
• ସେଫଟେନ୍ସର୍ ଏବଂ ପ୍ୟାଚ୍ ହୋଇଥିବା ଲୋଡର୍ସକୁ ପସନ୍ଦ କରନ୍ତୁ, କଷ୍ଟମ୍ କୋଡ୍କୁ ସମୀକ୍ଷା କରନ୍ତୁ ଏବଂ ପିନ୍ କରନ୍ତୁ, ଏବଂ ଅପରିଚିତ ପ୍ୟାକେଜଗୁଡ଼ିକୁ ବ୍ୟକ୍ତିଗତ ଗୁପ୍ତ ରହସ୍ୟ ଏବଂ ଅନାବଶ୍ୟକ ନେଟୱର୍କ ପ୍ରବେଶରୁ ଅଲଗା କରନ୍ତୁ |

ଅନୁବାଦିତ ଟ୍ରାନ୍ସକ୍ରିପ୍ଟ

ମୂଳ ଇଂରାଜୀ ବର୍ଣ୍ଣନାରୁ ଅନୁବାଦିତ। ଉପଲବ୍ଧ ଅଡିଓ ଏବଂ କ୍ୟାପ୍ସନ୍ଗୁଡ଼ିକ YouTube ଦ୍ୱାରା ନିୟନ୍ତ୍ରିତ।

ଏକ ମଡେଲ୍ ଡାଉନଲୋଡ୍ କିପରି ଜଣେ ଅତିଥିଙ୍କୁ ଆମନ୍ତ୍ରଣ କରିପାରିବ?

0:00 ଏକ ମଡେଲ୍ ଫାଇଲ୍ କେବଳ ଡିସ୍କରେ ସଂଖ୍ୟା ଅଟେ | ଏକ ମାଲିସିଅସ୍ Hugging Face ପ୍ୟାକେଜ୍ ଲୋଡ୍ କରିବା ଏକ ରିମୋଟ୍ ଶେଲ୍ ଖୋଲିଲା, ଯାହା ସ୍ଥାନୀୟ AI ର ଏକ ମହତ୍ତ୍ୱାକାଂକ୍ଷୀ ବ୍ୟାଖ୍ୟା | ଲୋଡିଂ କିପରି ଏକଜ୍ୟୁକୁସନ୍ ହୁଏ? ଏହା କେଉଁ ରହସ୍ୟଗୁଡ଼ିକୁ ପହଞ୍ଚିପାରେ? କଣ ପ୍ରକୃତରେ ଏହାକୁ ଅଟକାଏ? ଏବଂ ଗୋଟିଏ ରହସ୍ୟକୁ ମନରେ ରଖନ୍ତୁ | ଏକ ମଡେଲ୍ ବିପଜ୍ଜନକ ଅଂଶଟି ପୂର୍ବରୁ ଘଟିସାରିବା ପରେ ଲୋଡ୍ କରିବାରେ ବିଫଳ ହୋଇପାରେ |

0:18 ଏହା ହେଉଛି The Daily Diff, ପରଦା ପଛରେ | Hugging Face ହେଉଛି ମେସିନ୍ ଲର୍ଣ୍ଣିଂ ମଡେଲ୍, ଡାଟାସେଟ୍ ଏବଂ ଆପ୍ଲିକେସନ୍ ବାଣ୍ଟିବା ପାଇଁ ଏକ ପ୍ଲାଟଫର୍ମ | ଡାଟାସେଟ୍ ଏବଂ ଆପ୍ଲିକେସନ୍ | ମଡେଲ୍ ଓଜନଗୁଡ଼ିକ ହେଉଛି ଶିକ୍ଷାଯାଇଥିବା ସଂଖ୍ୟା | ଏକ ରିପୋଜିଟୋରୀରେ କନଫିଗରେସନ୍ ଏବଂ ପାଇଥନ୍ କୋଡ୍ ମଧ୍ୟ ରହିପାରେ | ଏଠାରେ ବିପଦ ହେଉଛି ଏକଜ୍ୟୁଟେବଲ୍ ପ୍ୟାକେଜିଂ ଆପଣଙ୍କ କମ୍ପ୍ୟୁଟରରେ ପ୍ରବେଶ କରିବା ଯେତେବେଳେ ଆପଣ ଏହାକୁ ଲୋଡ୍ କରନ୍ତି | ପିକଲ୍ ପାଇଥନ୍ ଅବଜେକ୍ଟଗୁଡ଼ିକୁ ସେଗୁଡ଼ିକୁ ପୁନଃ ନିର୍ମାଣ କରିବା ପାଇଁ ନିର୍ଦ୍ଦେଶାବଳୀ ସହିତ ଷ୍ଟୋର୍ କରେ |

ଏକ ଲୋଡର୍ ପାର୍ସଲର ନିର୍ଦ୍ଦେଶାବଳୀକୁ କିପରି ଚଳାଇଥାଏ?

0:37 ଏକ ଅସୁରକ୍ଷିତ ଲୋଡର୍ ସେହି ନିର୍ଦ୍ଦେଶାବଳୀ ଅନୁସରଣ କରିପାରେ ଏବଂ ଅନପ୍ୟାକ୍ କରିବା ସମୟରେ ଫଙ୍କସନ୍ କଲ୍ କରିପାରେ | ବାଇଟ୍ ଡାଉନଲୋଡ୍ କରିବା ପାର୍ସଲକୁ ଆପଣଙ୍କ ଡିସ୍କରେ ରଖେ | ଡିସିରିଆଲାଇଜିଂ ଏହାକୁ ଖୋଲିଥାଏ | କେଉଁଠି ନା କେଉଁଠି, ଏକ ଫାଇଲ୍ ଫର୍ମାଟ୍ ଅବୈତନିକ ସିଷ୍ଟମ୍ ଆଡମିନିଷ୍ଟ୍ରେଟରକୁ ପଦୋନ୍ନତି ପାଇଛି | JFrog ଫେବୃଆରୀ ୨୦୨୪ ରେ Goober Two ରିପୋର୍ଟ କରିଥିଲା | ଏହାର ପିକଲ୍ ପେଲୋଡ୍ ଏକ ରିଭର୍ସ ଶେଲ୍ ଖୋଲିଥିଲା, ରିମୋଟ୍ କମାଣ୍ଡ୍ ପ୍ରବେଶ ପ୍ରଦାନ କରିବାକୁ ବାହାରକୁ ସଂଯୋଗ କରି | ରିପୋଜିଟୋରୀ ବିଲୋପ ହୋଇଗଲା | JFrog ଗବେଷକଙ୍କ ସମ୍ପୃକ୍ତି ସୂଚାଉଥିବା ସୂଚନା ମଧ୍ୟ ପାଇଲା,

1:02 ତେଣୁ ଆଟ୍ରିବ୍ୟୁସନ୍ ଅନିଶ୍ଚିତ | ଅବାଞ୍ଛିତ ଅତିଥିଙ୍କୁ ଡକ୍ୟୁମେଣ୍ଟ୍ କରାଯାଇଥିଲା | ପ୍ରକୃତ ପୀଡିତମାନଙ୍କଠାରୁ ପ୍ରମାଣପତ୍ର ଚୋରି ପ୍ରତିଷ୍ଠା ହୋଇନଥିଲା |

ପ୍ରକ୍ରିୟାର ପହଞ୍ଚ ମଧ୍ୟରେ କେଉଁ ରହସ୍ୟଗୁଡ଼ିକ ଅଛି?

1:09 ଆପଣଙ୍କ ୟୁଜର ଭାବରେ ଚାଲୁଥିବା କୋଡ୍ ସେହି ପ୍ରକ୍ରିୟା ଯାହା ପଢ଼ିପାରେ, ତାହା ପଢ଼ିପାରେ | ଏକ ମାଉଣ୍ଟେଡ୍ କ୍ଲାଉଡ୍ କୀ କିମ୍ବା ଏକ ପ୍ରବେଶଯୋଗ୍ୟ ଟୋକେନ୍ ଏକ ସମ୍ଭାବ୍ୟ ଲକ୍ଷ୍ୟ ହୋଇଯାଏ | ଏହାକୁ ବାହାରକୁ ପଠାଇବା ପାଇଁ ଏକ କାର୍ଯ୍ୟକ୍ଷମ ନେଟୱର୍କ ରୁଟ୍ ମଧ୍ୟ ଆବଶ୍ୟକ | କେବଳ ସଂଖ୍ୟାତ୍ମକ ଓଜନର କୌଣସି ଯାଦୁକରୀ ପ୍ରମାଣପତ୍ର ଶକ୍ତି ନାହିଁ | ଆପଣଙ୍କ ଅନୁମତି ମଡେଲ୍ କାର୍ଡର ରୋମାଞ୍ଚକର ଅଂଶ ପ୍ରଦାନ କରେ | ଆଉ ଗୋଟିଏ ଦ୍ୱାର ଅଛି | କିଛି ମଡେଲ୍ ଆପଣଙ୍କୁ ରିମୋଟ୍ କୋଡ୍କୁ ବିଶ୍ୱାସ କରିବାକୁ କୁହନ୍ତି, ଯାହା ରିପୋଜିଟୋରୀରୁ ପାଇଥନ୍ ଅନୁମତି ଦିଏ | ସେହି କୋଡ୍ ପାଖରେ ସେଫ୍ ଟେନ୍ସର୍ ଫାଇଲ୍ ରହିପାରେ |

1:32 ଓଜନ ଫର୍ମାଟ୍ ଯାଞ୍ଚ କରିବା ଗୋଟିଏ ପ୍ରବେଶକୁ ଆବୃତ କରେ, ଯେତେବେଳେ ରିପୋଜିଟୋରୀର କୋଡ୍ ଆପଣ ଏହାକୁ ଏକ ଭିଜିଟର ବ୍ୟାଜ୍ ଦେବାକୁ ଅପେକ୍ଷା କରିଛି |

ଏକ ହଜିଯାଇଥିବା ସ୍ଥାନୀୟ ପଥ କାହିଁକି ଏକ ରିମୋଟ ମଡେଲରେ ପରିଣତ ହୋଇପାରେ?

1:38 Checkmarx ମଡେଲ୍ କନଫ୍ୟୁଜନ୍ ପ୍ରଦର୍ଶନ କରିଥିଲା | ଏକ ହଜିଯାଇଥିବା ସ୍ଥାନୀୟ ମଡେଲ୍ ପଥ ଏକ ମେଳ ଖାଉଥିବା ନାମ ସହିତ ଏକ ସାର୍ବଜନୀନ ରିପୋଜିଟୋରୀରେ ସମାଧାନ ହୋଇପାରେ | ତାହାକୁ ରିମୋଟ୍ କୋଡ୍ ସହିତ ମିଶାନ୍ତୁ | ସକ୍ଷମ ହୋଇଛି, ଏବଂ ଭୁଲ ପ୍ୟାକେଜ୍ ଏକଜ୍ୟୁକୁଟ୍ ହୋଇପାରେ | ଏହା ଏକ ଅନାମଧେୟ କମ୍ପାନୀର ନମୁନା ସହିତ ଜଡିତ ଏକ ଅନୁସନ୍ଧାନ ପ୍ରଦର୍ଶନ ଥିଲା, ଏକ ଦିନ ମଧ୍ୟରେ ସଂଶୋଧିତ ହୋଇଛି | ଏକ ହଜିଯାଇଥିବା ଫୋଲ୍ଡର୍ ଏକ ଘରମାଲିକ ହାସଲ କଲା | ReversingLabs ଫେବୃଆରୀ ୨୦୨୫ ରେ ଦୁଇଟି ନମୁନା ରିପୋର୍ଟ କରିଥିଲା,

ଭଙ୍ଗା ପ୍ୟାକେଜଗୁଡ଼ିକ କିପରି ପୁରୁଣା ସ୍କାନରକୁ ଏଡ଼ାଇଲେ?

1:58 ବୈଷୟିକ କୌଶଳକୁ ନଲିଫାଇ AI କହି | ଉଭୟରେ ରିଭର୍ସ ଶେଲ୍ ଥିଲା | ସେମାନଙ୍କର ୭ ଜିପ୍ ପ୍ୟାକେଜିଂ ସାଧାରଣ PyTorch ଲୋଡିଂକୁ ଅବରୋଧ କରିଥିଲା, ତେଣୁ ଏହି ପଥରେ ଏକ୍ସଟ୍ରାକ୍ସନ୍ ଏବଂ ଅସୁରକ୍ଷିତ ଡିସିରିଆଲାଇଜେସନ୍ ଆବଶ୍ୟକ | ଭଙ୍ଗା ପିକଲ୍ ଷ୍ଟ୍ରିମ୍ ମଧ୍ୟ ଏକ ସ୍କାନର୍ ବ୍ଲାଇଣ୍ଡ୍ ସ୍ପଟ୍ ପ୍ରକାଶ କରିଥିଲା | ଏକ ବିଫଳ ସ୍କାନ୍ ଅନୁସନ୍ଧାନଯୋଗ୍ୟ, ଯେକେହି ପାର୍ସଲ ଖୋଲିବା ପୂର୍ବରୁ | ଗବେଷକଙ୍କ ନିରୀହ ପରୀକ୍ଷାରେ, ନିର୍ଦ୍ଦେଶାବଳୀ ଲୋଡର୍ ପୂର୍ବରୁ ଏକ ଫାଇଲ୍ ଲେଖିଲା

2:18 ଭଙ୍ଗା ଅଂଶରେ ପହଞ୍ଚିଲା ଏବଂ ଏକ ତ୍ରୁଟି ଉଠାଇଲା | ଏକ ପାର୍ସଲ ଖୋଲିବା, ରାକୁନ୍ ଛାଡିବା, ତାପରେ ସିପିଂ ଲେବଲ୍ ଅବୈଧ ବୋଲି ଜାଣିବା କଥା କଳ୍ପନା କରନ୍ତୁ | ଲେବଲ୍ ଅବୈଧ ଅଟେ | ତ୍ରୁଟି ବାର୍ତ୍ତା ଉତ୍କୃଷ୍ଟ ବ୍ୟାକରଣ ଏବଂ ଭୟଙ୍କର ସମୟ ସହିତ ପହଞ୍ଚେ | Hugging Face ୨୪ ଘଣ୍ଟା ମଧ୍ୟରେ ରିପୋର୍ଟ ହୋଇଥିବା ନମୁନାଗୁଡ଼ିକୁ ହଟାଇ ଦେଲା ଏବଂ ସ୍କାନରକୁ ପରିବର୍ତ୍ତନ କଲା | ସେହି ନିର୍ଦ୍ଦିଷ୍ଟ ଆବିଷ୍କାର ଏକ ସୁଧାର ଆଣିଲା | ଏକ ସୁରକ୍ଷା ସ୍କାନ୍ ଏକ ଉପଯୋଗୀ ପ୍ରମାଣ ଅଟେ, ଏବଂ ପ୍ରତ୍ୟେକ ସ୍କାନର୍ ତ୍ରୁଟିକୁ ଏକ ସ୍ୱଚ୍ଛ ସ୍ୱାସ୍ଥ୍ୟ ପ୍ରମାଣପତ୍ର ଭାବରେ ଗ୍ରହଣ କରିବା ବିଫଳତାର ଏକ ଉଲ୍ଲେଖନୀୟ ଉଦାର ବ୍ୟାଖ୍ୟା ହୋଇ ରହିଛି |

2:43 ସେଫ୍ ଟେନ୍ସର୍ ଏବଂ ବର୍ତ୍ତମାନର ପ୍ୟାଚ୍ ହୋଇଥିବା ଲୋଡର୍ସକୁ ପସନ୍ଦ କରନ୍ତୁ |

ଅତିଥିଙ୍କ ପହଞ୍ଚ ବାହାରେ ଚାବିକୁ କିଏ ରଖେ?

2:46 PyTorch ଏହାର ଡିଫଲ୍ଟ ଲୋଡରକୁ ଭର୍ସନ ୨.୬ ରୁ ସଂକୁଚିତ କଲା | କଷ୍ଟମ୍ କୋଡ୍କୁ ସମୀକ୍ଷା କରନ୍ତୁ ଏବଂ ସମୀକ୍ଷା କରାଯାଇଥିବା ରିଭିଜନକୁ ପିନ୍ କରନ୍ତୁ | ବ୍ୟକ୍ତିଗତ ଚାବି ବିନା ଅପରିଚିତ ପ୍ୟାକେଜଗୁଡ଼ିକୁ ଅଲଗା ଭାବରେ ଚଲାନ୍ତୁ, ପ୍ରତିବନ୍ଧିତ ନେଟୱର୍କ ପ୍ରବେଶ ସହିତ | ମାଉଣ୍ଟେଡ୍ ପ୍ରମାଣପତ୍ରରେ ପୂର୍ଣ୍ଣ ଏକ କଣ୍ଟେନର ଏକ ଉପହାର ବାସ୍କେଟ୍ ଯେଉଁଥିରେ ନାମସ୍ଥାନ ଅଛି | ସେହି ପ୍ରାରମ୍ଭିକ ରହସ୍ୟର ଏକ ଉତ୍ତର ଅଛି | ଲୋଡିଂ ବିଫଳତା ଆପଣଙ୍କୁ କହିଥାଏ ଯେ ଏକଜ୍ୟୁକୁସନ୍ କେଉଁଠାରେ ବନ୍ଦ ହୋଇଛି | ପୂର୍ବ ନିର୍ଦ୍ଦେଶାବଳୀଗୁଡ଼ିକ ହୁଏତ ପୂର୍ବରୁ ଚାଲିସାରିଥିବେ |

3:08 ପାର୍ସଲ ଖୋଲିବା ପୂର୍ବରୁ ରହସ୍ୟଗୁଡ଼ିକୁ ଏହାର ପହଞ୍ଚ ବାହାରେ ରଖନ୍ତୁ | ରାୟ, ପରଦା ପଛରେ |

ମୁଁ ଏହାକୁ NEEDS REVIEW କାହିଁକି ଷ୍ଟାମ୍ପ୍ କରିବି?

3:16 ଲୋଡର୍ | ମାଗଣା ଡାଉନଲୋଡ୍ ଏକ ମଡେଲ୍ ସହିତ ଆସିବା ଉଚିତ୍, ଏବଂ ଅତିଥି ତାଲିକା ମୋର ନିଷ୍ପତ୍ତି ହୋଇ ରହିବା ଉଚିତ୍ | ଯଦି ଆପଣ ଏହାକୁ ମୋ ପାଟିରୁ ଶୁଣିବା ଅପେକ୍ଷା ପଢ଼ିବାକୁ ପସନ୍ଦ କରନ୍ତି, ତେବେ ଡିଫ୍ ପ୍ରତିଦିନ ସକାଳେ ଆପଣଙ୍କ ଇନବକ୍ସରେ ଆସିଥାଏ, daily diff dot dev ରେ ମାଗଣା, ଲିଙ୍କ୍ ତଳେ ଅଛି | ଏବଂ ଆଜି ପାଇଁ ଏହା ହେଉଛି ଡିଫ୍ | ମୁଁ Axrisi ରୁ Niko | ଦାୟିତ୍ୱର ସହିତ ମର୍ଜ କରନ୍ତୁ |

ଉତ୍ସଗୁଡ଼ିକ

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch