Hugging Face ಮಾದರಿ ಫೈಲ್‌ಗಳು ಗುಪ್ತ ಕೋಡ್ ಅನ್ನು ಚಲಾಯಿಸಬಹುದು

ಈ ವೀಡಿಯೊ ಏನನ್ನು ಒಳಗೊಂಡಿದೆ

• ಸಂಖ್ಯಾತ್ಮಕ ಮಾದರಿ ತೂಕಗಳು, ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದಾದ ಸರಣೀಕರಣ ಮತ್ತು ಕಸ್ಟಮ್ ರೆಪೊಸಿಟರಿ ಕೋಡ್ ವಿಭಿನ್ನ ವಿಷಯಗಳಾಗಿವೆ.
• JFrog ಮತ್ತು ReversingLabs ರಿವರ್ಸ್-ಶೆಲ್ ಪೇಲೋಡ್‌ಗಳನ್ನು ದಾಖಲಿಸಿವೆ; ಅವರ ಆಯ್ದ ವರದಿಗಳು ಹೆಸರಿಸಿದ ಬಲಿಪಶುಗಳಿಂದ ರುಜುವಾತು ಕಳ್ಳತನವನ್ನು ಸ್ಥಾಪಿಸುವುದಿಲ್ಲ.
• Checkmarx ಮಾದರಿ ಗೊಂದಲವು ಹೊಂದಾಣಿಕೆಯ ರಿಮೋಟ್ ಮಾದರಿ ಮತ್ತು ಅಸುರಕ್ಷಿತ ಲೋಡಿಂಗ್ ಅಗತ್ಯವಿರುವ ಸಂಶೋಧನಾ ಪ್ರದರ್ಶನವಾಗಿತ್ತು.
• ಸುರಕ್ಷಿತ ಟೆನ್ಸರ್‌ಗಳು ಮತ್ತು ಪ್ಯಾಚ್ ಮಾಡಿದ ಲೋಡರ್‌ಗಳನ್ನು ಆದ್ಯತೆ ನೀಡಿ, ಕಸ್ಟಮ್ ಕೋಡ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಪಿನ್ ಮಾಡಿ, ಮತ್ತು ಪರಿಚಯವಿಲ್ಲದ ಪ್ಯಾಕೇಜ್‌ಗಳನ್ನು ವೈಯಕ್ತಿಕ ರಹಸ್ಯಗಳಿಂದ ಮತ್ತು ಅನಗತ್ಯ ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶದಿಂದ ಪ್ರತ್ಯೇಕಿಸಿ.

ಅನುವಾದಿತ ಪ್ರತಿಲೇಖನ

ಮೂಲ ಇಂಗ್ಲಿಷ್ ನಿರೂಪಣೆಯಿಂದ ಅನುವಾದಿಸಲಾಗಿದೆ. ಲಭ್ಯವಿರುವ ಆಡಿಯೋ ಮತ್ತು ಶೀರ್ಷಿಕೆಗಳನ್ನು YouTube ನಿಯಂತ್ರಿಸುತ್ತದೆ.

ಮಾದರಿ ಡೌನ್‌ಲೋಡ್ ಅತಿಥಿಯನ್ನು ಹೇಗೆ ಆಹ್ವಾನಿಸಬಹುದು?

0:00 ಒಂದು ಮಾದರಿ ಫೈಲ್ ಕೇವಲ ಡಿಸ್ಕ್‌ನಲ್ಲಿರುವ ಸಂಖ್ಯೆಗಳು. ಒಂದು ದುರುದ್ದೇಶಪೂರಿತ Hugging Face ಪ್ಯಾಕೇಜ್ ಅನ್ನು ಲೋಡ್ ಮಾಡುವುದರಿಂದ ರಿಮೋಟ್ ಶೆಲ್ ತೆರೆಯುತ್ತದೆ, ಇದು ಸ್ಥಳೀಯ AI ನ ಮಹತ್ವಾಕಾಂಕ್ಷೆಯ ವ್ಯಾಖ್ಯಾನವಾಗಿದೆ. ಲೋಡಿಂಗ್ ಹೇಗೆ ಕಾರ್ಯಗತಗೊಳಿಸಲ್ಪಡುತ್ತದೆ? ಅದು ಯಾವ ರಹಸ್ಯಗಳನ್ನು ತಲುಪಬಹುದು? ನಿಜವಾಗಿ ಅದನ್ನು ಯಾವುದು ನಿಲ್ಲಿಸುತ್ತದೆ? ಮತ್ತು ಒಂದು ಒಗಟನ್ನು ನೆನಪಿನಲ್ಲಿಡಿ. ಅಪಾಯಕಾರಿ ಭಾಗ ಈಗಾಗಲೇ ನಡೆದ ನಂತರ ಒಂದು ಮಾದರಿಯು ಲೋಡ್ ಆಗಲು ವಿಫಲವಾಗಬಹುದು.

0:18 ಇದು The Daily Diff, ತೆರೆಮರೆಯ ಹಿಂದಿನದ್ದು. Hugging Face ಎಂಬುದು ಯಂತ್ರ ಕಲಿಕೆ ಮಾದರಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ವೇದಿಕೆಯಾಗಿದೆ, ಡೇಟಾಸೆಟ್‌ಗಳು ಮತ್ತು ಅಪ್ಲಿಕೇಶನ್‌ಗಳು. ಮಾದರಿ ತೂಕಗಳು ಕಲಿತ ಸಂಖ್ಯೆಗಳು. ಒಂದು ರೆಪೊಸಿಟರಿಯು ಕಾನ್ಫಿಗರೇಶನ್ ಮತ್ತು ಪೈಥಾನ್ ಕೋಡ್ ಅನ್ನು ಸಹ ಒಳಗೊಂಡಿರಬಹುದು. ಇಲ್ಲಿರುವ ಅಪಾಯವೆಂದರೆ ಕಾರ್ಯಗತಗೊಳಿಸಬಹುದಾದ ಪ್ಯಾಕೇಜಿಂಗ್ ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ಗೆ ಪ್ರವೇಶಿಸುವುದು ನೀವು ಅದನ್ನು ಲೋಡ್ ಮಾಡಿದಾಗ. ಪಿಕಲ್ ಪೈಥಾನ್ ಆಬ್ಜೆಕ್ಟ್‌ಗಳನ್ನು ಮರುನಿರ್ಮಾಣ ಮಾಡಲು ಸೂಚನೆಗಳೊಂದಿಗೆ ಸಂಗ್ರಹಿಸುತ್ತದೆ.

ಲೋಡರ್ ಪಾರ್ಸೆಲ್‌ನ ಸೂಚನೆಗಳನ್ನು ಹೇಗೆ ಚಲಾಯಿಸುತ್ತದೆ?

0:37 ಒಂದು ಅಸುರಕ್ಷಿತ ಲೋಡರ್ ಆ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಬಹುದು ಮತ್ತು ಅನ್‌ಪ್ಯಾಕಿಂಗ್ ಮಾಡುವಾಗ ಕಾರ್ಯಗಳನ್ನು ಕರೆಯಬಹುದು. ಬೈಟ್‌ಗಳನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡುವುದರಿಂದ ಪಾರ್ಸೆಲ್ ನಿಮ್ಮ ಡಿಸ್ಕ್‌ನಲ್ಲಿ ಇರಿಸುತ್ತದೆ. ಡಿಸೀರಿಯಲೈಜಿಂಗ್ ಅದನ್ನು ತೆರೆಯುತ್ತದೆ. ಎಲ್ಲೋ, ಒಂದು ಫೈಲ್ ಫಾರ್ಮ್ಯಾಟ್ ಅನ್ನು ವೇತನರಹಿತ ಸಿಸ್ಟಮ್ ನಿರ್ವಾಹಕರಿಗೆ ಬಡ್ತಿ ನೀಡಲಾಗಿದೆ. JFrog ಫೆಬ್ರವರಿ 2024 ರಲ್ಲಿ Goober Two ಅನ್ನು ವರದಿ ಮಾಡಿದೆ. ಅದರ ಪಿಕಲ್ ಪೇಲೋಡ್ ರಿವರ್ಸ್ ಶೆಲ್ ಅನ್ನು ತೆರೆಯಿತು, ರಿಮೋಟ್ ಕಮಾಂಡ್ ಪ್ರವೇಶವನ್ನು ನೀಡಲು ಹೊರಗೆ ಸಂಪರ್ಕಿಸಿತು. ರೆಪೊಸಿಟರಿಯನ್ನು ಅಳಿಸಲಾಗಿದೆ. JFrog ಸಂಶೋಧಕರ ಒಳಗೊಳ್ಳುವಿಕೆಯನ್ನು ಸೂಚಿಸುವ ಸುಳಿವುಗಳನ್ನು ಸಹ ಕಂಡುಹಿಡಿದಿದೆ,

1:02 ಆದ್ದರಿಂದ ಗುಣಲಕ್ಷಣವು ಅನಿಶ್ಚಿತವಾಗಿದೆ. ಅನಗತ್ಯ ಅತಿಥಿಯನ್ನು ದಾಖಲಿಸಲಾಗಿದೆ. ನಿಜವಾದ ಬಲಿಪಶುಗಳಿಂದ ರುಜುವಾತು ಕಳ್ಳತನವನ್ನು ಸ್ಥಾಪಿಸಲಾಗಿಲ್ಲ.

ಪ್ರಕ್ರಿಯೆಯ ವ್ಯಾಪ್ತಿಯಲ್ಲಿ ಯಾವ ರಹಸ್ಯಗಳಿವೆ?

1:09 ನಿಮ್ಮ ಬಳಕೆದಾರರಾಗಿ ಚಲಿಸುವ ಕೋಡ್ ಆ ಪ್ರಕ್ರಿಯೆಯು ಓದಬಹುದಾದ ಎಲ್ಲವನ್ನೂ ಓದಬಹುದು. ಮೌಂಟ್ ಮಾಡಿದ ಕ್ಲೌಡ್ ಕೀ ಅಥವಾ ಪ್ರವೇಶಿಸಬಹುದಾದ ಟೋಕನ್ ಒಂದು ಸಂಭವನೀಯ ಗುರಿಯಾಗುತ್ತದೆ. ಅದನ್ನು ಹೊರಗೆ ಕಳುಹಿಸಲು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ನೆಟ್‌ವರ್ಕ್ ಮಾರ್ಗವೂ ಬೇಕು. ಸಂಖ್ಯಾತ್ಮಕ ತೂಕಗಳಿಗೆ ಮಾತ್ರ ಯಾವುದೇ ಮ್ಯಾಜಿಕ್ ರುಜುವಾತು ಶಕ್ತಿಗಳಿಲ್ಲ. ನಿಮ್ಮ ಅನುಮತಿಗಳು ಮಾದರಿ ಕಾರ್ಡ್‌ನ ಆಸಕ್ತಿದಾಯಕ ಭಾಗವನ್ನು ಪೂರೈಸುತ್ತವೆ. ಮತ್ತೊಂದು ಬಾಗಿಲು ಇದೆ. ಕೆಲವು ಮಾದರಿಗಳು ರಿಮೋಟ್ ಕೋಡ್ ಅನ್ನು ನಂಬಲು ನಿಮ್ಮನ್ನು ಕೇಳುತ್ತವೆ, ಇದು ರೆಪೊಸಿಟರಿಯಿಂದ ಪೈಥಾನ್‌ಗೆ ಅಧಿಕಾರ ನೀಡುತ್ತದೆ. ಸುರಕ್ಷಿತ ಟೆನ್ಸರ್ ಫೈಲ್‌ಗಳು ಆ ಕೋಡ್‌ನ ಪಕ್ಕದಲ್ಲಿ ಕುಳಿತುಕೊಳ್ಳಬಹುದು.

1:32 ತೂಕದ ಸ್ವರೂಪವನ್ನು ಪರಿಶೀಲಿಸುವುದು ಒಂದು ಪ್ರವೇಶವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ, ಆದರೆ ರೆಪೊಸಿಟರಿಯ ಕೋಡ್ ನೀವು ಅದಕ್ಕೆ ಅತಿಥಿ ಬ್ಯಾಡ್ಜ್ ಅನ್ನು ನೀಡಲು ಇನ್ನೂ ಕಾಯುತ್ತಿದೆ.

ಸ್ಥಳೀಯ ಮಾರ್ಗ ಏಕೆ ರಿಮೋಟ್ ಮಾದರಿಯಾಗಬಹುದು?

1:38 Checkmarx ಮಾದರಿ ಗೊಂದಲವನ್ನು ಪ್ರದರ್ಶಿಸಿದೆ. ಕಾಣೆಯಾದ ಸ್ಥಳೀಯ ಮಾದರಿ ಮಾರ್ಗವು ಹೊಂದಾಣಿಕೆಯ ಹೆಸರಿನೊಂದಿಗೆ ಸಾರ್ವಜನಿಕ ರೆಪೊಸಿಟರಿಗೆ ಪರಿಹರಿಸಬಹುದು. ಅದನ್ನು ರಿಮೋಟ್ ಕೋಡ್‌ನೊಂದಿಗೆ ಸಂಯೋಜಿಸಿ ಸಕ್ರಿಯಗೊಳಿಸಿದರೆ, ತಪ್ಪಾದ ಪ್ಯಾಕೇಜ್ ಕಾರ್ಯಗತಗೊಳ್ಳಬಹುದು. ಇದು ಹೆಸರಿಸದ ಕಂಪನಿಯ ಮಾದರಿಯನ್ನು ಒಳಗೊಂಡ ಸಂಶೋಧನಾ ಪ್ರದರ್ಶನವಾಗಿತ್ತು, ಒಂದು ದಿನದೊಳಗೆ ಸರಿಪಡಿಸಲಾಯಿತು. ಕಾಣೆಯಾದ ಫೋಲ್ಡರ್ ಮಾಲೀಕರನ್ನು ಪಡೆದುಕೊಂಡಿತು. ReversingLabs ಫೆಬ್ರವರಿ 2025 ರಲ್ಲಿ ಎರಡು ಮಾದರಿಗಳನ್ನು ವರದಿ ಮಾಡಿದೆ,

ಮುರಿದ ಪ್ಯಾಕೇಜ್‌ಗಳು ಹಳೆಯ ಸ್ಕ್ಯಾನರ್ ಅನ್ನು ಹೇಗೆ ತಪ್ಪಿಸಿದವು?

1:58 ತಂತ್ರವನ್ನು nullify AI ಎಂದು ಕರೆಯಲಾಗಿದೆ. ಎರಡೂ ರಿವರ್ಸ್ ಶೆಲ್‌ಗಳನ್ನು ಒಳಗೊಂಡಿದ್ದವು. ಅವುಗಳ ಏಳು ಝಿಪ್ ಪ್ಯಾಕೇಜಿಂಗ್ ಸಾಮಾನ್ಯ PyTorch ಲೋಡಿಂಗ್ ಅನ್ನು ನಿರ್ಬಂಧಿಸಿತು, ಆದ್ದರಿಂದ ಈ ಮಾರ್ಗಕ್ಕೆ ಹೊರತೆಗೆಯುವಿಕೆ ಮತ್ತು ಅಸುರಕ್ಷಿತ ಡಿಸೀರಿಯಲೈಜೇಶನ್ ಅಗತ್ಯವಿದೆ. ಮುರಿದ ಪಿಕಲ್ ಸ್ಟ್ರೀಮ್‌ಗಳು ಸ್ಕ್ಯಾನರ್ ಬ್ಲೈಂಡ್ ಸ್ಪಾಟ್ ಅನ್ನು ಸಹ ಬಹಿರಂಗಪಡಿಸಿದವು. ಯಾರಾದರೂ ಪಾರ್ಸೆಲ್ ಅನ್ನು ತೆರೆಯುವ ಮೊದಲು ವಿಫಲವಾದ ಸ್ಕ್ಯಾನ್ ತನಿಖೆಗೆ ಅರ್ಹವಾಗಿದೆ. ಸಂಶೋಧಕರ ಹಾನಿಕಾರಕವಲ್ಲದ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ಸೂಚನೆಗಳು ಲೋಡರ್ ಮುರಿದ ಭಾಗವನ್ನು ತಲುಪುವ ಮೊದಲು ಫೈಲ್ ಅನ್ನು ಬರೆದವು ಮತ್ತು ದೋಷವನ್ನು ಹೆಚ್ಚಿಸಿದವು.

2:18 ಮುರಿದ ಭಾಗವನ್ನು ತಲುಪುವ ಮೊದಲು ಮತ್ತು ದೋಷವನ್ನು ಹೆಚ್ಚಿಸಿತು. ಒಂದು ಪಾರ್ಸೆಲ್ ಅನ್ನು ತೆರೆಯುವುದನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ, ರಕೂನ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿ, ನಂತರ ಶಿಪ್ಪಿಂಗ್ ಲೇಬಲ್ ಅಮಾನ್ಯವಾಗಿದೆ ಎಂದು ಗಮನಿಸಿ. ಶಿಪ್ಪಿಂಗ್ ಲೇಬಲ್ ಅಮಾನ್ಯವಾಗಿದೆ ಎಂದು ಗಮನಿಸಿ. ದೋಷ ಸಂದೇಶವು ಅತ್ಯುತ್ತಮ ವ್ಯಾಕರಣ ಮತ್ತು ಭಯಾನಕ ಸಮಯದೊಂದಿಗೆ ಬರುತ್ತದೆ. Hugging Face ವರದಿ ಮಾಡಿದ ಮಾದರಿಗಳನ್ನು 24 ಗಂಟೆಗಳ ಒಳಗೆ ತೆಗೆದುಹಾಕಿತು ಮತ್ತು ಸ್ಕ್ಯಾನರ್ ಅನ್ನು ಬದಲಾಯಿಸಿತು. ನಿರ್ದಿಷ್ಟ ಸಂಶೋಧನೆಯು ಒಂದು ಪರಿಹಾರವನ್ನು ಪ್ರೇರೇಪಿಸಿತು. ಒಂದು ಭದ್ರತಾ ಸ್ಕ್ಯಾನ್ ಉಪಯುಕ್ತ ಪುರಾವೆಯಾಗಿದೆ, ಮತ್ತು ಪ್ರತಿ ಸ್ಕ್ಯಾನರ್ ದೋಷವನ್ನು ಶುದ್ಧ ಆರೋಗ್ಯದ ಬಿಲ್ ಎಂದು ಪರಿಗಣಿಸುವುದು ವೈಫಲ್ಯದ ಗಮನಾರ್ಹವಾಗಿ ಉದಾರವಾದ ವ್ಯಾಖ್ಯಾನವಾಗಿ ಉಳಿದಿದೆ.

2:43 ಸುರಕ್ಷಿತ ಟೆನ್ಸರ್‌ಗಳು ಮತ್ತು ಪ್ರಸ್ತುತ ಪ್ಯಾಚ್ ಮಾಡಿದ ಲೋಡರ್‌ಗಳನ್ನು ಆದ್ಯತೆ ನೀಡಿ.

ಅತಿಥಿಯ ವ್ಯಾಪ್ತಿಯಿಂದ ಕೀಲಿಯನ್ನು ಯಾವುದು ಹೊರಗಿಡುತ್ತದೆ?

2:46 PyTorch ಆವೃತ್ತಿ 2.6 ರಿಂದ ಪ್ರಾರಂಭವಾಗಿ ಅದರ ಡೀಫಾಲ್ಟ್ ಲೋಡರ್ ಅನ್ನು ಸಂಕುಚಿತಗೊಳಿಸಿತು. ಕಸ್ಟಮ್ ಕೋಡ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಪರಿಶೀಲಿಸಿದ ಆವೃತ್ತಿಯನ್ನು ಪಿನ್ ಮಾಡಿ. ವೈಯಕ್ತಿಕ ಕೀಗಳಿಲ್ಲದೆ, ನಿರ್ಬಂಧಿತ ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶದೊಂದಿಗೆ ಪರಿಚಯವಿಲ್ಲದ ಪ್ಯಾಕೇಜ್‌ಗಳನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಚಲಾಯಿಸಿ. ನಿರ್ಬಂಧಿತ ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶದೊಂದಿಗೆ. ಮೌಂಟ್ ಮಾಡಿದ ರುಜುವಾತುಗಳಿಂದ ತುಂಬಿದ ಕಂಟೇನರ್ ಹೆಸರುಗಳೊಂದಿಗೆ ಉಡುಗೊರೆ ಬುಟ್ಟಿಯಾಗಿದೆ. ಆ ಆರಂಭಿಕ ಒಗಟಿಗೆ ಉತ್ತರವಿದೆ. ಲೋಡಿಂಗ್ ವೈಫಲ್ಯವು ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ ಎಲ್ಲಿ ನಿಲ್ಲಿಸಿತು ಎಂದು ನಿಮಗೆ ಹೇಳುತ್ತದೆ. ಹಿಂದಿನ ಸೂಚನೆಗಳು ಈಗಾಗಲೇ ಚಲಿಸಿರಬಹುದು.

3:08 ಪಾರ್ಸೆಲ್ ಅನ್ನು ತೆರೆಯುವ ಮೊದಲು ರಹಸ್ಯಗಳನ್ನು ಅದರ ವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಗಿಡಿ. ತೀರ್ಪು, ತೆರೆಮರೆಯ ಹಿಂದಿನದ್ದು.

ನಾನು ಇದನ್ನು NEEDS REVIEW ಎಂದು ಏಕೆ ಸ್ಟ್ಯಾಂಪ್ ಮಾಡಬೇಕು?

3:16 ಲೋಡರ್. ಉಚಿತ ಡೌನ್‌ಲೋಡ್ ಒಂದು ಮಾದರಿಯೊಂದಿಗೆ ಬರಬೇಕು, ಮತ್ತು ಅತಿಥಿ ಪಟ್ಟಿ ನನ್ನ ನಿರ್ಧಾರವಾಗಿರಬೇಕು. ನನ್ನ ನಿರ್ಧಾರವಾಗಿರಬೇಕು. ನೀವು ಇದನ್ನು ನಾನು ಹೇಳುವುದಕ್ಕಿಂತ ಓದಲು ಬಯಸಿದರೆ, ಡಿಫ್ ನಿಮ್ಮ ಇನ್‌ಬಾಕ್ಸ್‌ನಲ್ಲಿ ಪ್ರತಿದಿನ ಬೆಳಿಗ್ಗೆ ಬರುತ್ತದೆ, daily diff dot dev ನಲ್ಲಿ ಉಚಿತವಾಗಿ, ಲಿಂಕ್ ಕೆಳಗಿದೆ. ಮತ್ತು ಅದು ಇಂದಿನ ಡಿಫ್. ನಾನು Axrisi ನಿಂದ ನಿಕೋ. ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ವಿಲೀನಗೊಳಿಸಿ.

ಮೂಲಗಳು

1. Data Scientists Targeted by Malicious Hugging Face ML Models with Silent BackdoorJFrog
2. Malicious ML models discovered on Hugging Face platformReversingLabs
3. AI Model Confusion: An LLM/AI Model Supply Chain AttackCheckmarx Zero
4. Pickle ScanningHugging Face
5. SafetensorsHugging Face
6. Loading custom modelsHugging Face
7. Serialization semanticsPyTorch