এনভিডিয়া CMP 170HX মেমৰি: ভৌতিক HBM, কাৰ্যকৰী কনফিগাৰেচন আৰু ত্ৰুটিসমূহ

এই ভিডিঅ’টোত কি আছে

• ভৌতিক মেমৰি, কাৰ্যকৰীভাৱে কনফিগাৰ কৰা ক্ষমতা আৰু নিৰ্ভৰযোগ্যভাৱে ব্যৱহাৰযোগ্য মেমৰি পৃথক।
• আঠ-গিগাবাইট আৰু দহ-গিগাবাইট CMP 170HX সংস্কৰণসমূহত ভিন্ন ভৌতিক মেমৰি পেকেজ থাকে।
• পিছৰ কনফিগাৰেচন ৰেকৰ্ডসমূহে কাৰ্যকৰী ছেটিংছ সলনি কৰিব পাৰে আনহাতে ভৌতিক ফিউজৰ চিনবোৰ স্থায়ী হৈ থাকে।
• কেটে প্ৰতিবেদন কৰা পাৰফৰমেন্স তুলনাটোৱে OpenCL-ত FP16 half2 FMA পাটিগণিতিক জুখিছে, কোনো নিয়ন্ত্ৰিত ইনফাৰেন্স-স্পীড তুলনা অবিহনে।
• কনফিগাৰেচন আনলকৰ পিছতো নিৰ্মাণৰ ত্ৰুটিসমূহ থাকে; লেখকৰ চৌষষ্ঠি-গিগাবাইট কাৰ্ডে কোনো অতিৰিক্ত ফ্ৰেমবাফাৰ ক্ষমতা লাভ কৰা নাছিল।

অনূদিত ট্ৰান্সক্ৰিপ্ট

মূল ইংৰাজী বৰ্ণনাৰ পৰা অনুবাদ কৰা হৈছে। উপলব্ধ অডিঅ’ আৰু কেপচন ইউটিউবে নিয়ন্ত্ৰণ কৰে।

অতিৰিক্ত মেমৰি ক'ৰ পৰা আহিল?

0:00 এটা আঠ গিগাবাইট GPU মানে আঠ গিগাবাইট হাৰ্ডৱেৰ যেন লাগে। গৱেষক কেটে জনাইছে যে এটা এনভিডিয়া মাইনিং কাৰ্ডৰ ভিতৰত আশীটা ভৌতিকভাৱে উপস্থিত থাকে। এই ভিডিঅ'ত, মেমৰি ক'ত লুকাই আছিল? কিয় ইয়াক আনলক কৰিলেও আপুনি কম পাব পাৰে? আজি বুধবাৰ, নৱেম্বৰ এঘাৰ, আৰু এইটো The Daily Diff। আৰু কেটৰ এটা কাৰ্ডে দেখুৱাইছে যে বিনামূলীয়া আপগ্ৰেড ক'ত শেষ হয়। CMP 170HX হৈছে এনভিডিয়াৰ ইথেৰিয়াম মাইনিং এক্সিলেটৰ,

এই মাইনিং কাৰ্ডৰ ভিতৰত কি আছে?

0:22 A100-ৰ দৰেই GPU ডাইৰ চাৰিওফালে নিৰ্মিত। কেটে জনাইছে যে কনফিগাৰেচনৰ সীমাবদ্ধতাসমূহে পেকেজত থকা মেমৰি লুকুৱাই ৰাখে। ব্যৱহাৰযোগ্য ক্ষমতা এতিয়াও অক্ষত হাৰ্ডৱেৰ আৰু ড্ৰাইভাৰে হেণ্ডেল কৰিব পৰা এটা কনফিগাৰেচনৰ ওপৰত নিৰ্ভৰ কৰে। কেটে ১০ নৱেম্বৰত এই গৱেষণা প্ৰকাশ কৰিছিল। আজি হেকাৰ নিউজৰ পঢ়ুৱৈসকলে লুকাই থকা হাৰ্ডৱেৰ আৰু নিৰ্মাণৰ ত্ৰুটিসমূহৰ বিষয়ে তৰ্ক কৰিছিল। ইয়াত দুয়োটা উৎপাদন বিভাজন আৰু নিৰ্মাণ ফল দুয়োটাই গুৰুত্বপূৰ্ণ। মন্তব্য শাখাটোৱে ইতিমধ্যে নিজকে চিমিকণ্ডাক্টৰ গুণগত মানৰ

0:46 নিশ্চিতকৰণলৈ উন্নীত কৰিছে। ব্যয়বহুল অংশটো ইতিমধ্যে তাত আছে।

ইনষ্টল কৰা মেমৰি কেনেকৈ অদৃশ্য হৈ থাকিব পাৰে?

0:48 উচ্চ বেণ্ডউইডথ মেমৰি, বা HBM, পেকেজত GPU ডাইৰ কাষত থাকে। এনভিডিয়াৰ স্থাপত্য বৰ্ণনাই সম্পূৰ্ণ চিপক A100 হিচাপে বিক্ৰী হোৱা কনফিগাৰেচনৰ পৰা পৃথক কৰে। সম্পৰ্কিত হাৰ্ডৱেৰ বেলেগ বেলেগ সামগ্ৰী হ'ব পাৰে। কেটে দুটা সংস্কৰণ চিনাক্ত কৰিছে। আঠ গিগাবাইট কাৰ্ডখনত ভৌতিকভাৱে প্ৰায় আশীটা ইনষ্টল কৰা আছে। দহ গিগাবাইট কাৰ্ডখনত প্ৰায় চল্লিছটা আছে। এইবোৰ বেলেগ বেলেগ পেকেজ, সেয়েহে ডাঙৰ উৎপাদন লেবেলটো কম

1:10 মেমৰিৰ সৈতে আহিব পাৰে। মডেলৰ নামেৰে ক্ৰয় কৰাটোৱে এটা চাইড কুৱেষ্ট লাভ কৰিছে। নিৰ্মাণে এটা চিপৰ কিছু অংশত ত্ৰুটি ৰাখিব পাৰে। কেটে এটা সুবিধা নিষ্ক্ৰিয় কৰা কনফিগাৰেচনক ত্ৰুটিপূৰ্ণ হাৰ্ডৱেৰ চিনাক্ত কৰা ৰেকৰ্ডৰ পৰা পৃথক কৰে। কিছুমান নিষ্ক্ৰিয় সম্পদ উন্মোচন কৰিলে কাম কৰে। এটা ভৌতিকভাৱে ভাঙি যোৱা মেমৰি বেংক ভাঙি থাকে, আপোনাৰ GitHub readme যিমানেই বিশ্বাসযোগ্য নহওক কিয়। ইলেক্ট্ৰনিক ফিউজবোৰ স্থায়ীভাৱে

একমুখী ফিউজে কিয় এটা নতুন কনফিগাৰেচনৰ অনুমতি দিয়ে?

1:31 ছেটিংছ ৰেকৰ্ড কৰা ক্ষুদ্ৰ ভৌতিক গঠন। এটা উৰি যোৱা ফিউজ উৰি যোৱা থাকে। কাৰ্যকৰী ছেটিংছ কনফিগাৰেচন ৰেকৰ্ডৰ জৰিয়তে এনক'ড কৰিব পাৰি। কেটে পিছৰ ৰেকৰ্ডবোৰে পূৰ্বৰ কাৰ্যকৰী মানবোৰ সলনি কৰা বুলি বৰ্ণনা কৰিছে। ভৌতিক ইতিহাসটো থাকে, আনহাতে ইয়াৰ পৰা ব্যাখ্যা কৰা কনফিগাৰেচনটো সলনি হয়। এখন নথিপত্ৰৰ সৈতে এটা মূল নিৰ্দেশনা আৰু পিছৰ সংশোধনী কল্পনা কৰক। সংশোধনী যোগ কৰিলে কোনটো নিৰ্দেশনা প্ৰযোজ্য হয় সলনি হয়, আনহাতে মূল চিয়াঁহী থাকে।

1:51 ইনষ্টল কৰা মেমৰি অপৰিৱৰ্তিত থাকে। কোনোৱেও ফিউজ এটা পুনৰ বৃদ্ধি কৰিবলৈ সৈমান কৰি ক্ষতিগ্ৰস্ত HBM মেৰামতি কৰা নাছিল। কেটে অস্বস্তিকৰ পৰিণামটো আঙুলিয়াই দিছে। অধিক ফিউজ জ্বলাই কিছুমান সীমাবদ্ধতা শিথিল কৰিব পাৰি। ক'বাত, এটা সম্পূৰ্ণ যুক্তিসংগত ডিজাইন ৰিভিউৱে আৱিষ্কাৰ কৰিছে যে "স্থায়ী" শব্দটোৰ স্প্ৰেডশ্বীটত দ্বিতীয় স্তম্ভ এটাৰ প্ৰয়োজন। গৱেষণা প্ৰতিবেদনত নিয়ন্ত্ৰকৰ চেকবোৰত ব্যাঘাত জন্মোৱা আৰু স্থায়ী কনফিগাৰেচন পৰিৱৰ্তনৰ অনুমতি দিয়া এটা সংক্ষিপ্ত বৈদ্যুতিক গোলমালৰ কথা উল্লেখ আছে।

2:13 আমি সেই ব্যাখ্যাটোক ধাৰণামূলক কৰি ৰাখিম। হাৰ্ডৱেৰৰ প্ৰক্ৰিয়াসমূহ পুনৰুৎপাদন কৰিলে এটা কাৰ্ড নষ্ট হ'ব পাৰে। এই ফলাফল পঢ়িলে আপুনি এটা মানসিক আৰ্হি লাভ কৰে; ই আপোনাক কোনো ৱাৰেণ্টি নিদিয়ে। CMP আনলকাৰ নামৰ এটা ছফ্টৱেৰ আনলক ইতিমধ্যে আছিল।

পূৰ্বৰ ছফ্টৱেৰ আনলকে ইতিমধ্যে কি কৰিব পাৰিছিল?

2:24 কেটৰ তুলনাই আঠ গিগাবাইট সংস্কৰণটোক চৌষষ্ঠি ব্যৱহাৰযোগ্য গিগাবাইটত ৰাখে। হাৰ্ডৱেৰ আনলকে আশীটা পাব পাৰে যেতিয়া মেমৰি অক্ষত থাকে। কেটে এই হাৰ্ডৱেৰৰ ফলাফলসমূহ জনাইছে; মাইনিং হাৰ্ডৱেৰ পুনৰ ব্যৱহাৰ কৰাৰ এটা দীঘলীয়া ইতিহাস আছে। কেটে জনাইছে যে তেওঁ সম্পূৰ্ণ মেমৰিটোত ডেটা লিখি আৰু GPU কেচ ক্লিয়াৰ কৰাৰ পিছত ইয়াক পুনৰ পঢ়ি পৰীক্ষা কৰিছে। প্ৰবন্ধটোৱে কাৰ্যকৰী ইনফাৰেন্স ৱৰ্কল’ডৰ কথাও জনাইছে। এইবোৰ লেখকৰ পৰীক্ষা, ক্ষমতাৰ ৰিডাউটতকৈ অধিক শক্তিশালী। আমি স্বাধীনভাৱে কোনো পৰিৱৰ্তিত কাৰ্ড পৰীক্ষা কৰা নাই।

2:49 খুচুৰা A100-ত এশ আঠটা ষ্ট্ৰীমিং মাল্টিপ্ৰচেছৰ আছে,

A100-তকৈ দ্ৰুত ফলাফল কি জুখে?

2:53 কাম কৰা গোটবোৰ। কেটে অধিক কাৰ্যক্ষম গোট সক্ষম কৰাৰ কথা জনাইছে। জুখা কাৰ্ডখনত এশ চৌবিশটা আছে। কোনবোৰ গোট কাম কৰে সেয়া ব্যক্তিগত ডাইৰ ওপৰত নিৰ্ভৰ কৰে। কেটৰ হাফ প্ৰিচিছন পাটিগণিতিক মাইক্ৰ’বেঞ্চমাৰ্ক হাৰ্ডৱেৰ আনলক কৰা কাৰ্ডখনক এটা খুচুৰা A100-তকৈ প্ৰায় ওঠৰ শতাংশ আগত ৰাখে। ই OpenCL-ত এটা নিৰ্দিষ্ট পুনৰাবৃত্তিমূলক কাৰ্য জুখে।

3:10 ইয়াক প্ৰতিটো AI মডেলৰ বাবে এক বুষ্ট হিচাপে পঢ়িলে চাৰ্টটোক এনে এটা প্ৰচাৰ দিয়ে যি ই অৰ্জন কৰা নাই। হেকাৰ নিউজৰ পঢ়ুৱৈসকলে ফেক্টৰী পৰীক্ষা আৰু নিৰ্ভৰযোগ্যতা উত্থাপন কৰিছিল। তেওঁলোকৰ প্ৰতিদ্বন্দ্বী তত্ত্বসমূহে কোনো স্বতন্ত্ৰ পুনৰুত্পাদন যোগান নধৰে। মই ইঞ্জিনিয়াৰিঙক প্ৰশংসা কৰিব পাৰো আৰু তথাপিও ৱৰ্কল'ডৰ জোখ-মাখ আৰু দীঘলীয়া স্থিতি পৰীক্ষা বিচাৰিম হাৰ্ডৱেৰক মই গুৰুত্ব দিয়া কাম এটাৰ বাবে বিশ্বাস কৰাৰ আগতে। অতিৰিক্ত ব্যৱহাৰযোগ্য মেমৰিয়ে এটা মডেল কাৰ্ডত ফিট হয় নে নহয় সেইটো সিদ্ধান্ত ল'ব পাৰে।

এটা সমৰ্থিত এক্সিলেটৰৰ পৰা ইয়াক কিহে পৃথক কৰে?

3:30 গতি ৱৰ্কল'ড আৰু চিস্টেমৰ মাজেৰে ডেটা স্থানান্তৰ কৰাৰ ওপৰতো নিৰ্ভৰ কৰে। এই প্ৰবন্ধটোৱে প্ৰতি ছেকেণ্ডত নিয়ন্ত্ৰিত টোকেন তুলনা যোগান নধৰে। মডেলৰ ক্ষমতা, পাটিগণিতিক থ্ৰুপুট আৰু এপ্লিকেচন পাৰফৰমেন্স পৃথকভাৱে মূল্যায়ন কৰক। কেটে কৈছে যে ছবি আৰু ভিডিঅ' ডিক'ডিং বৈশিষ্ট্য আৰু মাল্টি ইনষ্টেন্স GPU মোড বিশেষভাৱে পৰীক্ষা কৰা হোৱা নাছিল। ইণ্টাৰকানেক্ট আৰু দ্ৰুত PCI এক্সপ্ৰেছ সংযোগৰ বাবে অতিৰিক্ত পৰিৱৰ্তনৰ প্ৰয়োজন। ব'ৰ্ড, ফাৰ্মৱেৰ আৰু কাৰ্যক্ষম হাৰ্ডৱেৰে এতিয়াও কি ব্যৱহাৰযোগ্য হ'ব সেয়া সিদ্ধান্ত লয়। কেটে কৈছে যে এই তথ্যসমূহ প্ৰকাশৰ আগতে এনভিডিয়াৰ প্ৰডাক্ট ছিকিউৰিটি দললৈ

3:58 পঠোৱা হৈছিল। এই পোষ্টে আন এজন গৱেষকক স্বতন্ত্ৰভাৱে এই ভুল আৱিষ্কাৰ কৰাৰ বাবে কৃতিত্ব দিয়ে। আমি ইয়াত কোনো ৰাজহুৱা এনভিডিয়াৰ প্ৰতিক্ৰিয়া বা পৰীক্ষা কৰা ফিক্স সত্যাপন কৰা নাই। স্থায়ী কনফিগাৰেচন পৰিৱৰ্তনে হাৰ্ডৱেৰক স্থায়ীভাৱে বিচ্ছিন্ন কৰিব পাৰে। এটা সফল আনলকে এতিয়াও কুলিং, পাৱাৰ আৰু নিৰ্ভৰযোগ্যতা মূল্যায়ন কৰিবলৈ এৰি দিয়ে। এজন বিক্ৰেতাৰ চমকপ্ৰদ শিৰোনাম এটা নমুনাৰ বিষয়ে এক দাবী। এটা ক্ষমতাৰ স্ক্ৰিনশ্বটে আপোনাক ইয়াক পৰীক্ষা কৰাৰ বাবে এটা আৰম্ভণি বিন্দু দিয়ে।

এটা কাৰ্ডে কিয় কোনো অতিৰিক্ত মেমৰি লাভ কৰা নাছিল?

4:19 এতিয়া বিনামূলীয়া আপগ্ৰেডৰ কল্পনাক নষ্ট কৰা কাৰ্ডখন। কেটৰ ওচৰত মাত্ৰ চৌষষ্ঠি গিগাবাইট অক্ষত থকা এখন আছিল। হাৰ্ডৱেৰ আনলকে ছফ্টৱেৰ আনলকৰ ওপৰত কোনো মেমৰিৰ সুবিধা দিয়া নাছিল। প্ৰতিবন্ধকতা সলনি হৈছিল; ক্ষতিগ্ৰস্ত হাৰ্ডৱেৰ ক্ষতিগ্ৰস্ত হৈ আছিল। সেইটোৱেই হৈছে উপকাৰী ক্ৰয়ৰ শিক্ষা। ভৌতিকভাৱে ইনষ্টল কৰা ক্ষমতা আৰু নিৰ্ভৰযোগ্যভাৱে ব্যৱহাৰযোগ্য ক্ষমতা অতি পৃথক সংখ্যা হ'ব পাৰে। যদি আপুনি মই কোৱাৰ সলনি এইটো পঢ়িব বিচাৰে, প্ৰতিদিনে ৰাতিপুৱা আপোনাৰ ইনবক্সত ডিফে আহে, daily diff dot dev ত বিনামূলীয়াকৈ,

4:42 তলত লিংক। সেয়েহে, আজিৰ ৰায়, পুনৰীক্ষণৰ প্ৰয়োজন।

আনলকৰ ওপৰত কি সিদ্ধান্ত?

4:44 মই স্বাধীন ৱৰ্কল'ড আৰু নিৰ্ভৰযোগ্যতা পৰীক্ষা কৰিব বিচাৰিম এটা পৰিৱৰ্তিত মাইনিং কাৰ্ডক এটা নিৰ্ভৰযোগ্য এক্সিলেটৰ হিচাপে গণ্য কৰাৰ আগতে। কেটৰ গৱেষণাই লুকাই থকা হাৰ্ডৱেৰক বুজাবলৈ সহজ কৰি তোলে। এটা নিৰ্ভৰযোগ্য ফলাফল ক্ৰয় কৰিবলৈ অধিক প্ৰমাণ লাগে। আৰু সেয়া আজিৰ বাবে ডিফল্ট। মই Axrisi-ৰ পৰা নিকো। দায়িত্বশীলভাৱে মাৰ্জ কৰক।

উৎসসমূহ

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee