អង្គចងចាំ Nvidia CMP 170HX៖ HBM រូបវន្ត ការកំណត់រចនាសម្ព័ន្ធដ៏មានប្រសិទ្ធភាព និងភាពខ្វះខាត

អ្វីដែលវីដេអូនេះគ្របដណ្ដប់

• អង្គចងចាំរូបវន្ត សមត្ថភាពកំណត់រចនាសម្ព័ន្ធដ៏មានប្រសិទ្ធភាព និងអង្គចងចាំដែលអាចប្រើបានដោយជឿទុកចិត្តគឺខុសគ្នា។
• វ៉ារ្យ៉ង់ CMP 170HX ទំហំប្រាំបីជីកាបៃ និងដប់ជីកាបៃមានកញ្ចប់អង្គចងចាំរូបវន្តខុសៗគ្នា។
• កំណត់ត្រាកំណត់រចនាសម្ព័ន្ធក្រោយៗមកអាចជំនួសការកំណត់ដ៏មានប្រសិទ្ធភាព ខណៈដែលសញ្ញា fuse រូបវន្តនៅតែអចិន្ត្រៃយ៍។
• ការប្រៀបធៀបដំណើរការដែលបានរាយការណ៍របស់ Kate វាស់វែងនព្វន្ធ FP16 half2 FMA នៅក្នុង OpenCL ដោយគ្មានការប្រៀបធៀបល្បឿននៃការទាយទុកជាមុនដែលបានគ្រប់គ្រង។
• ភាពខ្វះខាតក្នុងការផលិតនៅតែមានបន្ទាប់ពីការដោះសោការកំណត់រចនាសម្ព័ន្ធ; កាតហុកសិបបួនជីកាបៃរបស់អ្នកនិពន្ធមិនទទួលបានសមត្ថភាព framebuffer បន្ថែមទេ។

កំណត់ត្រាដែលបានបកប្រែ

បកប្រែចេញពីការនិទានដើមជាភាសាអង់គ្លេស។ សំឡេង និងចំណងជើងរងដែលមានគឺស្ថិតនៅក្រោមការគ្រប់គ្រងរបស់ YouTube។

តើអង្គចងចាំបន្ថែមបានមកពីណា?

0:00 GPU ទំហំប្រាំបីជីកាបៃស្តាប់ទៅដូចជាផ្នែករឹងទំហំប្រាំបីជីកាបៃ។ អ្នកស្រាវជ្រាវ Kate រាយការណ៍ថាមានប៉ែតសិបជីកាបៃដោយរូបវន្តនៅខាងក្នុងកាតរ៉ែ Nvidia ។ នៅក្នុងវីដេអូនេះ តើអង្គចងចាំលាក់ខ្លួននៅឯណា? ហេតុអ្វីបានជាការដោះសោវាអាចនៅតែធ្វើឱ្យអ្នកខ្វះខាត? វាគឺថ្ងៃពុធ ទីដប់មួយ ខែវិច្ឆិកា ហើយនេះគឺជា The Daily Diff។ ហើយកាតមួយរបស់ Kate បង្ហាញយ៉ាងច្បាស់ថាការដំឡើងកំណែឥតគិតថ្លៃអស់ត្រឹមណា។ CMP 170HX គឺជាឧបករណ៍បង្កើនល្បឿនរ៉ែ Ethereum របស់ Nvidia

តើមានអ្វីនៅខាងក្នុងកាតរ៉ែនេះ?

0:22 ដែលត្រូវបានបង្កើតឡើងជុំវិញ GPU die ដូចគ្នានឹង A100 ដែរ។ Kate រាយការណ៍ថាការរឹតបន្តឹងការកំណត់រចនាសម្ព័ន្ធ លាក់អង្គចងចាំដែលមានស្រាប់នៅក្នុងកញ្ចប់។ សមត្ថភាពដែលអាចប្រើបាននៅតែអាស្រ័យលើផ្នែករឹងដែលនៅដដែល និងការកំណត់រចនាសម្ព័ន្ធដែល driver អាចដោះស្រាយបាន។ Kate បានបោះពុម្ពផ្សាយការស្រាវជ្រាវនៅថ្ងៃទីដប់ ខែវិច្ឆិកា។ ថ្ងៃនេះ អ្នកអាន Hacker News បានជជែកគ្នាអំពីផ្នែករឹងដែលលាក់ និងភាពខ្វះខាត ក្នុងការផលិត។ ទាំងការបែងចែកផលិតផល និងទិន្នផលផលិតកម្មសុទ្ធតែមានសារៈសំខាន់នៅទីនេះ។ ផ្នែកអត្ថាធិប្បាយបានផ្សព្វផ្សាយខ្លួនវាទៅជាការធានាគុណភាពឧបករណ៍អេឡិចត្រូនិក

0:46 រួចហើយ។ ផ្នែកថ្លៃៗមានស្រាប់ហើយ។

តើអង្គចងចាំដែលបានដំឡើងអាចនៅតែមើលមិនឃើញដោយរបៀបណា?

0:48 High bandwidth memory, ឬ HBM, ស្ថិតនៅក្បែរ GPU die ក្នុងកញ្ចប់។ ការពិពណ៌នាស្ថាបត្យកម្មរបស់ Nvidia បែងចែក chip ពេញលេញពី ការកំណត់រចនាសម្ព័ន្ធដែលបានលក់ជា A100 ។ ផ្នែករឹងដែលពាក់ព័ន្ធអាចក្លាយជាផលិតផលផ្សេងគ្នា។ Kate កំណត់អត្តសញ្ញាណកំណែពីរ។ កាតទំហំប្រាំបីជីកាបៃមានប្រមាណប៉ែតសិបជីកាបៃដែលបានដំឡើងដោយរូបវន្ត។ កាតទំហំដប់ជីកាបៃមានប្រមាណសែសិបជីកាបៃ។ ទាំងនោះគឺជាកញ្ចប់ខុសៗគ្នា ដូច្នេះស្លាកផលិតផលធំជាងអាចមកជាមួយអង្គចងចាំតិចជាង

1:10 នៅពីក្រោម។ ការទិញទំនិញតាមឈ្មោះម៉ូដែលទើបតែទទួលបានបេសកកម្មបន្ទាប់បន្សំ។ ការផលិតអាចបន្សល់ទុកផ្នែកខ្លះនៃ chip ដែលមានភាពខ្វះខាត។ Kate បែងចែកការកំណត់រចនាសម្ព័ន្ធដែលបិទមុខងារពីកំណត់ត្រា ដែលកំណត់អត្តសញ្ញាណផ្នែករឹងដែលខូច។ ធនធានដែលបានបិទមួយចំនួនដំណើរការនៅពេលត្រូវបានបង្ហាញ។ ធនាគារអង្គចងចាំដែលខូចដោយរូបវន្តនៅតែខូច ទោះបីជា GitHub readme របស់អ្នកមានភាពជឿជាក់យ៉ាងណាក៏ដោយ។ fuses អេឡិចត្រូនិចគឺជាโครงสร้างរូបវន្តតូចៗដែលកត់ត្រា

ហេតុអ្វីបានជា fuses មួយផ្លូវអនុញ្ញាតឱ្យមានការកំណត់រចនាសម្ព័ន្ធថ្មី?

1:31 ការកំណត់ជាអចិន្ត្រៃយ៍។ fuse ដែលឆេះហើយនៅតែឆេះ។ ការកំណត់ដ៏មានប្រសិទ្ធភាពអាចត្រូវបានអ៊ិនកូដតាមរយៈកំណត់ត្រាកំណត់រចនាសម្ព័ន្ធ។ Kate ពិពណ៌នាអំពីកំណត់ត្រាដែលក្រោយមកជំនួសតម្លៃដ៏មានប្រសិទ្ធភាពពីមុន។ ប្រវត្តិរូបវន្តនៅតែមាន ខណៈដែលការកំណត់រចនាសម្ព័ន្ធដែលបកស្រាយពីវា ផ្លាស់ប្តូរ។ ស្រមៃមើលឯកសារដែលមាន ការណែនាំដើម និងវិសោធនកម្មនៅពេលក្រោយ។ ការបន្ថែមវិសោធនកម្មផ្លាស់ប្តូរការណែនាំដែលត្រូវបានអនុវត្ត ខណៈដែលទឹកថ្នាំដើមនៅតែមាន។

1:51 អង្គចងចាំដែលបានដំឡើងមិនផ្លាស់ប្តូរទេ។ គ្មាននរណាម្នាក់ជួសជុល HBM ដែលខូចដោយការបញ្ចុះបញ្ចូល fuse ឱ្យលូតលាស់ឡើងវិញនោះទេ។ Kate ចង្អុលបង្ហាញពីផលវិបាកដែលគួរឱ្យ awkward ។ ការដុត fuses កាន់តែច្រើនអាចបន្ធូរបន្ថយការរឹតបន្តឹងមួយចំនួន។ នៅកន្លែងណាមួយ ការពិនិត្យមើលការរចនាដ៏សមហេតុផលមួយកំពុងរកឃើញថាពាក្យ អចិន្ត្រៃយ៍ត្រូវការជួរឈរទីពីរនៅក្នុងតារាង។ ការស្រាវជ្រាវរាយការណ៍ពីការរំខានអគ្គិសនីខ្លីៗដែលរំខានដល់ការត្រួតពិនិត្យរបស់ controller និងអនុញ្ញាតឱ្យមានការផ្លាស់ប្តូរការកំណត់រចនាសម្ព័ន្ធអចិន្ត្រៃយ៍។

2:13 យើងនឹងរក្សាការពន្យល់នោះជាគំនិត។ ការធ្វើនីតិវិធីផ្នែករឹងឡើងវិញអាចបំផ្លាញកាត។ ការអានលទ្ធផលនេះផ្តល់ឱ្យអ្នកនូវគំរូផ្លូវចិត្ត; វាមិនផ្តល់ឱ្យអ្នកនូវការធានានោះទេ។ ការដោះសោកម្មវិធីមួយហៅថា CMP unlocker មានស្រាប់ហើយ។

តើការដោះសោកម្មវិធីពីមុនអាចធ្វើអ្វីបានខ្លះ?

2:24 ការប្រៀបធៀបរបស់ Kate ដាក់កំណែប្រាំបីជីកាបៃនៅហុកសិបបួនជីកាបៃដែលអាចប្រើបាន តាមរបៀបនោះ។ ការដោះសោផ្នែករឹងអាចឈានដល់ប៉ែតសិបនៅពេលដែលអង្គចងចាំនៅដដែល។ Kate រាយការណ៍លទ្ធផលផ្នែករឹងទាំងនេះ; ការប្រើប្រាស់ផ្នែករឹងរ៉ែឡើងវិញមានប្រវត្តិយូរអង្វែង។ Kate រាយការណ៍ពីការត្រួតពិនិត្យអង្គចងចាំពេញលេញដោយការសរសេរទិន្នន័យទូទាំងវា និង ការអានវាមកវិញបន្ទាប់ពីការសម្អាត cache របស់ GPU ។ អត្ថបទក៏រាយការណ៍ពីបន្ទុកការងារទាយទុកជាមុនដែលដំណើរការផងដែរ។ ទាំងនោះគឺជាការធ្វើតេស្តរបស់អ្នកនិពន្ធ ដែលខ្លាំងជាងការអានសមត្ថភាព។ យើងមិនបានធ្វើតេស្តកាតដែលបានកែប្រែដោយឯករាជ្យទេ។

2:49 A100 លក់រាយមាន 108 streaming multiprocessors

តើលទ្ធផលលឿនជាង A100 វាស់វែងអ្វី?

2:53 ដែលជាក្រុមដែលធ្វើការងារ។ Kate រាយការណ៍ពីការបើកដំណើរការក្រុមមុខងារកាន់តែច្រើន។ កាតដែលបានវាស់វែងមាន 124 ។ ក្រុមណាដែលដំណើរការអាស្រ័យលើ die នីមួយៗ។ microbenchmark នព្វន្ធភាពជាក់លាក់ពាក់កណ្តាលរបស់ Kate ដាក់កាតដែលបានដោះសោផ្នែករឹង ប្រហែលដប់ប្រាំបីភាគរយនាំមុខ A100 លក់រាយ។ វាស់វែងប្រតិបត្តិការដដែលៗជាក់លាក់មួយនៅក្នុង OpenCL ។

3:10 ការអានថាជាការជំរុញដល់ម៉ូដែល AI គ្រប់រូបផ្តល់ឱ្យតារាងនូវការផ្សព្វផ្សាយដែលវាមិន បានទទួល។ អ្នកអាន Hacker News បានលើកឡើងពីការធ្វើតេស្តរោងចក្រ និងភាពជឿជាក់។ ទ្រឹស្ដីប្រកួតប្រជែងរបស់ពួកគេមិនផ្តល់ការបន្តពូជឯករាជ្យទេ។ ខ្ញុំអាចពេញចិត្តនឹងវិស្វកម្ម ហើយនៅតែចង់បានការវាស់វែងបន្ទុកការងារ និងការដំណើរការ ស្ថិរភាពយូរអង្វែងមុនពេលជឿជាក់លើផ្នែករឹងជាមួយនឹងការងារដែលខ្ញុំយកចិត្តទុកដាក់។ អង្គចងចាំដែលអាចប្រើបានបន្ថែមអាចសម្រេចថាតើម៉ូដែលមួយសមនៅលើកាតឬអត់។

តើអ្វីដែលនៅតែបំបែកវាពីឧបករណ៍បង្កើនល្បឿនដែលគាំទ្រ?

3:30 ល្បឿនក៏អាស្រ័យលើបន្ទុកការងារ និងការផ្លាស់ប្តូរទិន្នន័យតាមរយៈប្រព័ន្ធផងដែរ។ អត្ថបទនេះមិនផ្តល់ការប្រៀបធៀប tokens ក្នុងមួយវិនាទីដែលបានគ្រប់គ្រងទេ។ វាយតម្លៃសមត្ថភាពម៉ូដែល ល្បឿននព្វន្ធ និងដំណើរការកម្មវិធី ដោយឡែកពីគ្នា។ Kate និយាយថាមុខងារឌិកូដរូបភាព និងវីដេអូ និងរបៀប GPU ច្រើន instance មិនត្រូវបានធ្វើតេស្តជាក់លាក់ទេ។ ការតភ្ជាប់ និងការតភ្ជាប់ PCI Express លឿនជាងមុនត្រូវការការផ្លាស់ប្តូរបន្ថែម។ motherboard, firmware និងផ្នែករឹងដែលមានមុខងារនៅតែសម្រេចថាតើអ្វីដែលក្លាយជាអាចប្រើបាន។ Kate និយាយថាការរកឃើញត្រូវបានផ្ញើទៅក្រុមសន្តិសុខផលិតផលរបស់ Nvidia មុនពេល

3:58 ការបោះពុម្ពផ្សាយ។ ការបង្ហោះនេះក៏បានអរគុណអ្នកស្រាវជ្រាវម្នាក់ទៀតដែលបានរកឃើញ ភាពងាយរងគ្រោះដោយឯករាជ្យ។ យើងមិនបានផ្ទៀងផ្ទាត់ការឆ្លើយតបជាសាធារណៈរបស់ Nvidia ឬការជួសជុលដែលបានធ្វើតេស្តនៅទីនេះទេ។ ការផ្លាស់ប្តូរការកំណត់រចនាសម្ព័ន្ធអចិន្ត្រៃយ៍អាចធ្វើឱ្យផ្នែករឹងជាប់គាំងជាអចិន្ត្រៃយ៍។ ការដោះសោដែលជោគជ័យនៅតែទុកឱ្យការត្រជាក់ ថាមពល និងភាពជឿជាក់ត្រូវបានវាយតម្លៃ។ ចំណងជើងដ៏អស្ចារ្យរបស់អ្នកលក់គឺជាការអះអាងអំពីគំរូមួយ។ រូបថតសមត្ថភាពផ្តល់ឱ្យអ្នកនូវចំណុចចាប់ផ្តើមសម្រាប់ការត្រួតពិនិត្យវា។

ហេតុអ្វីបានជាកាតមួយមិនទទួលបានអង្គចងចាំបន្ថែម?

4:19 ឥឡូវនេះ កាតដែលបំផ្លាញការស្រមើស្រមៃនៃការដំឡើងកំណែឥតគិតថ្លៃ។ Kate មានមួយដែលមានត្រឹមតែហុកសិបបួនជីកាបៃដែលនៅដដែល។ ការដោះសោផ្នែករឹងមិនបានផ្តល់ឱ្យវានូវអត្ថប្រយោជន៍អង្គចងចាំលើការដោះសោកម្មវិធីនោះទេ។ ការរឹតបន្តឹងបានផ្លាស់ប្តូរ; ផ្នែករឹងដែលខូចនៅតែខូច។ នោះគឺជាមេរៀនទិញដែលមានប្រយោជន៍។ សមត្ថភាពដែលបានដំឡើងដោយរូបវន្ត និងសមត្ថភាពដែលអាចប្រើបានដោយជឿទុកចិត្តអាចជា លេខខុសគ្នាខ្លាំង។ ប្រសិនបើអ្នកចង់អាននេះជាជាងស្តាប់ខ្ញុំនិយាយវា the diff មកដល់ inbox របស់អ្នករៀងរាល់ព្រឹក ដោយឥតគិតថ្លៃនៅ the daily diff dot dev

4:42 តំណភ្ជាប់នៅខាងក្រោម។ ដូច្នេះ ការវិនិច្ឆ័យថ្ងៃនេះ NEEDS REVIEW។

តើការវិនិច្ឆ័យលើការដោះសោនេះជាអ្វី?

4:44 ខ្ញុំចង់បានការធ្វើតេស្តបន្ទុកការងារឯករាជ្យ និង ការធ្វើតេស្តភាពជឿជាក់មុនពេលចាត់ទុកកាតរ៉ែ ដែលបានកែប្រែជាឧបករណ៍បង្កើនល្បឿនដែលអាចទុកចិត្តបាន។ ការស្រាវជ្រាវរបស់ Kate ធ្វើឱ្យផ្នែករឹងដែលលាក់អាចយល់បាន។ ការទិញលទ្ធផលដែលអាចទុកចិត្តបានត្រូវការភស្តុតាងបន្ថែម។ ហើយនោះគឺជា diff សម្រាប់ថ្ងៃនេះ។ ខ្ញុំ Niko មកពី Axrisi ។ បញ្ចូលដោយការទទួលខុសត្រូវ។

ប្រភព

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee