Nvidia CMP 170HX эс тутуму: физикалык HBM, натыйжалуу конфигурациясы жана кемчиликтери

Бул видео эмнелерди камтыйт

• Физикалык эс тутум, эффективдүү конфигурацияланган сыйымдуулук жана ишенимдүү колдонууга жарамдуу эс тутум айырмаланат.
• Сегиз гигабайттык жана он гигабайттык CMP 170HX варианттары ар кандай физикалык эс тутум пакеттерин камтыйт.
• Кийинки конфигурация жазуулары натыйжалуу жөндөөлөрдү алмаштыра алат, ал эми физикалык сактагыч белгилери туруктуу бойдон калат.
• Кейттин билдирген өндүрүмдүүлүгүн салыштыруу OpenCLдеги FP16 half2 FMA арифметикасын өлчөйт, эч кандай башкарылуучу инференс-ылдамдыгын салыштыруу жок.
• Өндүрүштүк кемчиликтер конфигурация кулпусун ачкандан кийин деле кала берет; автордун алтымыш төрт гигабайттык картасы кошумча фреймбуфер сыйымдуулугун алган жок.

Котормо стенограмма

Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.

Кошумча эс кайдан келди?

0:00 Сегиз гигабайттык GPU сегиз гигабайттык аппараттык жабдык сыяктуу угулат. Изилдөөчү Кейт Nvidiaнын тоо-кен картасынын ичинде физикалык жактан сексен гигабайт бар экенин билдирет. Бул видеодо эс тутум кайда жашырылган? Эмне үчүн аны ачуу сизди дагы эле кыска калтыра алат? Бүгүн шаршемби, он бир ноябрь, жана бул The Daily Diff. Жана Кейттин карталарынын бири акысыз жаңыртуу кайда бүтөөрүн так көрсөтөт. CMP one seventy H X бул Nvidiaнын Ethereum тоо-кен ылдамдаткычы,

Бул тоо-кен картасынын ичинде эмне бар?

0:22 A one hundred сыяктуу GPU өлүгүндө курулган. Кейт конфигурация чектөөлөрү пакеттеги эс тутумду жашырып жатканын билдирет. Колдонууга жарамдуу сыйымдуулук дагы эле бүтүн аппараттык жабдыкка жана драйвер башкара ала турган конфигурацияга жараша болот. Кейт изилдөөнү 10-ноябрда жарыялаган. Бүгүн Hacker News окурмандары жашыруун аппараттык жабдыктар жана өндүрүш кемчиликтери жөнүндө талашышты. Продукцияны сегменттөө да, өндүрүш кирешелүүлүгү да бул жерде маанилүү. Комментарий бөлүмү өзүн жарым өткөргүчтөрдүн сапатын

0:46 камсыздоого чейин жогорулатты. Кымбат бөлүгү ал жерде даяр.

Орнотулган эс кантип көрүнбөй калышы мүмкүн?

0:48 Жогорку өткөрүү жөндөмдүүлүгү бар эс тутум, же HBM, пакеттеги GPU өлүгүнүн жанында жайгашкан. Nvidiaнын архитектуралык сүрөттөлүшү толук чипти A one hundred катары сатылган конфигурациядан айырмалайт. Тиешелүү аппараттык жабдыктар ар кандай продуктыларга айланышы мүмкүн. Кейт эки версияны аныктайт. Сегиз гигабайттык картада физикалык жактан сексенге жакын орнотулган. Он гигабайттык картада кыркка жакын бар. Булар ар кандай пакеттер, ошондуктан чоңураак продукт этикеткасы азыраак

1:10 эс тутум менен келиши мүмкүн. Моделдин аты менен соода кылуу жөн эле кошумча квестти алды. Өндүрүш чиптин бөлүктөрүн бузук калтырышы мүмкүн. Кейт функцияны өчүргөн конфигурацияны бузук аппараттык жабдыкты аныктаган жазуудан айырмалайт. Кээ бир өчүрүлгөн ресурстар ачыкка чыкканда иштейт. Физикалык жактан бузулган эс тутум банкы, GitHub readme канчалык ынандырарлык болсо да, бузук бойдон калат. Электрондук сактагычтар - бул туруктуу

Эмне үчүн бир тараптуу сактагычтар жаңы конфигурацияга уруксат берет?

1:31 жөндөөлөрдү жазуучу кичинекей физикалык структуралар. Күйгөн сактагыч күйгөн бойдон калат. Натыйжалуу жөндөөлөр конфигурация жазуулары аркылуу коддолушу мүмкүн. Кейт кийинки жазуулар мурунку натыйжалуу маанилерди алмаштырарын сүрөттөйт. Физикалык тарых кала берет, ал эми андан чечмеленген конфигурация өзгөрөт. Бир документти элестетиңиз, оригиналдуу көрсөтмөсү жана кийинки түзөтүүсү бар. Түзөтүүнү кошуу кайсы көрсөтмө колдонуларын өзгөртөт, ал эми баштапкы сыя кала берет.

1:51 Орнотулган эс тутум өзгөргөн жок. Эч ким бузулган HBMди сактагычты кайра өстүрүүгө ынандыруу менен оңдогон жок. Кейт ыңгайсыз кесепетти белгилейт. Көбүрөөк сактагычтарды күйгүзүү кээ бир чектөөлөрдү жеңилдетиши мүмкүн. Кайдадыр бир жерде, абдан акылга сыярлык долбоорду карап чыгуу туруктуу деген сөзгө электрондук таблицада экинчи тилке керек экенин таап жатат. Изилдөө контроллердин текшерүүлөрүн бузуп, туруктуу конфигурация өзгөрүүлөрүнө уруксат берген кыска электрдик бузулууну билдирет.

2:13 Бул түшүндүрмөнү концептуалдык бойдон калтырабыз. Аппараттык процедураларды кайталоо картаны жок кылышы мүмкүн. Бул натыйжаны окуу сизге менталдык моделди берет; ал сизге эч кандай кепилдик бербейт. CMP unlocker деп аталган программалык кулпуну ачуу мурунтан эле бар болчу.

Мурунку программалык кулпуну ачуу эмнени жасай алган?

2:24 Кейттин салыштыруусу сегиз гигабайттык версияны алтымыш төрт гигабайт колдонууга жарамдуу кылат. Аппараттык кулпу эс тутум бүтүн болгондо сексенге жетиши мүмкүн. Кейт бул аппараттык натыйжаларды билдирет; тоо-кен жабдыктарын кайра колдонуунун узак тарыхы бар. Кейт бүт эс тутумду ага маалымат жазуу жана GPU кэшин тазалагандан кийин кайра окуу аркылуу текшергенин билдирет. Макалада ошондой эле иштеп жаткан инференс жумуш жүгү тууралуу билдирилет. Булар автордун тесттери, сыйымдуулукту окууга караганда күчтүүрөөк. Биз өзгөртүлгөн картаны көз карандысыз текшерген жокпуз.

2:49 Чекене A one hundred жүз сегиз агымдык мультипроцессорго ээ,

A100дөн ылдамыраак натыйжа эмнени өлчөйт?

2:53 жумушту аткарган топтор. Кейт көбүрөөк функционалдык топторду иштеткенин билдирет. Өлчөнгөн карта жүз жыйырма төрткө ээ. Кайсы топтор иштейт, жеке өлүккө жараша болот. Кейттин жарым тактыктагы арифметикалык микроэталондук көрсөткүчү аппараттык кулпусу ачылган картаны чекене A one hundredдөн болжол менен он сегиз пайызга алдыга коёт. Ал OpenCLде белгилүү бир кайталанган операцияны өлчөйт.

3:10 Муну ар бир AI моделине күч катары окуу диаграммага ал ала элек промоушнду берет. Hacker News окурмандары фабрика тестирлөөсүн жана ишенимдүүлүгүн көтөрүштү. Алардын атаандаш теориялары көз карандысыз репродукцияны камсыз кылбайт. Мен инженердикти баалай алам, бирок дагы эле жумуш жүгүн өлчөөлөрүн жана узак туруктуулук иштөөлөрүн каалайм, аппараттык жабдыкка маанилүү жумушту ишенип тапшырардан мурун. Кошумча колдонууга жарамдуу эс тутум моделдин картага батабы же жокпу, чече алат.

Аны колдоого алынган ылдамдаткычтан эмне бөлүп турат?

3:30 Ылдамдык ошондой эле жумуш жүгүнө жана система аркылуу маалыматтарды жылдырууга жараша болот. Бул макалада секундга башкарылуучу токендерди салыштыруу камтылган эмес. Моделдин сыйымдуулугун, арифметикалык өткөрүү жөндөмдүүлүгүн жана колдонмонун өндүрүмдүүлүгүн өзүнчө баалаңыз. Кейт сүрөт жана видео декоддоо функциялары жана көп инстанциялуу GPU режими атайын текшерилбегенин айтат. Интерконнект жана ылдамыраак PCI Express байланышы кошумча өзгөртүүлөрдү талап кылат. Плата, микропрограмма жана функционалдык аппараттык жабдык дагы деле эмне колдонууга жарамдуу болорун чечет. Кейт табылгалар жарыялоодон мурун Nvidiaнын продукт коопсуздук командасына жөнөтүлгөнүн айтат.

3:58 Пост башка изилдөөчүнү аялуу жерди көз карандысыз тапкандыгы үчүн мактайт. Биз бул жерде эч кандай коомдук Nvidia жообун же текшерилген оңдоону текшерген жокпуз. Туруктуу конфигурация өзгөрүүлөрү аппараттык жабдыкты туруктуу түрдө камап калышы мүмкүн. Ийгиликтүү кулпуну ачуу дагы эле муздатуу, кубаттуулук жана ишенимдүүлүктү баалоону талап кылат. Сатуучунун укмуштуудай аталышы бир үлгү жөнүндө доомат. Сыйымдуулук скриншоту сизге аны текшерүү үчүн баштапкы чекитти берет.

Эмне үчүн бир карта кошумча эс алган жок?

4:19 Эми акысыз жаңыртуу фантазиясын бузган карта. Кейттин бирөөсүндө алтымыш төрт гигабайт гана бүтүн болчу. Аппараттык кулпу аны программалык кулпуну ачууга караганда эс тутум артыкчылыгын берген жок. Чектөө өзгөрдү; бузулган аппараттык жабдык бузулган бойдон калды. Бул пайдалуу сатып алуу сабагы. Физикалык орнотулган сыйымдуулук жана ишенимдүү колдонууга жарамдуу сыйымдуулук абдан ар кандай сандар болушу мүмкүн. Эгер сиз муну менин айтканымды укканга караганда окуганды кааласаңыз, diff сиздин почтаңызга күн сайын эртең менен бекер келет, thedailydiff.dev дарегинде,

4:42 төмөнкү шилтеме. Ошентип, бүгүнкү өкүм, NEEDS REVIEW.

Кулпуну ачуу боюнча өкүм кандай?

4:44 Мага көз карандысыз жумуш жүгү жана ишенимдүүлүк тестирлөөсү керек болмок, өзгөртүлгөн тоо-кен картасын ишенимдүү ылдамдаткыч катары кароодон мурун. Кейттин изилдөөсү жашыруун аппараттык жабдыкты түшүнүктүү кылат. Ишенимдүү натыйжаны сатып алуу көбүрөөк далилдерди талап кылат. Жана бүгүнкү айырма ушундай. Мен Axrisiден Нико. Жоопкерчиликтүү түрдө бириктириңиз.

Булактар

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee