Памяць Nvidia CMP 170HX: фізічная HBM, эфектыўная канфігурацыя і дэфекты

Што ахоплівае гэта відэа

• Фізічная памяць, эфектыўна сканфігураваная ёмістасць і надзейна выкарыстоўваемая памяць адрозніваюцца.
• Варыянты CMP 170HX на восем і дзесяць гігабайт утрымліваюць розныя фізічныя пакеты памяці.
• Пазнейшыя запісы канфігурацыі могуць замяніць эфектыўныя налады, у той час як фізічныя адзнакі засцерагальнікаў застаюцца пастаяннымі.
• Паведамленае параўнанне прадукцыйнасці Кейт вымярае арыфметыку FP16 half2 FMA у OpenCL, без кантраляванага параўнання хуткасці вываду.
• Вытворчыя дэфекты застаюцца пасля разблакоўкі канфігурацыі; карта аўтара на шасцідзесят чатыры гігабайты не атрымала дадатковай ёмістасці фрэймбуфера.

Перакладзеная стэнаграма

Перакладзена з арыгінальнай англійскай агучкі. Даступнае аўдыя і субтытры кантралююцца YouTube.

Адкуль узялася лішняя памяць?

0:00 Графічны працэсар на восем гігабайт гучыць як восем гігабайт апаратнага забеспячэння. Даследчыца Кейт паведамляе пра восемдзесят фізічна прысутных унутры майнинг-карты Nvidia. У гэтым відэа, дзе хавалася памяць? Чаму разблакоўка ўсё роўна можа пакінуць вас без яе? Сёння серада, адзінаццатага лістапада, і гэта The Daily Diff. І адна з карт Кейт паказвае, дзе менавіта заканчваецца бясплатнае абнаўленне. CMP 170HX - гэта паскаральнік для майнинга Ethereum ад Nvidia,

Што ўнутры гэтай майнинг-карты?

0:22 пабудаваны на тым жа чыпе GPU, што і A100. Кейт паведамляе, што абмежаванні канфігурацыі хаваюць памяць, якая ўжо ёсць у пакеце. Прыдатная ёмістасць усё яшчэ залежыць ад цэласнасці апаратнага забеспячэння і канфігурацыі, якую драйвер можа апрацаваць. Кейт апублікавала даследаванне дзесятага лістапада. Сёння чытачы Hacker News спрачаліся аб схаваным апаратным забеспячэнні і вытворчых дэфектах. Тут важныя як сегментацыя прадукцыі, так і выхад вытворчасці. Раздзел каментароў ужо павысіў сябе да забеспячэння якасці паўправаднікоў.

0:46 Дарагая частка ўжо ёсць.

Як усталяваная памяць можа заставацца нябачнай?

0:48 Высокапрадукцыйная памяць, або HBM, знаходзіцца побач з чыпам GPU у пакеце. Архітэктура Nvidia адрознівае поўны чып ад канфігурацыі, якая прадаецца як A100. Звязанае апаратнае забеспячэнне можа стаць рознымі прадуктамі. Кейт ідэнтыфікуе дзве версіі. Карта на восем гігабайт фізічна мае каля васьмідзесяці ўсталяваных. Карта на дзесяць гігабайт мае каля сарака. Гэта розныя пакеты, таму большая этыкетка прадукту можа пастаўляцца з меншай

1:10 памяццю. Купля па назве мадэлі толькі што атрымала пабочны квэст. Вытворчасць можа пакінуць часткі чыпа дэфектнымі. Кейт аддзяляе канфігурацыю, якая адключае функцыю, ад запісу, які ідэнтыфікуе дэфектнае апаратнае забеспячэнне. Некаторыя адключаныя рэсурсы працуюць пры іх выяўленні. Фізічна зламаны банк памяці застаецца зламаным, які б пераканаўчым ні быў ваш README на GitHub. Электронныя засцерагальнікі - гэта малюсенькія фізічныя структуры, якія пастаянна

Чаму аднабаковыя засцерагальнікі дазваляюць новую канфігурацыю?

1:31 запісваюць налады. Згарэлы засцерагальнік застаецца згарэлым. Эфектыўныя налады могуць быць закадаваны праз запісы канфігурацыі. Кейт апісвае пазнейшыя запісы, якія замяняюць ранейшыя эфектыўныя значэнні. Фізічная гісторыя застаецца, у той час як канфігурацыя, якая інтэрпрэтуецца з яе, мяняецца. Уявіце сабе дакумент з арыгінальнай інструкцыяй і пазнейшай папраўкай. Даданне папраўкі змяняе, якая інструкцыя прымяняецца, у той час як арыгінальнае чарніла застаецца.

1:51 Усталяваная памяць застаецца нязменнай. Ніхто не рамантаваў пашкоджаную HBM, пераконваючы засцерагальнік адрасці. Кейт адзначае няёмкае наступства. Спальванне большай колькасці засцерагальнікаў можа паслабіць некаторыя абмежаванні. Дзесьці цалкам разумны агляд дызайну выяўляе, што слову «пастаянны» патрэбна была другая калонка ў табліцы. Даследаванне паведамляе пра кароткі электрычны збой, які парушае праверкі кантролера і дазваляе пастаянныя змены канфігурацыі.

2:13 Мы пакінем гэта тлумачэнне канцэптуальным. Прайграванне апаратных працэдур можа знішчыць карту. Чытанне гэтага выніку дае вам ментальную мадэль; яно не дае вам гарантыі. Праграмная разблакоўка пад назвай CMP unlocker ужо існавала.

Што ўжо магла рабіць ранейшая праграмная разблакоўка?

2:24 Параўнанне Кейт ставіць версію на восем гігабайт на шасцідзесят чатыры прыдатныя гігабайты такім чынам. Апаратная разблакоўка можа дасягнуць васьмідзесяці, калі памяць цэлая. Кейт паведамляе пра гэтыя апаратныя вынікі; перапрацоўка майнинг-апаратнага забеспячэння мае даўжэйшую гісторыю. Кейт паведамляе пра праверку поўнай памяці шляхам запісу даных па ўсёй яе плошчы і чытання іх пасля ачысткі кэша GPU. У артыкуле таксама паведамляецца пра працуючыя задачы вываду. Гэта тэсты аўтара, мацнейшыя за простае счытванне ёмістасці. Мы не тэставалі мадыфікаваную карту незалежна.

2:49 Рознічны A100 мае сто восем струменевых мультыпрацэсараў,

Што вымярае вынік, хутчэйшы за A100?

2:53 групы, якія выконваюць працу. Кейт паведамляе пра ўключэнне большай колькасці функцыянальных груп. Вымераная карта мае сто дваццаць чатыры. Якія групы працуюць, залежыць ад асобнага чыпа. Мікрабенчмарк арыфметыкі з напалову дакладнасцю Кейт ставіць карту з апаратнай разблакоўкай прыкладна на васемнаццаць працэнтаў наперадзе рознічнага A100. Ён вымярае канкрэтную паўтаральную аперацыю ў OpenCL.

3:10 Чытанне гэтага як павышэння для кожнай мадэлі AI дае графіку прасоўванне, якое ён не заслужыў. Чытачы Hacker News паднялі пытанні завадскога тэставання і надзейнасці. Іх канкуруючыя тэорыі не даюць незалежнага прайгравання. Я магу ацаніць інжынерыю і ўсё роўна хачу вымярэнняў нагрузкі і доўгіх тэстаў на стабільнасць, перш чым давяраць апаратнаму забеспячэнню працу, якая мне важна. Дадатковая карысная памяць можа вырашыць, ці падыдзе мадэль на карту.

Што ўсё яшчэ адрознівае яе ад падтрымоўванага паскаральніка?

3:30 Хуткасць таксама залежыць ад нагрузкі і перадачы даных праз сістэму. Гэты артыкул не змяшчае кантраляванага параўнання токенаў у секунду. Ацэньвайце ёмістасць мадэлі, арыфметычную прапускную здольнасць і прадукцыйнасць прыкладання асобна. Кейт кажа, што функцыі дэкадавання малюнкаў і відэа, а таксама рэжым шматэкземплярнага GPU не тэставаліся канкрэтна. Узаемасувязь і больш хуткае падключэнне PCI Express патрабуюць дадатковых змен. Плата, прашыўка і функцыянальнае апаратнае забеспячэнне ўсё яшчэ вырашаюць, што стане прыдатным. Кейт кажа, што вынікі былі перададзены камандзе бяспекі прадукцыі Nvidia перад

3:58 публікацыяй. У паведамленні адзначаецца заслуга іншага даследчыка, які незалежна знайшоў уразлівасць. Мы не правяралі публічны адказ Nvidia або тэсціравалі выпраўленне тут. Пастаянныя змены канфігурацыі могуць пастаянна вывесці апаратнае забеспячэнне з ладу. Паспяховая разблакоўка ўсё яшчэ пакідае для ацэнкі астуджэнне, магутнасць і надзейнасць. Эфектны загаловак прадаўца - гэта прэтэнзія наконт аднаго ўзору. Здымак экрана ёмістасці дае вам адпраўную кропку для яго праверкі.

Чаму адна карта не атрымала дадатковай памяці?

4:19 Зараз карта, якая руйнуе фантазію аб бясплатным абнаўленні. У Кейт была адна, у якой засталося толькі шасцідзесят чатыры гігабайты. Апаратная разблакоўка не дала ёй перавагі ў памяці перад праграмнай разблакоўкай. Абмежаванне змянілася; пашкоджанае абсталяванне засталося пашкоджаным. Гэта карысны ўрок пакупкі. Фізічна ўсталяваная ёмістасць і надзейна прыдатная ёмістасць могуць быць вельмі рознымі лікамі. Калі вы лепш прачытаеце гэта, чым пачуеце ад мяне, розніца прыходзіць у вашу паштовую скрыню кожную раніцу, бясплатна на daily diff dot dev,

4:42 спасылка ніжэй. Такім чынам, сённяшні вердыкт: ПАТРАБУЕЦЦА ПРАВЕРКА.

Які вердыкт аб разблакоўцы?

4:44 Я б хацеў незалежнага тэставання працоўнай нагрузкі і надзейнасці, перш чым разглядаць мадыфікаваную майнинг-карту як надзейны паскаральнік. Даследаванне Кейт робіць схаванае абсталяванне зразумелым. Набыццё надзейнага выніку патрабуе больш доказаў. І гэта ўся розніца на сёння. Я Ніка з Axrisi. Аб'ядноўвайце адказна.

Крыніцы

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee