Nvidia CMP 170HX memory: pisikal na HBM, epektibong configuration at mga depekto

Ang sakop ng video na ito

• Ang pisikal na memorya, epektibong naka-configure na kapasidad at maaasahang magagamit na memorya ay magkakaiba.
• Ang eight-gigabyte at ten-gigabyte na CMP 170HX variant ay naglalaman ng magkakaibang pisikal na memory package.
• Maaaring palitan ng mga huling record ng configuration ang mga epektibong setting habang ang mga pisikal na fuse mark ay nananatiling permanente.
• Sinusukat ng iniulat na paghahambing ng performance ni Kate ang FP16 half2 FMA arithmetic sa OpenCL, na walang kontroladong paghahambing ng bilis ng inference.
• Nananatili ang mga depekto sa pagmamanupaktura pagkatapos ng pag-unlock ng configuration; ang sixty-four-gigabyte card ng may-akda ay walang nakuhang karagdagang kapasidad ng framebuffer.

Isinaling transcript

Isinalin mula sa orihinal na salaysay sa English. Ang available na audio at mga caption ay kinokontrol ng YouTube.

Saan nanggaling ang karagdagang memorya?

0:00 Ang isang eight gigabyte na GPU ay parang eight gigabytes ng hardware. Iniulat ng mananaliksik na si Kate ang eighty na pisikal na naroroon sa loob ng isang Nvidia mining card. Sa video na ito, saan nagtatago ang memorya? Bakit kahit i-unlock ito ay kulang pa rin ang makukuha mo? Miyerkules, Nobyembre eleven, at ito ang The Daily Diff. At ipinapakita ng isa sa mga card ni Kate kung saan nagtatapos ang libreng upgrade. Ang CMP one seventy H X ay ang Ethereum mining accelerator ng Nvidia,

Ano ang nasa loob ng mining card na ito?

0:22 na binuo sa parehong GPU die gaya ng A one hundred. Iniulat ni Kate na ang mga paghihigpit sa configuration ay nagtatago ng memory na nasa package na. Ang magagamit na kapasidad ay nakadepende pa rin sa buo na hardware at isang configuration na kayang hawakan ng driver. Inilathala ni Kate ang pananaliksik noong Nobyembre ten. Ngayon, pinagtatalunan ng mga mambabasa ng Hacker News ang tungkol sa nakatagong hardware at mga depekto sa pagmamanupaktura. Mahalaga dito ang parehong product segmentation at manufacturing yield. Ang comment section ay na-promote na sa semiconductor quality

0:46 assurance. Naroroon na ang mamahaling bahagi.

Paano mananatiling invisible ang naka-install na memorya?

0:48 Ang high bandwidth memory, o HBM, ay nakaupo sa tabi ng GPU die sa package. Ang paglalarawan ng arkitektura ng Nvidia ay naghihiwalay sa buong chip mula sa configuration na ibinebenta bilang A one hundred. Ang mga kaugnay na hardware ay maaaring maging iba't ibang produkto. Kinikilala ni Kate ang dalawang bersyon. Ang eight gigabyte card ay may humigit-kumulang eighty na pisikal na naka-install. Ang ten gigabyte card ay may humigit-kumulang forty. Iyon ay magkaibang package, kaya ang mas malaking label ng produkto ay maaaring may mas kaunting

1:10 memory sa ilalim. Ang pag-shopping ayon sa pangalan ng modelo ay nagkaroon na lang ng side quest. Maaaring mag-iwan ang pagmamanupaktura ng mga bahagi ng isang chip na depektibo. Inihihiwalay ni Kate ang configuration na nagdi-disable ng isang feature mula sa record na nagpapakilala ng depektibong hardware. Gumagana ang ilang disabled resources kapag nalantad. Ang isang pisikal na sirang memory bank ay nananatiling sira, gaano man ka-persuasive ang iyong GitHub readme. Ang electronic fuses ay maliliit na pisikal na istruktura na permanente

Bakit pinahihintulutan ng one-way fuses ang isang bagong configuration?

1:31 nagrerecord ng mga setting. Ang isang blown fuse ay nananatiling blown. Maaaring i-encode ang mga epektibong setting sa pamamagitan ng mga record ng configuration. Inilalarawan ni Kate ang mga huling record na pumapalit sa mga naunang epektibong halaga. Nananatili ang pisikal na kasaysayan, habang ang configuration na binibigyang-kahulugan mula rito ay nagbabago. Isipin ang isang dokumento na mayroong orihinal na instruksyon at isang huling pagbabago. Ang pagdaragdag ng pagbabago ay nagpapabago kung aling instruksyon ang naaangkop, habang nananatili ang orihinal na tinta.

1:51 Ang naka-install na memorya ay hindi nagbabago. Walang nag-ayos ng sirang HBM sa pamamagitan ng paghikayat sa isang fuse na tumubo muli. Itinuturo ni Kate ang nakakabahalang kahihinatnan. Ang pagsunog ng mas maraming fuses ay maaaring magpagaan ng ilang paghihigpit. Sa kung saan, isang perpektong makatwirang disenyo ng review ang nakadiskubre na ang salitang permanente ay nangangailangan ng pangalawang column sa spreadsheet. Iniulat ng pananaliksik ang isang maikling electrical disturbance na nakagagambala sa mga check ng controller at nagpapahintulot sa permanenteng pagbabago ng configuration.

2:13 Pananatilihin nating konseptwal ang paliwanag na iyon. Ang pag-ulit ng mga hardware procedures ay maaaring makasira ng card. Ang pagbabasa ng resultang ito ay nagbibigay sa iyo ng mental na modelo; hindi ito nagbibigay ng warranty. Mayroon nang software unlock na tinatawag na CMP unlocker.

Ano na ang kayang gawin ng naunang software unlock?

2:24 Inilalagay ng paghahambing ni Kate ang eight gigabyte na bersyon sa sixty-four magagamit na gigabytes sa ganoong paraan. Maaabot ng hardware unlock ang eighty kapag buo ang memorya. Iniulat ni Kate ang mga resulta ng hardware na ito; ang paggamit muli ng mining hardware ay may mas mahabang kasaysayan. Iniulat ni Kate ang pag-check sa buong memorya sa pamamagitan ng pagsusulat ng data sa buong ito at pagbabasa nito pabalik pagkatapos i-clear ang GPU cache. Iniulat din ng artikulo ang gumaganang inference workloads. Iyon ang mga pagsubok ng may-akda, mas malakas kaysa sa pagbabasa ng kapasidad. Hindi namin independiyenteng nasubukan ang isang modified card.

2:49 Ang retail A one hundred ay may isang daan at walong streaming multiprocessors,

Ano ang sinusukat ng mas mabilis kaysa A100 na resulta?

2:53 ang mga grupo na gumagawa ng trabaho. Iniulat ni Kate ang pagpapagana ng mas maraming functional groups. Ang sinukat na card ay may isang daan at dalawampu't apat. Ang mga grupong gumagana ay nakadepende sa indibidwal na die. Ang half precision arithmetic microbenchmark ni Kate ay naglalagay sa hardware unlocked card na humigit-kumulang labing-walong porsyento na mas mataas kaysa sa isang retail A one hundred. Sinusukat nito ang isang partikular na paulit-ulit na operasyon sa OpenCL.

3:10 Ang pagbasa nito bilang isang boost sa bawat AI model ay nagbibigay sa chart ng isang promosyon na hindi nito nakuha. Itinaas ng mga mambabasa ng Hacker News ang factory testing at reliability. Ang kanilang magkakakumpitensyang teorya ay hindi nagbibigay ng independiyenteng reproduction. Naa-appreciate ko ang engineering at gusto ko pa rin ng workload measurements at mahabang stability runs bago pagtiwalaan ang hardware sa isang trabaho na mahalaga sa akin. Ang karagdagang magagamit na memorya ay maaaring magpasya kung ang isang modelo ay magkakasya sa isang card.

Ano pa rin ang naghihiwalay dito sa isang suportadong accelerator?

3:30 Ang bilis ay nakadepende din sa workload at paglipat ng data sa pamamagitan ng system. Hindi nagbibigay ang artikulong ito ng kontroladong tokens per second na paghahambing. Suriin ang kapasidad ng modelo, arithmetic throughput at performance ng application nang hiwalay. Sabi ni Kate, ang mga feature ng image at video decoding at multi instance GPU mode ay hindi partikular na nasubukan. Ang interconnect at mas mabilis na PCI Express connection ay nangangailangan ng karagdagang pagbabago. Ang board, firmware at functional hardware pa rin ang nagpapasya kung ano ang magiging usable. Sinabi ni Kate na ang mga natuklasan ay ipinadala sa product security team ng Nvidia bago

3:58 ilabas. Kinikilala ng post ang isa pang mananaliksik na independiyenteng nakahanap ng vulnerability. Wala pa kaming na-verify na pampublikong tugon ng Nvidia o nasubok na fix dito. Maaaring permanente na mapinsala ng permanenteng pagbabago ng configuration ang hardware. Ang isang matagumpay na unlock ay nag-iiwan pa rin ng cooling, power at reliability upang suriin. Ang kahanga-hangang headline ng isang nagbebenta ay isang pahayag tungkol sa isang sample. Ang isang screenshot ng kapasidad ay nagbibigay sa iyo ng panimulang punto para sa pagsusuri nito.

Bakit walang nakuhang karagdagang memorya ang isang card?

4:19 Ngayon, ang card na sumisira sa fantasy ng libreng upgrade. Mayroon si Kate na may sixty-four gigabytes lamang ang buo. Ang hardware unlock ay walang ibinigay na kalamangan sa memorya kumpara sa software unlock. Nagbago ang paghihigpit; nanatiling sira ang sirang hardware. Iyon ang kapaki-pakinabang na aral sa pagbili. Ang pisikal na naka-install na kapasidad at maaasahang magagamit na kapasidad ay maaaring maging napaka-iba na numero. Kung mas gusto mong basahin ito kaysa pakinggan akong sabihin ito, ang diff ay dumadating sa iyong inbox tuwing umaga, libre sa the daily diff dot dev,

4:42 link sa ibaba. Kaya, ang hatol ngayon, NEEDS REVIEW.

Ano ang hatol sa unlock?

4:44 Gusto ko ng independiyenteng workload at reliability testing bago ituring ang isang modified mining card bilang isang maaasahang accelerator. Ang pananaliksik ni Kate ay nagpapaliwanag sa nakatagong hardware. Ang pagbili ng maaasahang resulta ay nangangailangan ng mas maraming ebidensya. At iyan ang diff para sa araw na ito. Ako si Niko mula sa Axrisi. Pagsamahin nang responsable.

Mga Pinagmulan

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee