Pamäť Nvidia CMP 170HX: fyzická HBM, efektívna konfigurácia a chyby

Čo toto video pokrýva

• Fyzická pamäť, efektívna konfigurovaná kapacita a spoľahlivo použiteľná pamäť sú odlišné.
• Osemgigabajtové a desaťgigabajtové varianty CMP 170HX obsahujú rôzne balíčky fyzickej pamäte.
• Neskôr konfiguračné záznamy môžu nahradiť efektívne nastavenia, zatiaľ čo fyzické poistkové značky zostanú trvalé.
• Kateino uvádzané porovnanie výkonu meria aritmetiku FP16 half2 FMA v OpenCL, bez kontrolovaného porovnania rýchlosti inferencie.
• Výrobné chyby zostávajú aj po odomknutí konfigurácie; karta autorky so šesťdesiatštyrmi gigabajtami nezískala žiadnu dodatočnú kapacitu framebufferu.

Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

Odkiaľ sa vzala tá dodatočná pamäť?

0:00 Osemgigabajtový GPU znie ako osem gigabajtov hardvéru. Výskumníčka Kate uvádza osemdesiat fyzicky prítomných vo vnútri ťažobnej karty Nvidia. V tomto videu, kde sa pamäť skrývala? Prečo vás jej odomknutie môže stále nechať na suchu? Je streda, jedenásteho novembra, a toto je The Daily Diff. A jedna z Kateiných kariet presne ukazuje, kde bezplatný upgrade končí. CMP 170HX je ťažobný akcelerátor Ethereum od Nvidie,

Čo je vo vnútri tejto ťažobnej karty?

0:22 postavený na rovnakom GPU die ako A100. Kate uvádza, že konfiguračné obmedzenia skrývajú pamäť už v balíku. Použiteľná kapacita stále závisí od neporušeného hardvéru a konfigurácie, ktorú ovládač dokáže spracovať. Kate zverejnila výskum 10. novembra. Dnes čitatelia Hacker News diskutovali o skrytom hardvéri a výrobných chybách. Dôležitá je tu segmentácia produktu aj výťažnosť výroby. Sekcia komentárov sa už povýšila na zabezpečenie kvality polovodičov.

0:46 Drahá časť je už tam.

Ako môže nainštalovaná pamäť zostať neviditeľná?

0:48 Pamäť s vysokou šírkou pásma, alebo HBM, sedí vedľa GPU die v balíku. Architektonický popis Nvidie rozlišuje celý čip od konfigurácie predávanej ako A100. Súvisiaci hardvér sa môže stať rôznymi produktmi. Kate identifikuje dve verzie. Osemgigabajtová karta má fyzicky nainštalovaných asi osemdesiat. Desaťgigabajtová karta má asi štyridsať. To sú rôzne balíčky, takže väčší štítok produktu môže prísť s menej

1:10 pamäte pod ním. Nakupovanie podľa názvu modelu práve získalo vedľajšiu úlohu. Výroba môže zanechať časti čipu chybné. Kate odlišuje konfiguráciu, ktorá deaktivuje funkciu, od záznamu identifikujúceho chybný hardvér. Niektoré deaktivované zdroje fungujú, keď sú vystavené. Fyzicky poškodená pamäťová banka zostáva poškodená, akokoľvek presvedčivý je váš GitHub readme. Elektronické poistky sú drobné fyzické štruktúry, ktoré trvalo

Prečo jednosmerné poistky umožňujú novú konfiguráciu?

1:31 zaznamenávajú nastavenia. Prepálená poistka zostáva prepálená. Efektívne nastavenia môžu byť zakódované prostredníctvom konfiguračných záznamov. Kate opisuje neskoršie záznamy, ktoré nahrádzajú skoršie efektívne hodnoty. Fyzická história zostáva, zatiaľ čo konfigurácia interpretovaná z nej sa mení. Predstavte si dokument s pôvodnou inštrukciou a neskoršou úpravou. Pridanie úpravy mení, ktorá inštrukcia platí, zatiaľ čo pôvodný atrament zostáva.

1:51 Nainštalovaná pamäť sa nezmenila. Nikto neopravil poškodenú HBM presviedčaním poistky, aby znova narástla. Kate poukazuje na nepríjemný dôsledok. Spaľovanie ďalších poistiek môže zmierniť niektoré obmedzenia. Niekde, úplne rozumná kontrola návrhu zisťuje, že slovo trvalé potrebovalo druhý stĺpec v tabuľke. Výskum uvádza krátke elektrické rušenie, ktoré narúša kontroly kontroléra a umožňuje trvalé zmeny konfigurácie.

2:13 Toto vysvetlenie budeme udržiavať koncepčné. Reprodukcia hardvérových postupov môže zničiť kartu. Prečítanie tohto výsledku vám poskytne mentálny model; neposkytuje vám žiadnu záruku. Už existovalo softvérové odomknutie nazývané CMP unlocker.

Čo už dokázalo skoršie softvérové odomknutie?

2:24 Kateino porovnanie týmto spôsobom umiestňuje osemgigabajtovú verziu na šesťdesiatštyri použiteľných gigabajtov. Hardvérové odomknutie môže dosiahnuť osemdesiat, keď je pamäť neporušená. Kate uvádza tieto hardvérové výsledky; opätovné použitie ťažobného hardvéru má dlhšiu históriu. Kate uvádza, že skontrolovala celú pamäť zápisom dát do nej a prečítaním ich späť po vyčistení GPU cache. Článok tiež uvádza funkčné inferenčné záťaže. To sú autorove testy, silnejšie ako odčítanie kapacity. Nezávisle sme netestovali upravenú kartu.

2:49 Maloobchodná A100 má stoosem streamingových multiprocesorových jednotiek,

Čo meria výsledok rýchlejší ako A100?

2:53 skupín vykonávajúcich prácu. Kate uvádza, že povolila viac funkčných skupín. Meraná karta ich má sto dvadsaťštyri. Ktoré skupiny fungujú, závisí od individuálneho die. Katein aritmetický mikrobenchmark s polovičnou presnosťou umiestňuje hardvérovo odomknutú kartu asi o osemnásť percent pred maloobchodnú A100. Merá špecifickú opakovanú operáciu v OpenCL.

3:10 Interpretovať to ako nárast pre každý model AI dáva grafu povýšenie, ktoré si nezískal. Čitatelia Hacker News vyvolali tému továrenského testovania a spoľahlivosti. Ich konkurenčné teórie neposkytujú nezávislú reprodukciu. Môžem oceniť inžinierstvo a stále chcem merania záťaže a dlhé testy stability predtým, ako budem hardvéru dôverovať s prácou, na ktorej mi záleží. Extra použiteľná pamäť môže rozhodnúť, či sa model zmestí na kartu.

Čo ju stále oddeľuje od podporovaného akcelerátora?

3:30 Rýchlosť tiež závisí od záťaže a presunu dát cez systém. Tento článok neposkytuje kontrolované porovnanie tokenov za sekundu. Vyhodnoťte kapacitu modelu, aritmetickú priepustnosť a výkon aplikácie samostatne. Kate hovorí, že funkcie dekódovania obrazu a videa a režim multi-inštančného GPU neboli špecificky testované. Prepojenie a rýchlejšie pripojenie PCI Express vyžadujú dodatočné zmeny. Doska, firmvér a funkčný hardvér stále rozhodujú o tom, čo sa stane použiteľným. Kate hovorí, že zistenia boli pred

3:58 zverejnením zaslané tímu pre bezpečnosť produktov spoločnosti Nvidia. Príspevok pripisuje nezávislé zistenie zraniteľnosti inému výskumníkovi. Neoverili sme žiadnu verejnú odpoveď spoločnosti Nvidia ani testovanú opravu tu. Trvalé zmeny konfigurácie môžu trvalo uviaznuť hardvér. Úspešné odomknutie stále vyžaduje vyhodnotenie chladenia, napájania a spoľahlivosti. Veľkolepý titulok predajcu je tvrdením o jednej vzorke. Snímka obrazovky s kapacitou vám poskytuje východiskový bod pre jej kontrolu.

Prečo jedna karta nezískala žiadnu dodatočnú pamäť?

4:19 Teraz karta, ktorá kazí fantáziu bezplatného upgradu. Kate mala jednu s iba šesťdesiatštyri gigabajtami neporušenými. Hardvérové odomknutie jej neposkytlo žiadnu pamäťovú výhodu oproti softvérovému odomknutiu. Obmedzenie sa zmenilo; poškodený hardvér zostal poškodený. To je užitočná nákupná lekcia. Fyzicky nainštalovaná kapacita a spoľahlivo použiteľná kapacita môžu byť veľmi odlišné čísla. Ak si to radšej prečítate, ako by ste ma počuli hovoriť, rozdiel vám pristane v schránke každé ráno, zadarmo na thedailydiff.dev,

4:42 odkaz nižšie. Takže, dnešný verdikt, POTREBNÉ POSÚDIŤ.

Aký je verdikt na odomknutie?

4:44 Chcel by som nezávislé testovanie záťaže a spoľahlivosti predtým, ako budem považovať upravenú ťažobnú kartu za spoľahlivý akcelerátor. Katein výskum robí skrytý hardvér zrozumiteľným. Nákup spoľahlivého výsledku si vyžaduje viac dôkazov. A to je dnešný rozdiel. Som Niko z Axrisi. Zlúčte zodpovedne.

Zdroje

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee