Nvidia CMP 170HX minni: líkamlegt HBM, skilvirk stilling og gallar

Það sem þetta myndband fjallar um

• Líkamlegt minni, skilvirkt stillt geta og áreiðanlega nýtanlegt minni eru aðskilin.
• Átta gígabæta og tíu gígabæta CMP 170HX afbrigðin innihalda mismunandi líkamlega minnispakka.
• Síðari stillingarskrár geta komið í stað skilvirkra stillinga á meðan líkamlegir öryggismerki ("fuse marks") eru varanlegir.
• Frammistöðusamanburður Kate mælir FP16 half2 FMA "arithmetic" í OpenCL, án samanburðar á "inference-hraða" undir stýringu.
• Framleiðslugallar eru áfram eftir stillingaopnun; 64 gígabæta kort höfundar fékk enga auka "framebuffer" getu.

Þýtt afrit

Þýtt úr upprunalegri enskri frásögn. Tiltækt hljóð og textar eru stjórnaðir af YouTube.

Hvaðan kom auka minnið?

0:00 Átta gígabæta GPU hljómar eins og átta gígabæti af vélbúnaði. Rannsakandinn Kate greinir frá áttatíu líkamlega til staðar inni í Nvidia námukorti. Í þessu myndbandi, hvar faldi minnið sig? Af hverju getur opnun þess samt skilið þig eftir með minna? Það er miðvikudagur, ellefti nóvember, og þetta er The Daily Diff. Og eitt af kortum Kate sýnir nákvæmlega hvar ókeypis uppfærslan tekur enda. CMP eitt sjötíu H X er Ethereum námubúnaður Nvidia,

Hvað er inni í þessu námukorti?

0:22 byggður í kringum sama GPU "die" og A eitt hundrað. Kate greinir frá því að stillingartakmarkanir leyni minni sem þegar er í pakkanum. Nýtanlegt rými fer enn eftir óskertum vélbúnaði og stillingu sem ökumenn geta höndlað. Kate birti rannsóknirnar tíunda nóvember. Í dag ræddu lesendur Hacker News um falinn vélbúnað og framleiðslu- galla. Bæði "product segmentation" og "manufacturing yield" skipta máli hér. Ummælahlutinn hefur þegar kynnt sig sem gæðatryggingu fyrir hálfleiðara.

0:46 Dýri hlutinn er þegar til staðar.

Hvernig getur uppsett minni haldist ósýnilegt?

0:48 Hár bandvíddar minni, eða HBM, situr við hliðina á GPU "die" í pakkanum. Lýsing á arkitektúr Nvidia aðgreinir fullan flís frá stillingunni sem seld er sem A eitt hundrað. Tengdur vélbúnaður getur orðið að mismunandi vörum. Kate auðkennir tvær útgáfur. Átta gígabæta kortið hefur um áttatíu líkamlega uppsett. Tíu gígabæta kortið hefur um fjörutíu. Þetta eru mismunandi pakkar, svo stærri vöruheitið getur komið með minna

1:10 minni undir. Að versla eftir gerðarheiti hefur rétt eignast hliðarverkefni. Framleiðsla getur skilið hluta af flísunum gallaða. Kate aðgreinir stillinguna sem slekkur á eiginleika frá skránni sem auðkennir gallaðan vélbúnað. Sumar óvirkar auðlindir virka þegar þær eru afhjúpaðar. Líkamlega brotin minnisbanki er áfram brotinn, hversu sannfærandi GitHub readme þitt verður. Rafeindasöryggi eru örsmáar líkamlegar byggingar sem varanlega

Af hverju leyfa einstefnusöryggi ("one-way fuses") nýja stillingu?

1:31 skrá stillingar. Sprungið öryggi er áfram sprungið. Skilvirkar stillingar er hægt að kóða með stillingarskrám. Kate lýsir síðari skrám sem koma í stað fyrri skilvirkra gilda. Líkamleg saga er áfram, á meðan stillingin sem túlkuð er úr henni breytist. Ímyndaðu þér skjal með upprunalegri leiðbeiningu og síðari breytingu. Með því að bæta við breytingunni breytist hvaða leiðbeining gildir, á meðan upprunalega blekið er áfram.

1:51 Uppsett minni er óbreytt. Enginn lagaði skemmdan HBM með því að sannfæra öryggi um að vaxa aftur. Kate bendir á óþægilega afleiðinguna. Að brenna fleiri öryggi getur slakað á sumum takmörkunum. Einhvers staðar er fullkomlega eðlileg hönnunarendurskoðun að uppgötva að orðið varanlegt þurfti annan dálk í töflureikninum. Rannsóknirnar greina frá stuttri rafmagnstruflun sem raskar eftirliti stýringarinnar og leyfir varanlegar stillingabreytingar.

2:13 Við munum halda þeirri skýringu hugmyndafræðilegri. Endurgerð vélbúnaðarferla getur eyðilagt kort. Að lesa þessa niðurstöðu gefur þér hugrænt líkan; hún gefur þér enga ábyrgð. Hugbúnaðaropnun sem kallast CMP unlocker var þegar til.

Hvað gat fyrri hugbúnaðaropnun þegar gert?

2:24 Samanburður Kate setur átta gígabæta útgáfuna á sextíu og fjóra nýtanlega gígabæti þannig. Vélbúnaðaropnunin getur náð áttatíu þegar minnið er óskert. Kate greinir frá þessum vélbúnaðarárangri; endurnýting námubúnaðar hefur lengri sögu. Kate greinir frá því að hafa athugað fullt minni með því að skrifa gögn í það og lesa þau til baka eftir að hafa hreinsað GPU skyndiminnið. Greinin greinir einnig frá virkum "inference workloads". Þetta eru prófanir höfundar, sterkari en "capacity readout". Við höfum ekki sjálfstætt prófað breytt kort.

2:49 A100 í verslunum er með hundrað og átta "streaming multiprocessors",

Hvað mælir hraðari en A100 niðurstaðan?

2:53 hópana sem vinna verkið. Kate greinir frá því að hafa virkjað fleiri virka hópa. Kortið sem var mælt er með hundrað og tuttugu og fjóra. Hvaða hópar virka fer eftir einstakri "die". Hálft nákvæmnisreiknings "microbenchmark" Kate setur vélbúnaðar-opna kortið um átján prósent framar en A100 í verslunum. Það mælir sérstaka endurtekna aðgerð í OpenCL.

3:10 Að lesa það sem aukningu á öll AI líkön gefur töflunni kynningu sem hún hefur ekki fengið. Lesendur Hacker News veltu upp verksmiðjuprófunum og áreiðanleika. Samkeppniskenningar þeirra veita enga sjálfstæða endurgerð. Ég get metið verkfræðina og vil samt "workload measurements" og langa stöðugleikahlaup áður en ég treysti vélbúnaðinum fyrir starfi sem mér þykir vænt um. Auka nýtanlegt minni getur ákveðið hvort líkan passar á kort.

Hvað skilur það enn frá studdum "accelerator"?

3:30 Hraði fer einnig eftir "workload" og flutningi gagna í gegnum kerfið. Þessi grein veitir engan stýrðan samanburð á "tokens per second". Metið "model capacity", "arithmetic throughput" og "application performance" sérstaklega. Kate segir að mynd- og vídeóafkóðunaraðgerðir og fjölnota GPU stilling hafi ekki verið sérstaklega prófaðar. Millitengingin og hraðari PCI Express tenging krefjast viðbótarbreytinga. Stjórnborðið, vélbúnaðarbúnaðurinn og virkur vélbúnaður ákvarða enn hvað verður nýtanlegt. Kate segir að niðurstöðurnar hafi farið til öryggisteymis Nvidia áður en þær voru

3:58 birtar. Færslan þakkar öðrum rannsakanda fyrir að hafa sjálfstætt fundið veikleikann. Við höfum ekki staðfest opinber svörun frá Nvidia eða prófað lagaðar lausnir hér. Varanlegar stillingabreytingar geta varanlega strandsett vélbúnaðinn. Árangursrík opnun skilur enn eftir kælingu, afl og áreiðanleika til að meta. Stórkostleg fyrirsögn seljanda er fullyrðing um eitt sýni. Skjáskot af getu gefur þér upphafspunkt til að athuga hana.

Af hverju fékk eitt kort ekkert auka minni?

4:19 Nú kemur kortið sem eyðileggur drauminn um ókeypis uppfærslu. Kate var með eitt með aðeins sextíu og fjóra gígabæti óskerta. Vélbúnaðaropnunin gaf henni engan minnisforskot umfram hugbúnaðaropnunina. Takmörkunin breyttist; skemmdi vélbúnaðurinn hélst skemmdur. Þetta er gagnlega kaupleiðin. Líkamlega uppsett geta og áreiðanlega nýtanleg geta geta verið mjög mismunandi tölur. Ef þú vilt frekar lesa þetta en heyra mig segja það, kemur diff í pósthólfið þitt á hverjum morgni, ókeypis á the daily diff dot dev,

4:42 hlekkur hér fyrir neðan. Svo, dómur dagsins, ÞARF AÐ YFIRFARA.

Hver er dómurinn um opnunina?

4:44 Ég vildi óska eftir óháðum "workload" og áreiðanleikaprófunum áður en ég treysti breyttu námukorti sem áreiðanlegum "accelerator". Rannsóknir Kate gera falinn vélbúnað skiljanlegan. Að kaupa áreiðanlega niðurstöðu tekur meiri sönnunargögn. Og það er diff dagsins. Ég er Niko frá Axrisi. Sameinið á ábyrgan hátt.

Heimildir

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee