Memòria Nvidia CMP 170HX: HBM físic, configuració efectiva i defectes

Què cobreix aquest vídeo

• La memòria física, la capacitat efectiva configurada i la memòria utilitzable de manera fiable són diferents.
• Les variants de vuit gigabytes i deu gigabytes de la CMP 170HX contenen diferents paquets de memòria física.
• Els registres de configuració posteriors poden reemplaçar la configuració efectiva mentre les marques de fusibles físiques romanen permanents.
• La comparació de rendiment informada per Kate mesura l'aritmètica FMA half2 FP16 a OpenCL, sense una comparació controlada de velocitat d'inferència.
• Els defectes de fabricació romanen després d'un desbloqueig de configuració; la targeta de seixanta-quatre gigabytes de l'autora no va obtenir cap capacitat de framebuffer addicional.

Transcripció traduïda

Traduït de la narració original en anglès. L'àudio i els subtítols disponibles estan controlats per YouTube.

D'on va sortir la memòria addicional?

0:00 Una GPU de vuit gigabytes sona com vuit gigabytes de maquinari. La investigadora Kate informa que n'hi ha vuitanta físicament presents dins d'una targeta de mineria de Nvidia. En aquest vídeo, on s'amagava la memòria? Per què desbloquejar-la encara et pot deixar curt? És dimecres, onze de novembre, i aquest és The Daily Diff. I una de les targetes de Kate mostra exactament on s'acaba l'actualització gratuïta. La CMP 170HX és l'accelerador de mineria d'Ethereum de Nvidia,

Què hi ha dins d'aquesta targeta de mineria?

0:22 construïda al voltant del mateix xip de GPU que l'A100. Kate informa que les restriccions de configuració amaguen la memòria que ja hi ha al paquet. La capacitat utilitzable encara depèn de maquinari intacte i d'una configuració que el controlador pugui gestionar. Kate va publicar la investigació l'onze de novembre. Avui, els lectors de Hacker News van debatre sobre el maquinari ocult i els defectes de fabricació. Tant la segmentació del producte com el rendiment de fabricació importen aquí. La secció de comentaris ja s'ha autopromocionat a l'assegurament de la qualitat de semiconductors.

0:46 La part cara ja hi és.

Com pot la memòria instal·lada romandre invisible?

0:48 La memòria d'ample de banda elevat, o HBM, es troba al costat del xip de GPU dins del paquet. La descripció de l'arquitectura de Nvidia distingeix el xip complet de la configuració venuda com a A100. El maquinari relacionat pot esdevenir productes diferents. Kate identifica dues versions. La targeta de vuit gigabytes té uns vuitanta físicament instal·lats. La targeta de deu gigabytes té uns quaranta. Són paquets diferents, de manera que l'etiqueta de producte més gran pot venir amb menys

1:10 memòria a sota. Comprar per nom de model acaba d'adquirir una missió secundària. La fabricació pot deixar porcions d'un xip defectuoses. Kate separa la configuració que desactiva una funció del registre que identifica el maquinari defectuós. Alguns recursos desactivats funcionen quan s'exposen. Un banc de memòria físicament trencat roman trencat, per més persuasiu que sigui el teu readme de GitHub. Els fusibles electrònics són petites estructures físiques que registren permanentment

Per què els fusibles unidireccionals permeten una nova configuració?

1:31 la configuració. Un fusible cremat roman cremat. La configuració efectiva es pot codificar mitjançant registres de configuració. Kate descriu registres posteriors que reemplacen valors efectius anteriors. La història física roman, mentre que la configuració interpretada a partir d'ella canvia. Imagineu un document amb una instrucció original i una modificació posterior. Afegir la modificació canvia quina instrucció s'aplica, mentre que la tinta original es manté.

1:51 La memòria instal·lada no es modifica. Ningú va reparar un HBM danyat convencent un fusible que tornés a créixer. Kate assenyala la conseqüència incòmoda. Cremar més fusibles pot relaxar algunes restriccions. En algun lloc, una revisió de disseny perfectament raonable està descobrint que la paraula permanent necessitava una segona columna a la fulla de càlcul. La investigació informa d'una breu pertorbació elèctrica que va interrompre les comprovacions del controlador i va permetre canvis de configuració permanents.

2:13 Mantindrem aquesta explicació conceptual. Reproduir els procediments de maquinari pot destruir una targeta. Llegir aquest resultat et dóna un model mental; no et dóna cap garantia. Ja existia un desbloqueig de programari anomenat CMP unlocker.

Què ja podia fer el desbloqueig de programari anterior?

2:24 La comparació de Kate situa la versió de vuit gigabytes en seixanta-quatre gigabytes utilitzables d'aquesta manera. El desbloqueig de maquinari pot arribar a vuitanta quan la memòria està intacta. Kate informa d'aquests resultats de maquinari; la reutilització de maquinari de mineria té una història més llarga. Kate informa haver comprovat la memòria completa escrivint dades per tota ella i llegint-les de nou després d'esborrar la memòria cau de la GPU. L'article també informa de càrregues de treball d'inferència que funcionen. Aquestes són les proves de l'autora, més fortes que una lectura de capacitat. No hem provat de forma independent una targeta modificada.

2:49 L'A100 al detall té cent vuit multiprocessadors de flux,

Què mesura el resultat més ràpid que l'A100?

2:53 els grups que fan la feina. Kate informa d'haver habilitat més grups funcionals. La targeta mesurada en té cent vint-i-quatre. Quins grups funcionen depèn del xip individual. El microbenchmark aritmètic de mitja precisió de Kate situa la targeta amb maquinari desbloquejat aproximadament un divuit per cent per davant d'una A100 al detall. Mesura una operació repetida específica a OpenCL.

3:10 Llegir això com un impuls a tots els models d'IA dóna al gràfic una promoció que no s'ha guanyat. Els lectors de Hacker News van plantejar proves de fàbrica i fiabilitat. Les seves teories competidores no aporten cap reproducció independent. Puc apreciar l'enginyeria i encara vull mesures de càrrega de treball i llargues execucions d'estabilitat abans de confiar el maquinari amb una feina que m'importa. La memòria utilitzable addicional pot decidir si un model encaixa en una targeta.

Què el separa encara d'un accelerador compatible?

3:30 La velocitat també depèn de la càrrega de treball i del moviment de dades a través del sistema. Aquest article no proporciona cap comparació controlada de tokens per segon. Avalueu la capacitat del model, el rendiment aritmètic i el rendiment de l'aplicació per separat. Kate diu que les funcions de descodificació d'imatges i vídeo i el mode de GPU multi-instància no es van provar específicament. La interconnexió i la connexió PCI Express més ràpida requereixen canvis addicionals. La placa, el firmware i el maquinari funcional encara decideixen què esdevé utilitzable. Kate diu que les troballes es van enviar a l'equip de seguretat de productes de Nvidia abans de la

3:58 publicació. La publicació atribueix a un altre investigador haver trobat independentment la vulnerabilitat. No hem verificat cap resposta pública de Nvidia ni cap solució provada aquí. Els canvis de configuració permanents poden encallar el maquinari de forma permanent. Un desbloqueig reeixit encara deixa la refrigeració, la potència i la fiabilitat per avaluar. El titular espectacular d'un venedor és una afirmació sobre una mostra. Una captura de pantalla de la capacitat us dóna un punt de partida per comprovar-la.

Per què una targeta no va obtenir memòria addicional?

4:19 Ara la targeta que arruïna la fantasia d'actualització gratuïta. Kate en tenia una amb només seixanta-quatre gigabytes intactes. El desbloqueig de maquinari no li va donar cap avantatge de memòria respecte al desbloqueig de programari. La restricció va canviar; el maquinari danyat va romandre danyat. Aquesta és la lliçó útil de compra. La capacitat físicament instal·lada i la capacitat utilitzable de manera fiable poden ser números molt diferents. Si preferiu llegir això que sentir-m'ho dir, el diff arriba a la vostra bústia cada matí, gratuït a the daily diff dot dev,

4:42 enllaç a continuació. Així, el veredicte d'avui, CAL REVISAR.

Quin és el veredicte sobre el desbloqueig?

4:44 Voldria proves de càrrega de treball i fiabilitat independents abans de tractar una targeta de mineria modificada com un accelerador fiable. La investigació de Kate fa que el maquinari ocult sigui comprensible. Comprar un resultat fiable requereix més proves. I aquest és el diff per avui. Sóc en Niko d'Axrisi. Fusiona de manera responsable.

Fonts

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee