Memoria Nvidia CMP 170HX: HBM fisica, configurazione effettiva e difetti

Contenuto di questo video

• La memoria fisica, la capacità configurata effettiva e la memoria utilizzabile in modo affidabile sono distinte.
• Le varianti da otto gigabyte e dieci gigabyte della CMP 170HX contengono diversi pacchetti di memoria fisica.
• Record di configurazione successivi possono sostituire le impostazioni effettive mentre i segni dei fusibili fisici rimangono permanenti.
• Il confronto delle prestazioni riportato da Kate misura l'aritmetica FP16 half2 FMA in OpenCL, senza un confronto controllato della velocità di inferenza.
• I difetti di fabbricazione rimangono dopo uno sblocco della configurazione; la scheda da sessantaquattro gigabyte dell'autore non ha ottenuto alcuna capacità di framebuffer aggiuntiva.

Trascrizione tradotta

Tradotto dalla narrazione originale inglese. L'audio e i sottotitoli disponibili sono controllati da YouTube.

Da dove viene la memoria extra?

0:00 Una GPU da otto gigabyte sembra otto gigabyte di hardware. La ricercatrice Kate riporta ottanta gigabyte fisicamente presenti all'interno di una scheda di mining Nvidia. In questo video, dove si nascondeva la memoria? Perché sbloccarla può ancora lasciarti con meno memoria? È mercoledì 11 novembre, e questo è The Daily Diff. E una delle schede di Kate mostra esattamente dove finisce l'aggiornamento gratuito. La CMP 170HX è l'acceleratore di mining Ethereum di Nvidia,

Cosa c'è dentro questa scheda di mining?

0:22 costruito attorno allo stesso die GPU dell'A100. Kate riferisce che le restrizioni di configurazione nascondono la memoria già presente nel pacchetto. La capacità utilizzabile dipende ancora dall'hardware intatto e da una configurazione che il driver possa gestire. Kate ha pubblicato la ricerca il 10 novembre. Oggi i lettori di Hacker News hanno discusso di hardware nascosto e difetti di fabbricazione. Sia la segmentazione del prodotto che la resa di fabbricazione contano qui. La sezione commenti si è già promossa a controllo qualità dei semiconduttori.

0:46 La parte costosa è già lì.

Come può la memoria installata rimanere invisibile?

0:48 La memoria a banda larga, o HBM, si trova accanto al die GPU nel pacchetto. La descrizione dell'architettura di Nvidia distingue il chip completo dalla configurazione venduta come A100. L'hardware correlato può diventare prodotti diversi. Kate identifica due versioni. La scheda da otto gigabyte ne ha circa ottanta fisicamente installati. La scheda da dieci gigabyte ne ha circa quaranta. Questi sono pacchetti diversi, quindi l'etichetta del prodotto più grande può arrivare con meno

1:10 memoria sotto. L'acquisto per nome del modello ha appena acquisito una missione secondaria. La produzione può lasciare parti di un chip difettose. Kate separa la configurazione che disabilita una funzione dal record che identifica l'hardware difettoso. Alcune risorse disabilitate funzionano quando esposte. Una banca di memoria fisicamente rotta rimane rotta, per quanto persuasivo diventi il tuo readme di GitHub. I fusibili elettronici sono minuscole strutture fisiche che registrano permanentemente

Perché i fusibili unidirezionali consentono una nuova configurazione?

1:31 le impostazioni. Un fusibile bruciato rimane bruciato. Le impostazioni effettive possono essere codificate tramite record di configurazione. Kate descrive record successivi che sostituiscono valori effettivi precedenti. La storia fisica rimane, mentre la configurazione interpretata da essa cambia. Immagina un documento con un' istruzione originale e un emendamento successivo. L'aggiunta dell'emendamento cambia quale istruzione si applica, mentre l'inchiostro originale rimane.

1:51 La memoria installata è invariata. Nessuno ha riparato HBM danneggiata convincendo un fusibile a ricrescere. Kate sottolinea la scomoda conseguenza. Bruciare più fusibili può allentare alcune restrizioni. Da qualche parte, una revisione del progetto perfettamente ragionevole sta scoprendo che la parola permanente necessitava di una seconda colonna nel foglio di calcolo. La ricerca riporta un breve disturbo elettrico che interrompe i controlli del controller e permette modifiche permanenti alla configurazione.

2:13 Manterremo questa spiegazione concettuale. La riproduzione delle procedure hardware può distruggere una scheda. Leggere questo risultato ti dà un modello mentale; non ti dà alcuna garanzia. Esisteva già uno sblocco software chiamato CMP unlocker.

Cosa poteva già fare lo sblocco software precedente?

2:24 Il confronto di Kate porta la versione da otto gigabyte a sessantaquattro gigabyte utilizzabili in quel modo. Lo sblocco hardware può raggiungere ottanta quando la memoria è intatta. Kate riporta questi risultati hardware; il riutilizzo dell'hardware di mining ha una storia più lunga. Kate riporta di aver controllato la memoria completa scrivendo dati al suo interno e leggendoli dopo aver svuotato la cache della GPU. L'articolo riporta anche carichi di lavoro di inferenza funzionanti. Questi sono i test dell'autore, più forti di una semplice lettura della capacità. Non abbiamo testato indipendentemente una scheda modificata.

2:49 L'A100 al dettaglio ha centotto multiprocessori di streaming,

Cosa misura il risultato più veloce dell'A100?

2:53 i gruppi che svolgono il lavoro. Kate riporta l'abilitazione di più gruppi funzionali. La scheda misurata ne ha centoventiquattro. Quali gruppi funzionano dipende dal singolo die. Il microbenchmark aritmetico a mezza precisione di Kate mette la scheda sbloccata via hardware circa il diciotto percento avanti rispetto a un A100 al dettaglio. Misura una specifica operazione ripetuta in OpenCL.

3:10 Interpretare ciò come un aumento per ogni modello di IA dà al grafico una promozione che non ha guadagnato. I lettori di Hacker News hanno sollevato il problema dei test di fabbrica e dell'affidabilità. Le loro teorie concorrenti non forniscono alcuna riproduzione indipendente. Posso apprezzare l'ingegneria e volere comunque misurazioni del carico di lavoro e lunghi periodi di stabilità prima di affidare all'hardware un lavoro che mi sta a cuore. La memoria extra utilizzabile può decidere se un modello si adatta a una scheda.

Cosa la separa ancora da un acceleratore supportato?

3:30 La velocità dipende anche dal carico di lavoro e dallo spostamento dei dati attraverso il sistema. Questo articolo non fornisce un confronto controllato di token al secondo. Valutare separatamente la capacità del modello, la velocità di calcolo e le prestazioni dell'applicazione. Kate afferma che le funzionalità di decodifica di immagini e video e la modalità GPU multi-istanza non sono state specificamente testate. L'interconnessione e la connessione PCI Express più veloce richiedono modifiche aggiuntive. La scheda, il firmware e l'hardware funzionale decidono ancora cosa diventa utilizzabile. Kate afferma che i risultati sono stati inviati al team di sicurezza dei prodotti di Nvidia prima

3:58 della pubblicazione. Il post attribuisce a un altro ricercatore la scoperta indipendente della vulnerabilità. Non abbiamo verificato alcuna risposta pubblica di Nvidia o correzione testata qui. Le modifiche permanenti alla configurazione possono bloccare permanentemente l'hardware. Uno sblocco riuscito lascia ancora da valutare il raffreddamento, l'alimentazione e l'affidabilità. Un titolo spettacolare di un venditore è un'affermazione su un singolo campione. Uno screenshot della capacità ti fornisce un punto di partenza per verificarlo.

Perché una scheda non ha ottenuto memoria extra?

4:19 Ora la scheda che rovina la fantasia dell'aggiornamento gratuito. Kate ne aveva una con soli sessantaquattro gigabyte intatti. Lo sblocco hardware non le ha dato alcun vantaggio di memoria rispetto allo sblocco software. La restrizione è cambiata; l'hardware danneggiato è rimasto danneggiato. Questa è l'utile lezione d'acquisto. La capacità fisicamente installata e la capacità utilizzabile in modo affidabile possono essere numeri molto diversi. Se preferisci leggere questo piuttosto che sentirmi dirlo, il diff arriva nella tua casella di posta ogni mattina, gratuitamente su the daily diff dot dev,

4:42 link qui sotto. Quindi, il verdetto di oggi, NEEDS REVIEW.

Qual è il verdetto sullo sblocco?

4:44 Vorrei test indipendenti sul carico di lavoro e sull'affidabilità prima di trattare una scheda di mining modificata come un acceleratore affidabile. La ricerca di Kate rende l'hardware nascosto comprensibile. L'acquisto di un risultato affidabile richiede più prove. E questo è il diff per oggi. Sono Niko di Axrisi. Fondi responsabilmente.

Fonti

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee