+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Nvidia CMP 170HX memorija: fizički HBM, efektivna konfiguracija i defekti

Kate izvještava o otkrivanju memorije već instalirane u Nvidijinom rudarskom akceleratoru CMP 170HX.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Kate izvještava o otkrivanju memorije već instalirane u Nvidijinom rudarskom akceleratoru CMP 170HX. Varijanta od osam gigabajta fizički sadrži oko osamdeset gigabajta, dok iskoristivi kapacitet ovisi o netaknutom hardveru i efektivnoj konfiguraciji. Jedna kartica s netaknutih samo šezdeset četiri gigabajta nije dobila prednost u framebufferu u odnosu na ranije softversko otključavanje.

Pročitajte pisano izdanje (engleski) ↗

Šta ovaj video pokriva

  • Fizička memorija, efektivni konfigurirani kapacitet i pouzdano iskoristiva memorija su različiti.
  • Varijante CMP 170HX od osam i deset gigabajta sadrže različite fizičke pakete memorije.
  • Kasniji konfiguracijski zapisi mogu zamijeniti efektivne postavke dok fizičke oznake osigurača ostaju trajne.
  • Kateina prijavljena usporedba performansi mjeri FP16 half2 FMA aritmetiku u OpenCL-u, bez kontrolirane usporedbe brzine inferencije.
  • Proizvodni nedostaci ostaju nakon otključavanja konfiguracije; autorova kartica od šezdeset četiri gigabajta nije dobila dodatni kapacitet framebuffer-a.

Pitanja i odgovori

Zašto rudarski GPU može sadržavati više memorije nego što aplikacije mogu koristiti?

Instalirana memorija i izloženi kapacitet kontroliraju se zasebno. Kateino istraživanje izvještava da varijanta CMP 170HX od osam gigabajta fizički sadrži oko osamdeset gigabajta, dok ograničenja konfiguracije izlažu manji kapacitet. Varijanta od deset gigabajta ima drugačiji paket s oko četrdeset fizički gigabajta. Iskoristiva memorija i dalje ovisi o netaknutom hardveru i konfiguraciji koju upravljački program može podnijeti.

Gledajte ovaj dio 0:19 · Kate's blog · NVIDIA Developer

Kako trajni elektronički osigurači mogu omogućiti promjenu efektivnih postavki?

Kasniji konfiguracijski zapisi mogu zamijeniti efektivne vrijednosti interpretirane iz nepovratne fizičke povijesti. Kate opisuje ovu razliku u istraživanju GA100, a Nvidijin patent povezan s izvorom pruža konceptualni kontekst za premostive zapise osigurača. Izgoren fizički osigurač ostaje izgoren. Epizoda objašnjava tu interpretaciju bez pružanja električnih procedura, hardverskih adresa ili recepta za modifikaciju.

Gledajte ovaj dio 1:28 · Kate's blog · NVIDIA patent

Utvrđuje li prijavljena aritmetička benchmarka bržu AI inferenciju?

Prijavljena usporedba mjeri specifičnu aritmetičku operaciju polupreciznosti. Katein hardverski otključani primjer radi oko osamnaest posto bolje od maloprodajnog A100 u ProjectPhysX OpenCL FP16 half2 FMA mikrobenckmarki. Članak ne pruža kontroliranu usporedbu broja tokena po sekundi. Stoga, prikladnost modela, aritmetički protok i potpune performanse aplikacije zahtijevaju zasebne dokaze, a mjerenja ostaju autorovi rezultati.

Gledajte ovaj dio 2:50 · Kate's blog · ProjectPhysX

Zašto jedna otključana kartica nije dobila dodatnu iskoristivu memoriju?

Ta određena kartica imala je samo šezdeset četiri netaknuta gigabajta. Kate izvještava da njeno hardversko otključavanje nije proizvelo nikakvu prednost u framebufferu u odnosu na ranije softversko otključavanje, koje je već doseglo taj kapacitet. Promjena ograničenja ostavila je oštećeni hardver oštećenim. Protuprimjer pokazuje zašto se fizički instalirana memorija i pouzdano iskoristivi kapacitet moraju zasebno procijeniti za pojedinu karticu.

Gledajte ovaj dio 4:19 · Kate's blog · Amogh Munikote

Kakva je bila presuda The Daily Diffa o oslanjanju na modificirani rudarski akcelerator?

Presuda The Daily Diffa bila je NEEDS REVIEW. Niko bi želio neovisno testiranje radnog opterećenja i pouzdanosti prije nego što bi se oslanjao na modificiranu rudarsku karticu kao akcelerator. Epizoda pripisuje Kateino objavljeno istraživanje uz očuvanje granica autorovih mjerenja i protuprimjera neispravne kartice. Ne izvještava se o neovisnoj modifikaciji hardvera, reprodukciji ili benchmarku aplikacija koje je emisija izvela.

Gledajte ovaj dio 4:43 · Kate's blog · ProjectPhysX

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

Odakle je došla dodatna memorija?

0:00 Grafička kartica od osam gigabajta zvuči kao osam gigabajta hardvera. Istraživačica Kate izvještava o osamdeset fizički prisutnih unutar Nvidijine rudarske kartice. U ovom videu, gdje se memorija skrivala? Zašto vas otključavanje i dalje može ostaviti kratkima? Srijeda je, jedanaesti studeni, i ovo je The Daily Diff. I jedna od Kateinih kartica pokazuje gdje točno besplatna nadogradnja prestaje. CMP 170HX je Nvidijin Ethereum rudarski akcelerator,

Što se nalazi unutar ove rudarske kartice?

0:22 izgrađen oko istog GPU čipa kao A100. Kate izvještava da su ograničenja konfiguracije skrivala memoriju koja je već bila u paketu. Iskoristivi kapacitet i dalje ovisi o netaknutom hardveru i konfiguraciji koju upravljački program može podnijeti. Kate je objavila istraživanje 10. studenog. Danas su čitatelji Hacker Newsa raspravljali o skrivenom hardveru i proizvodnim nedostacima. Ovdje su važni i segmentacija proizvoda i prinos proizvodnje. Odjeljak za komentare se već promovirao u osiguranje kvalitete poluvodiča.

0:46 Skupi dio je već tu.

Kako instalirana memorija može ostati nevidljiva?

0:48 Memorija visokog protoka, ili HBM, nalazi se pored GPU čipa u paketu. Nvidijin opis arhitekture razlikuje cijeli čip od konfiguracije koja se prodaje kao A100. Povezani hardver može postati različiti proizvodi. Kate identificira dvije verzije. Kartica od osam gigabajta ima oko osamdeset fizički instaliranih. Kartica od deset gigabajta ima oko četrdeset. To su različiti paketi, tako da veća oznaka proizvoda može doći s manje

1:10 memorije ispod. Kupovina po nazivu modela upravo je dobila sporednu misiju. Proizvodnja može ostaviti dijelove čipa neispravnima. Kate razdvaja konfiguraciju koja onemogućuje značajku od zapisa koji identificira neispravan hardver. Neki onemogućeni resursi rade kada su izloženi. Fizički pokvarena memorijska banka ostaje pokvarena, koliko god vaš GitHub readme bio uvjerljiv. Elektronički osigurači su sitne fizičke strukture koje trajno

Zašto jednosmjerni osigurači dopuštaju novu konfiguraciju?

1:31 zapisuju postavke. Izgoren osigurač ostaje izgoren. Efektivne postavke mogu se kodirati putem konfiguracijskih zapisa. Kate opisuje kako kasniji zapisi zamjenjuju ranije efektivne vrijednosti. Fizička povijest ostaje, dok se konfiguracija koja se iz nje tumači mijenja. Zamislite dokument s originalnom uputom i kasnijom izmjenom. Dodavanje izmjene mijenja koja se uputa primjenjuje, dok originalna tinta ostaje.

1:51 Instalirana memorija je nepromijenjena. Nitko nije popravio oštećeni HBM uvjeravanjem osigurača da ponovno izraste. Kate ističe nezgodnu posljedicu. Izgaranje više osigurača može ublažiti neka ograničenja. Negdje, savršeno razumna revizija dizajna otkriva da je riječ trajno trebala drugi stupac u proračunskoj tablici. Istraživanje izvještava o kratkom električnom poremećaju koji je ometao kontrolerove provjere i omogućio trajne promjene konfiguracije.

2:13 To objašnjenje ćemo zadržati konceptualnim. Reprodukcija hardverskih procedura može uništiti karticu. Čitanje ovog rezultata daje vam mentalni model; ne daje vam jamstvo. Već je postojao softverski otključavač pod nazivom CMP unlocker.

Što je ranije softversko otključavanje već moglo učiniti?

2:24 Kateina usporedba stavlja verziju od osam gigabajta na šezdeset četiri iskoristiva gigabajta na taj način. Hardversko otključavanje može doseći osamdeset kada je memorija netaknuta. Kate izvještava o ovim hardverskim rezultatima; prenamjena rudarskog hardvera ima dužu povijest. Kate izvještava da je provjerila cijelu memoriju pisanjem podataka po njoj i čitanjem natrag nakon brisanja GPU predmemorije. Članak također izvještava o funkcionalnim inferencijskim radnim opterećenjima. To su autorovi testovi, jači od očitanja kapaciteta. Nismo neovisno testirali modificiranu karticu.

2:49 Maloprodajni A100 ima sto osam streaming multiprocesora,

Što mjeri rezultat brži od A100?

2:53 skupina koje obavljaju posao. Kate izvještava o omogućavanju više funkcionalnih grupa. Izmjerena kartica ima sto dvadeset četiri. Koje grupe rade ovisi o pojedinom čipu. Kateina mikrobenckmarka aritmetike polupreciznosti stavlja hardverski otključanu karticu oko osamnaest posto ispred maloprodajnog A100. Mjeri specifičnu ponovljenu operaciju u OpenCL-u.

3:10 Čitanje toga kao poticaja svakom AI modelu daje grafikonu promociju koju nije zaslužio. Čitatelji Hacker Newsa spominjali su tvorničko testiranje i pouzdanost. Njihove konkurentne teorije ne pružaju neovisnu reprodukciju. Mogu cijeniti inženjering i još uvijek želim mjerenja radnog opterećenja i dugotrajne provjere stabilnosti prije nego što povjerim hardveru posao do kojeg mi je stalo. Dodatna iskoristiva memorija može odlučiti hoće li model stati na karticu.

Što ga još uvijek odvaja od podržanog akceleratora?

3:30 Brzina također ovisi o radnom opterećenju i protoku podataka kroz sustav. Ovaj članak ne pruža kontroliranu usporedbu broja tokena po sekundi. Zasebno procijenite kapacitet modela, aritmetički protok i performanse aplikacija. Kate kaže da značajke dekodiranja slika i videozapisa te GPU način s više instanci nisu posebno testirani. Međusklop i brža PCI Express veza zahtijevaju dodatne promjene. Ploča, firmware i funkcionalni hardver i dalje odlučuju što postaje iskoristivo. Kate kaže da su nalazi poslani Nvidijinom timu za sigurnost proizvoda prije

3:58 objavljivanja. Objava pripisuje drugom istraživaču neovisno pronalaženje ranjivosti. Ovdje nismo provjerili nikakav javni odgovor Nvidije niti testirali popravak. Trajne promjene konfiguracije mogu trajno onesposobiti hardver. Uspješno otključavanje i dalje ostavlja za procjenu hlađenje, napajanje i pouzdanost. Spektakularni naslov prodavača je tvrdnja o jednom uzorku. Snimka zaslona kapaciteta daje vam polaznu točku za provjeru.

Zašto jedna kartica nije dobila dodatnu memoriju?

4:19 Sada kartica koja uništava fantaziju o besplatnoj nadogradnji. Kate je imala jednu sa samo šezdeset četiri gigabajta netaknute. Hardversko otključavanje nije joj dalo memorijsku prednost u odnosu na softversko otključavanje. Ograničenje se promijenilo; oštećeni hardver ostao je oštećen. To je korisna lekcija za kupovinu. Fizički instalirani kapacitet i pouzdano iskoristivi kapacitet mogu biti vrlo različiti brojevi. Ako ovo radije čitate nego da me čujete kako govorim, razlika stiže u vašu pristiglu poštu svako jutro, besplatno na thedaily diff dot dev,

4:42 link ispod. Dakle, današnja presuda, NEEDS REVIEW.

Kakva je presuda o otključavanju?

4:44 Želio bih neovisno testiranje radnog opterećenja i pouzdanosti prije nego što bih modificiranu rudarsku karticu tretirao kao pouzdan akcelerator. Kateino istraživanje čini skriveni hardver razumljivim. Kupnja pouzdanog rezultata zahtijeva više dokaza. I to je razlika za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

  1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
  2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
  3. OpenCL-BenchmarkProjectPhysX
  4. GA100VFI research provenanceKate
  5. Earlier CMPunlocker projectAmogh Munikote
  6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
  7. November 11 discussion of Kate's researchHacker News
  8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
  9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
  10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
  11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
  12. Futurama GIF linked sourceGifsee

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Povezani videozapisi