+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Memorija Nvidia CMP 170HX: fizička HBM, efektivna konfiguracija i nedostaci

Kate izvještava o izlaganju memorije već instalirane u Nvidia-inom CMP 170HX rudarskom akceleratoru.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Kate izvještava o izlaganju memorije već instalirane u Nvidia-inom CMP 170HX rudarskom akceleratoru. Varijanta od osam gigabajta fizički sadrži oko osamdeset gigabajta, dok iskoristivi kapacitet ovisi o neoštećenom hardveru i efektivnoj konfiguraciji. Jedna kartica s samo šezdeset i četiri gigabajta netaknute memorije nije dobila prednost u framebufferu u odnosu na ranije softversko otključavanje.

Pročitajte pisano izdanje (engleski) ↗

Što ovaj video pokriva

  • Fizička memorija, efektivno konfigurirani kapacitet i pouzdano iskoristiva memorija su različiti.
  • Varijante CMP 170HX od osam gigabajta i deset gigabajta sadrže različite fizičke memorijske pakete.
  • Kasniji zapisi o konfiguraciji mogu zamijeniti efektivne postavke dok fizičke osiguračke oznake ostaju trajne.
  • Kateina prijavljena usporedba performansi mjeri FP16 half2 FMA aritmetiku u OpenCL-u, bez kontrolirane usporedbe brzine zaključivanja.
  • Proizvodni nedostaci ostaju nakon otključavanja konfiguracije; autorova kartica od šezdeset i četiri gigabajta nije dobila dodatni kapacitet framebuffer-a.

Pitanja i odgovori

Zašto rudarski GPU može sadržavati više memorije nego što aplikacije mogu koristiti?

Instalirana memorija i izloženi kapacitet kontroliraju se zasebno. Kateino istraživanje izvještava da varijanta CMP 170HX od osam gigabajta fizički sadrži oko osamdeset gigabajta, dok konfiguracijska ograničenja izlažu manji kapacitet. Varijanta od deset gigabajta ima drugačiji paket s oko četrdeset gigabajta fizički. Iskoristiva memorija i dalje ovisi o neoštećenom hardveru i konfiguraciji koju upravljački program može podnijeti.

Gledajte ovaj dio 0:19 · Kate's blog · NVIDIA Developer

Kako trajni elektronički osigurači mogu dopustiti promjenu efektivnih postavki?

Kasniji zapisi o konfiguraciji mogu zamijeniti efektivne vrijednosti tumačene iz nepovratne fizičke povijesti. Kate opisuje ovu razliku u istraživanju GA100, a Nvidijin patent povezan s izvorom pruža konceptualni kontekst za premostive zapise osigurača. Izgoren fizički osigurač ostaje izgoren. Epizoda objašnjava tu interpretaciju bez pružanja električnih postupaka, hardverskih adresa ili recepta za modifikaciju.

Gledajte ovaj dio 1:28 · Kate's blog · NVIDIA patent

Dokazuje li prijavljeni aritmetički benchmark brže AI zaključivanje?

Prijavljena usporedba mjeri specifičnu aritmetičku operaciju polovične preciznosti. Katein hardverski otključan primjer radi oko osamnaest posto bolje od maloprodajnog A100 u ProjectPhysX OpenCL FP16 half2 FMA mikrokontrolnom testu. Članak ne pruža kontroliranu usporedbu tokena po sekundi. Stoga, prilagođenost modela, aritmetički protok i potpuna izvedba aplikacije zahtijevaju zasebne dokaze, a mjerenja ostaju autorovi rezultati.

Gledajte ovaj dio 2:50 · Kate's blog · ProjectPhysX

Zašto jedna otključana kartica nije dobila dodatnu iskoristivu memoriju?

Ta konkretna kartica imala je samo šezdeset četiri gigabajta netaknute memorije. Kate izvještava da njeno hardversko otključavanje nije proizvelo prednost u framebufferu u odnosu na ranije softversko otključavanje, koje je već dosegnulo taj kapacitet. Promjena ograničenja ostavila je oštećeni hardver oštećenim. Protuprimjer pokazuje zašto se fizički instalirana memorija i pouzdano iskoristivi kapacitet moraju zasebno procijeniti za pojedinu karticu.

Gledajte ovaj dio 4:19 · Kate's blog · Amogh Munikote

Kakva je bila presuda The Daily Diffa o oslanjanju na modificirani rudarski akcelerator?

Presuda The Daily Diffa bila je POTREBNA JE RECENZIJA. Niko bi želio neovisno testiranje radnog opterećenja i pouzdanosti prije nego što bi se oslanjao na modificiranu rudarsku karticu kao akcelerator. Epizoda pripisuje Kateino objavljeno istraživanje uz očuvanje autorovih granica mjerenja i protuprimjera neispravne kartice. Ne izvještava o neovisnoj hardverskoj modifikaciji, reprodukciji ili benchmarku aplikacije koji je izvršila emisija.

Gledajte ovaj dio 4:43 · Kate's blog · ProjectPhysX

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

Odakle je došla dodatna memorija?

0:00 GPU od osam gigabajta zvuči kao osam gigabajta hardvera. Istraživačica Kate izvještava o osamdeset fizički prisutnih unutar Nvidijine rudarske kartice. U ovom videu, gdje se memorija skrivala? Zašto vam njeno otključavanje još uvijek može ostaviti manjak? Srijeda je, jedanaesti studeni, i ovo je The Daily Diff. I jedna od Kateinih kartica pokazuje točno gdje besplatna nadogradnja prestaje. CMP 170HX je Nvidijin Ethereum rudarski akcelerator,

Što se nalazi unutar ove rudarske kartice?

0:22 izgrađen oko istog GPU čipa kao i A100. Kate izvještava da konfiguracijska ograničenja skrivaju memoriju već u pakiranju. Iskoristivi kapacitet i dalje ovisi o neoštećenom hardveru i konfiguraciji koju upravljački program može podnijeti. Kate je objavila istraživanje desetog studenog. Danas su čitatelji Hacker News-a raspravljali o skrivenom hardveru i proizvodnim nedostacima. Ovdje su važni i segmentacija proizvoda i prinos proizvodnje. Odjeljak za komentare se već promovirao u osiguranje kvalitete poluvodiča.

0:46 Skupi dio je već tu.

Kako instalirana memorija može ostati nevidljiva?

0:48 Memorija visoke propusnosti, ili HBM, nalazi se pored GPU čipa u pakiranju. Nvidijin opis arhitekture razlikuje puni čip od konfiguracije koja se prodaje kao A100. Povezani hardver može postati različiti proizvodi. Kate identificira dvije verzije. Kartica od osam gigabajta ima oko osamdeset fizički instaliranih. Kartica od deset gigabajta ima oko četrdeset. To su različiti paketi, pa veća oznaka proizvoda može doći s manje

1:10 memorije ispod. Kupovina po nazivu modela upravo je dobila sporednu misiju. Proizvodnja može ostaviti dijelove čipa neispravnima. Kate razdvaja konfiguraciju koja onemogućuje značajku od zapisa koji identificira neispravan hardver. Neki onemogućeni resursi rade kada su izloženi. Fizički slomljena memorijska banka ostaje slomljena, bez obzira koliko uvjerljiv postao vaš GitHub readme. Elektronički osigurači su sitne fizičke strukture koje trajno

Zašto jednosmjerni osigurači dopuštaju novu konfiguraciju?

1:31 bilježe postavke. Izgoren osigurač ostaje izgoren. Efektivne postavke mogu se kodirati putem konfiguracijskih zapisa. Kate opisuje kasnije zapise koji zamjenjuju ranije efektivne vrijednosti. Fizička povijest ostaje, dok se konfiguracija tumačena iz nje mijenja. Zamislite dokument s originalnom uputom i kasnijom izmjenom. Dodavanje izmjene mijenja koja se uputa primjenjuje, dok originalna tinta ostaje.

1:51 Instalirana memorija je nepromijenjena. Nitko nije popravio oštećenu HBM uvjeravanjem osigurača da ponovno izraste. Kate ističe nezgodnu posljedicu. Izgaranje više osigurača može ublažiti neka ograničenja. Negdje, savršeno razumna revizija dizajna otkriva da je riječ trajno trebala drugi stupac u proračunskoj tablici. Istraživanje izvještava o kratkom električnom poremećaju koji je ometao provjere kontrolera i omogućio trajne promjene konfiguracije.

2:13 To objašnjenje ćemo zadržati konceptualnim. Reproduciranje hardverskih postupaka može uništiti karticu. Čitanje ovog rezultata daje vam mentalni model; ne daje vam jamstvo. Softversko otključavanje nazvano CMP unlocker već je postojalo.

Što je ranije softversko otključavanje već moglo učiniti?

2:24 Kateina usporedba tako stavlja verziju od osam gigabajta na šezdeset četiri iskoristiva gigabajta. Hardversko otključavanje može dosegnuti osamdeset kada je memorija neoštećena. Kate izvještava o ovim hardverskim rezultatima; prenamjena rudarskog hardvera ima dužu povijest. Kate izvještava o provjeri cijele memorije pisanjem podataka po cijeloj njoj i ponovnim čitanjem nakon brisanja GPU predmemorije. Članak također izvještava o radnim opterećenjima zaključivanja. To su autorovi testovi, jači od očitanja kapaciteta. Nismo neovisno testirali modificiranu karticu.

2:49 Maloprodajna A100 ima sto osam streaming multiprocesora,

Što mjeri rezultat brži od A100?

2:53 grupa koje obavljaju posao. Kate izvještava o omogućavanju više funkcionalnih grupa. Izmjerena kartica ima sto dvadeset i četiri. Koje grupe rade ovisi o pojedinačnom čipu. Katein mikrokontrolni test aritmetike polovične preciznosti postavlja hardverski otključanu karticu oko osamnaest posto ispred maloprodajne A100. Mjeri specifičnu ponovljenu operaciju u OpenCL-u.

3:10 Čitanje toga kao povećanje svakog AI modela daje grafikonu promociju koju nije zaradio. Čitatelji Hacker News-a spomenuli su tvorničko testiranje i pouzdanost. Njihove konkurentske teorije ne pružaju neovisnu reprodukciju. Cijenim inženjering i još uvijek želim mjerenja radnog opterećenja i duga testiranja stabilnosti prije nego što hardveru povjerim posao do kojeg mi je stalo. Dodatna iskoristiva memorija može odlučiti hoće li model stati na karticu.

Što ga još uvijek odvaja od podržanog akceleratora?

3:30 Brzina također ovisi o radnom opterećenju i protoku podataka kroz sustav. Ovaj članak ne pruža kontroliranu usporedbu tokena po sekundi. Zasebno procijenite kapacitet modela, aritmetički protok i performanse aplikacije. Kate kaže da značajke dekodiranja slike i videa te GPU način rada s više instanci nisu posebno testirani. Međupovezivanje i brža PCI Express veza zahtijevaju dodatne promjene. Ploča, firmware i funkcionalni hardver i dalje odlučuju što postaje iskoristivo. Kate kaže da su nalazi poslani Nvidijinom timu za sigurnost proizvoda prije

3:58 objave. Objava pripisuje drugom istraživaču neovisno otkrivanje ranjivosti. Nismo provjerili nikakav javni Nvidijin odgovor niti testirano rješenje ovdje. Trajne promjene konfiguracije mogu trajno onesposobiti hardver. Uspješno otključavanje još uvijek ostavlja za procjenu hlađenje, napajanje i pouzdanost. Spektakularan naslov prodavača je tvrdnja o jednom uzorku. Snimka zaslona kapaciteta daje vam početnu točku za provjeru.

Zašto jedna kartica nije dobila dodatnu memoriju?

4:19 Sada kartica koja uništava fantaziju besplatne nadogradnje. Kate je imala jednu s samo šezdeset četiri gigabajta netaknute memorije. Hardversko otključavanje joj nije dalo prednost u memoriji u odnosu na softversko otključavanje. Ograničenje se promijenilo; oštećeni hardver je ostao oštećen. To je korisna lekcija o kupovini. Fizički instalirani kapacitet i pouzdano iskoristivi kapacitet mogu biti vrlo različiti brojevi. Ako ovo radije čitate nego da me čujete kako govorim, diff stiže u vašu pristiglu poštu svako jutro, besplatno na the daily diff dot dev,

4:42 poveznica ispod. Dakle, današnja presuda, POTREBNA JE RECENZIJA.

Kakva je presuda o otključavanju?

4:44 Želio bih neovisno testiranje radnog opterećenja i pouzdanosti prije nego što bih modificiranu rudarsku karticu tretirao kao pouzdan akcelerator. Kateino istraživanje čini skriveni hardver razumljivim. Kupnja pouzdanog rezultata zahtijeva više dokaza. I to je diff za danas. Ja sam Niko iz Axrisija. Spojite odgovorno.

Izvori

  1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
  2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
  3. OpenCL-BenchmarkProjectPhysX
  4. GA100VFI research provenanceKate
  5. Earlier CMPunlocker projectAmogh Munikote
  6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
  7. November 11 discussion of Kate's researchHacker News
  8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
  9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
  10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
  11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
  12. Futurama GIF linked sourceGifsee

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Povezani videozapisi