Nvidia CMP 170HX atmintis: fizinė HBM, efektyvi konfigūracija ir defektai
Kate praneša apie „Nvidia“ CMP 170HX kasybos spartintuve jau įmontuotos atminties atskleidimą.
Kate praneša apie „Nvidia“ CMP 170HX kasybos spartintuve jau įmontuotos atminties atskleidimą. Aštuonių gigabaitų variante fiziškai yra apie aštuoniasdešimt gigabaitų, o naudojama talpa priklauso nuo nepažeistos aparatinės įrangos ir efektyvios konfigūracijos. Viena kortelė su tik šešiasdešimt keturiais nepažeistais gigabaitais neturėjo jokio rėmelio buferio pranašumo, palyginti su ankstesniu programinės įrangos atrakinimu.
Skaityti rašytinę versiją (anglų k.) ↗
Kas aptariama šiame vaizdo įraše
- Fizinė atmintis, efektyviai sukonfigūruota talpa ir patikimai naudojama atmintis yra skirtingos.
- Aštuonių gigabaitų ir dešimties gigabaitų CMP 170HX variantuose yra skirtingi fizinės atminties paketai.
- Vėlesni konfigūracijos įrašai gali pakeisti efektyvius nustatymus, o fizinės saugiklių žymės išlieka nuolatinės.
- Kate pateiktas našumo palyginimas matuoja FP16 half2 FMA aritmetiką OpenCL, be kontroliuojamo išvadų greičio palyginimo.
- Gamybos defektai išlieka po konfigūracijos atrakinimo; autorės šešiasdešimt keturių gigabaitų kortelė negavo jokios papildomos kadrų buferio talpos.
Klausimai ir atsakymai
Kodėl kasybos GPU gali turėti daugiau atminties, nei gali naudoti programos?
Įdiegta atmintis ir atskleista talpa valdomos atskirai. Kate tyrimai praneša, kad aštuonių gigabaitų CMP 170HX variante fiziškai yra apie aštuoniasdešimt gigabaitų, o konfigūracijos apribojimai atskleidžia mažesnę talpą. Dešimties gigabaitų variante yra kitoks paketas su apie keturiasdešimt gigabaitų fiziškai. Naudojama atmintis vis dar priklauso nuo nepažeistos aparatinės įrangos ir konfigūracijos, kurią tvarkyklė gali valdyti.
Kaip nuolatiniai elektroniniai saugikliai gali leisti keisti efektyvius nustatymus?
Vėlesni konfigūracijos įrašai gali pakeisti efektyvias vertes, interpretuojamas iš negrįžtamos fizinės istorijos. Kate aprašo šį skirtumą GA100 tyrime, o „Nvidia“ pateiktas patento šaltinis suteikia konceptualų kontekstą perrašomiems saugiklių įrašams. Išdegęs fizinis saugiklis lieka išdegęs. Epizode paaiškinamas šis interpretavimas, nepateikiant elektrinių procedūrų, aparatinės įrangos adresų ar modifikavimo recepto.
Ar pateiktas aritmetinis lyginamasis testas patvirtina greitesnį AI išvedimą?
Pateiktas palyginimas matuoja specifinę pusės tikslumo aritmetinę operaciją. Kate aparatinės įrangos atrakintas pavyzdys veikia maždaug aštuoniolika procentų greičiau nei mažmeninės prekybos A100 „ProjectPhysX OpenCL FP16 half2 FMA“ mikrolyginamajame teste. Straipsnyje nepateikiamas kontroliuojamas simbolių per sekundę palyginimas. Modelio tinkamumui, aritmetinei pralaidumai ir visai programos našumui todėl reikalingi atskiri įrodymai, o matavimai išlieka autorės rezultatais.
Kodėl viena atrakinta kortelė negavo papildomos naudojamos atminties?
Toje konkrečioje kortelėje buvo tik šešiasdešimt keturi gigabaitai. Kate praneša, kad jos aparatinės įrangos atrakinimas nesuteikė jokio kadrų buferio pranašumo prieš ankstesnį programinės įrangos atrakinimą, kuris jau pasiekė tą talpą. Pakeitus apribojimą, sugadinta aparatinė įranga liko sugadinta. Priešpriešinis pavyzdys rodo, kodėl fiziškai įdiegta atmintis ir patikimai naudojama talpa turi būti įvertintos atskirai kiekvienai kortelei.
Koks buvo „The Daily Diff“ verdiktas dėl pasitikėjimo modifikuotu kasybos spartintuvu?
„The Daily Diff“ verdiktas buvo REIKIA PERŽIŪRĖTI. Niko norėtų nepriklausomo darbo krūvio ir patikimumo testavimo, prieš pasitikėdamas modifikuota kasybos kortele kaip spartintuvu. Epizode priskiriama Kate paskelbtiems tyrimams, išlaikant autorės matavimų ribas ir defektuotos kortelės priešpriešinį pavyzdį. Jame nepranešama apie jokias nepriklausomas aparatinės įrangos modifikacijas, reprodukcijas ar programų lyginamuosius testus, atliktus laidoje.
Išverstas transkriptas
Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.
Iš kur atsirado papildoma atmintis?
0:00 Aštuonių gigabaitų GPU skamba kaip aštuoni gigabaitai techninės įrangos. Tyrėja Kate praneša apie aštuoniasdešimt fiziškai esančių „Nvidia“ kasybos kortelėje. Šiame vaizdo įraše, kur slėpėsi atmintis? Kodėl atrakinus ją vis dar gali trūkti? Šiandien trečiadienis, lapkričio vienuolika, ir tai yra The Daily Diff. Ir viena iš Kate kortelių tiksliai rodo, kur baigiasi nemokamas atnaujinimas. CMP 170HX yra „Nvidia“ Ethereum kasybos spartintuvas,
Kas yra šioje kasybos kortelėje?
0:22 sukurtas aplink tą patį GPU lustą kaip ir A100. Kate praneša, kad konfigūracijos apribojimai slepiasi jau pakuotėje esančioje atmintyje. Naudojama talpa vis dar priklauso nuo nepažeistos aparatinės įrangos ir konfigūracijos, kurią tvarkyklė gali valdyti. Kate paskelbė tyrimą lapkričio dešimtą dieną. Šiandien „Hacker News“ skaitytojai ginčijosi apie paslėptą aparatinę įrangą ir gamybos defektus. Čia svarbūs tiek produktų segmentavimas, tiek gamybos išeiga. Komentarų skiltis jau pasiskelbė puslaidininkių kokybės
0:46 užtikrinimo. Brangi dalis jau yra ten.
Kaip įdiegta atmintis gali likti nematoma?
0:48 Didelės spartos atmintis, arba HBM, sėdi šalia GPU lusto pakuotėje. „Nvidia“ architektūros aprašymas skiria visą lustą nuo konfigūracijos, parduodamos kaip A100. Susijusi aparatinė įranga gali tapti skirtingais produktais. Kate identifikuoja dvi versijas. Aštuonių gigabaitų kortelėje fiziškai įdiegta apie aštuoniasdešimt. Dešimties gigabaitų kortelėje yra apie keturiasdešimt. Tai skirtingi paketai, todėl didesnis produkto pavadinimas gali ateiti su mažiau
1:10 atminties po juo. Pirkimas pagal modelio pavadinimą ką tik įgijo šalutinę užduotį. Gamyba gali palikti lusto dalis defektuotas. Kate skiria konfigūraciją, kuri išjungia funkciją, nuo įrašo identifikuojančio defektuotą aparatinę įrangą. Kai kurie išjungti resursai veikia, kai yra atskleisti. Fiziškai sugedęs atminties bankas lieka sugedęs, kad ir koks įtikinamas būtų jūsų GitHub readme. Elektroniniai saugikliai yra mažytės fizinės struktūros, kurios nuolat
Kodėl vienpusiai saugikliai leidžia naują konfigūraciją?
1:31 įrašo nustatymus. Sprogęs saugiklis lieka sprogęs. Efektyvūs nustatymai gali būti užkoduoti per konfigūracijos įrašus. Kate aprašo vėlesnius įrašus, pakeičiančius ankstesnes efektyvias vertes. Fizinė istorija išlieka, o konfigūracija, interpretuojama iš jos, keičiasi. Įsivaizduokite dokumentą su originalia instrukcija ir vėlesniu pakeitimu. Pakeitimo pridėjimas keičia, kokia instrukcija taikoma, o originalus rašalas lieka.
1:51 Įdiegta atmintis nepakito. Niekas nebuvo pataisęs sugadintos HBM, įtikinęs saugiklį ataugti. Kate atkreipia dėmesį į nepatogią pasekmę. Deginti daugiau saugiklių gali atlaisvinti kai kuriuos apribojimus. Kažkur, visiškai pagrįstas dizaino peržiūra atranda, kad žodžiui nuolatinis reikėjo antro stulpelio skaičiuoklėje. Tyrimas praneša apie trumpą elektrinį trikdį, sutrikdantį valdiklio patikrinimus ir leidžiantį nuolatinius konfigūracijos pakeitimus.
2:13 Paliksime šį paaiškinimą konceptualų. Aparatinės įrangos procedūrų atkūrimas gali sugadinti kortelę. Skaitydami šį rezultatą gausite mentalinį modelį; jis nesuteikia jums jokios garantijos. Jau egzistavo programinės įrangos atrakinimas pavadinimu CMP unlocker.
Ką jau galėjo padaryti ankstesnis programinės įrangos atrakinimas?
2:24 Kate palyginimas nurodo, kad aštuonių gigabaitų versija tokiu būdu turi šešiasdešimt keturis naudojamus gigabaitus. Aparatinės įrangos atrakinimas gali pasiekti aštuoniasdešimt, kai atmintis yra nepažeista. Kate praneša apie šiuos aparatinės įrangos rezultatus; kasybos aparatinės įrangos perkonfigūravimas turi ilgesnę istoriją. Kate praneša patikrinusi visą atmintį, įrašydama duomenis per ją ir perskaitydama juos atgal po GPU talpyklos išvalymo. Straipsnyje taip pat pranešama apie veikiančias išvadų darbo apkrovas. Tai yra autorės testai, stipresni nei talpos nuskaitymas. Mes nepriklausomai netikrinome modifikuotos kortelės.
2:49 Mažmeninė A100 turi šimtą aštuonis srautinius multiprocesorius,
Ką matuoja greitesnis nei A100 rezultatas?
2:53 grupės, atliekančios darbą. Kate praneša apie daugiau funkcinių grupių įjungimą. Išmatuota kortelė turi šimtą dvidešimt keturis. Kurios grupės veikia, priklauso nuo individualaus lusto. Kate pusės tikslumo aritmetikos mikrolyginamasis testas rodo, kad aparatinės įrangos atrakinta kortelė maždaug aštuoniolika procentų lenkia mažmeninės prekybos A100. Ji matuoja specifinę pakartotinę operaciją OpenCL.
3:10 Tai, kad tai yra visų dirbtinio intelekto modelių spartinimas, diagramai suteikia pelno, kurio ji neuždirbo. „Hacker News“ skaitytojai kėlė gamyklos testavimo ir patikimumo klausimus. Jų konkuruojančios teorijos nepateikia nepriklausomo pakartotinio atgaminimo. Aš galiu vertinti inžineriją ir vis tiek noriu darbo krūvio matavimų ir ilgų stabilumo testų, prieš pasitikėdamas technine įranga darbui, kuris man rūpi. Papildoma naudojama atmintis gali lemti, ar modelis tilps į kortelę.
Kas vis dar skiria ją nuo palaikomo spartintuvo?
3:30 Greitis taip pat priklauso nuo darbo krūvio ir duomenų judėjimo per sistemą. Šiame straipsnyje nepateikiamas kontroliuojamas ženklų per sekundę palyginimas. Įvertinkite modelio talpą, aritmetinę pralaidumą ir programos našumą atskirai. Kate teigia, kad vaizdo ir vaizdo dekodavimo funkcijos bei kelių egzempliorių GPU režimas nebuvo specialiai išbandyti. Sujungimas ir greitesnis PCI Express ryšys reikalauja papildomų pakeitimų. Plokštė, programinė įranga ir funkcinė aparatinė įranga vis dar sprendžia, kas tampa naudojama. Kate teigia, kad išvados buvo perduotos „Nvidia“ produktų saugumo komandai prieš
3:58 paskelbimą. Įraše kitam tyrėjui priskiriama, kad jis nepriklausomai rado pažeidžiamumą. Mes nepatvirtinome jokio viešo „Nvidia“ atsakymo ar išbandyto pataisymo čia. Nuolatiniai konfigūracijos pakeitimai gali nuolat įstrigti aparatinę įrangą. Sėkmingas atrakinimas vis dar palieka aušinimą, maitinimą ir patikimumą, kuriuos reikia įvertinti. Pardavėjo įspūdinga antraštė yra teiginys apie vieną pavyzdį. Talpos ekrano kopija suteikia atskaitos tašką jos patikrinimui.
Kodėl viena kortelė negavo papildomos atminties?
4:19 Dabar kortelė, kuri sugadina nemokamo atnaujinimo fantaziją. Kate turėjo vieną, kurioje buvo tik šešiasdešimt keturi gigabaitai. Aparatinės įrangos atrakinimas jai nesuteikė atminties pranašumo prieš programinės įrangos atrakinimą. Apribojimas pasikeitė; sugadinta aparatinė įranga liko sugadinta. Tai yra naudinga pirkimo pamoka. Fiziškai įdiegta talpa ir patikimai naudojama talpa gali būti labai skirtingi skaičiai. Jei verčiau tai perskaitytumėte, nei girdėtumėte mane sakant, Skirtumas kas rytą atsiduria jūsų pašto dėžutėje, nemokamai daily diff dot dev,
4:42 nuoroda žemiau. Taigi, šiandienos verdiktas, REIKIA PERŽIŪRĖTI.
Koks yra atrakinimo verdiktas?
4:44 Norėčiau nepriklausomo darbo krūvio ir patikimumo testavimo, prieš laikydamas modifikuotą kasybos kortelę patikimu spartintuvu. Kate tyrimai padaro paslėptą aparatinę įrangą suprantamą. Patikimo rezultato įsigijimui reikia daugiau įrodymų. Ir tai yra šiandienos skirtumas. Aš esu Niko iš Axrisi. Sujunkite atsakingai.
Šaltiniai
- Using voltage glitching to unleash the A100 in my mining cardKate's blog
- NVIDIA Ampere Architecture In-DepthNVIDIA Developer
- OpenCL-BenchmarkProjectPhysX
- GA100VFI research provenanceKate
- Earlier CMPunlocker projectAmogh Munikote
- Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
- November 11 discussion of Kate's researchHacker News
- Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
- Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
- Toy Story process-commentary still sourceImgflip / Pixar-Disney media
- Futurama fictional sceptical reaction sourceGiphy / Gifsee
- Futurama GIF linked sourceGifsee



