Nvidia CMP 170HX atmiņa: fiziskā HBM, efektīvā konfigurācija un defekti

Ko aptver šis video

• Fiziskā atmiņa, efektīvi konfigurētā ietilpība un droši izmantojamā atmiņa ir atsevišķas lietas.
• Astoņu gigabaitu un desmit gigabaitu CMP 170HX varianti satur atšķirīgus fiziskās atmiņas iepakojumus.
• Vēlāki konfigurācijas ieraksti var aizstāt efektīvos iestatījumus, kamēr fiziskās drošinātāju zīmes paliek pastāvīgas.
• Keitas ziņotais veiktspējas salīdzinājums mēra FP16 half2 FMA aritmētiku OpenCL, bez kontrolētas secinājumu ātruma salīdzināšanas.
• Ražošanas defekti paliek pēc konfigurācijas atbloķēšanas; autora sešdesmit četru gigabaitu karte neguva papildu kadru bufera ietilpību.

Tulkotais transkripts

Tulkojums no oriģinālā angļu stāstījuma. Pieejamais audio un subtitri tiek kontrolēti no YouTube.

No kurienes nāca papildu atmiņa?

0:00 Astoņu gigabaitu GPU izklausās pēc astoņiem gigabaitiem aparatūras. Pētniece Keita ziņo par astoņdesmit fiziski klāt esošiem Nvidia ieguves kartē. Šajā videoklipā, kur slēpās atmiņa? Kāpēc tās atbloķēšana joprojām var atstāt jūs ar mazāku ietilpību? Ir trešdiena, vienpadsmitais novembris, un šis ir The Daily Diff. Un viena no Keitas kartēm parāda tieši to, kur beidzas bezmaksas jauninājums. CMP 170HX ir Nvidia Ethereum ieguves akselerators,

Kas atrodas šajā ieguves kartē?

0:22 uzbūvēts ap to pašu GPU mikroshēmu kā A100. Keita ziņo, ka konfigurācijas ierobežojumi slēpj atmiņu, kas jau ir iepakojumā. Izmantojamā ietilpība joprojām ir atkarīga no neskartas aparatūras un konfigurācijas, ko draiveris var apstrādāt. Keita publicēja pētījumu 10. novembrī. Šodien Hacker News lasītāji strīdējās par slēpto aparatūru un ražošanas defektiem. Gan produktu segmentācija, gan ražošanas iznākums ir svarīgi. Komentāru sadaļa jau ir kļuvusi par pusvadītāju kvalitātes

0:46 nodrošināšanas forumu. Dārgā daļa jau ir tur.

Kā instalētā atmiņa var palikt neredzama?

0:48 Augstas joslas platuma atmiņa jeb HBM atrodas blakus GPU mikroshēmai iepakojumā. Nvidia arhitektūras apraksts atšķir pilnu mikroshēmu no konfigurācijas, ko pārdod kā A100. Saistītā aparatūra var kļūt par dažādiem produktiem. Keita identificē divas versijas. Astoņu gigabaitu kartē ir aptuveni astoņdesmit fiziski uzstādīti gigabaiti. Desmit gigabaitu kartē ir aptuveni četrdesmit. Tie ir atšķirīgi iepakojumi, tāpēc lielāka produkta etiķete var būt ar mazāku

1:10 atmiņu. Iepirkšanās pēc modeļa nosaukuma tikko ieguva blakus uzdevumu. Ražošana var atstāt mikroshēmas daļas bojātas. Keita atdala konfigurāciju, kas atspējo funkciju, no ieraksta, kas identificē bojātu aparatūru. Daži atspējoti resursi darbojas, kad tie tiek atklāti. Fiziski bojāta atmiņas banka paliek bojāta, neatkarīgi no tā, cik pārliecinošs kļūst jūsu GitHub readme. Elektroniskie drošinātāji ir sīkas fiziskas struktūras, kas pastāvīgi

Kāpēc vienvirziena drošinātāji pieļauj jaunu konfigurāciju?

1:31 ieraksta iestatījumus. Izdedzis drošinātājs paliek izdedzis. Efektīvos iestatījumus var kodēt, izmantojot konfigurācijas ierakstus. Keita apraksta vēlākus ierakstus, kas aizstāj agrākas efektīvās vērtības. Fiziskā vēsture saglabājas, kamēr no tās interpretētā konfigurācija mainās. Iedomājieties dokumentu ar oriģinālo instrukciju un vēlāku grozījumu. Grozījumu pievienošana maina to, kura instrukcija ir piemērojama, kamēr oriģinālā tinte paliek.

1:51 Instalētā atmiņa nav mainīta. Neviens neatjaunoja bojātu HBM, pārliecinot drošinātāju atjaunoties. Keita norāda uz neērto sekas. Vairāku drošinātāju izdegšana var mazināt dažus ierobežojumus. Kaut kur, pilnīgi pamatota dizaina pārskatīšana atklāj, ka vārdam pastāvīgs bija nepieciešama otrā kolonna izklājlapā. Pētījums ziņo par īsu elektrisku traucējumu, kas izjauc kontroliera pārbaudes un pieļauj pastāvīgas konfigurācijas izmaiņas.

2:13 Mēs saglabāsim šo skaidrojumu konceptuālu. Aparatūras procedūru reproducēšana var sabojāt karti. Šī rezultāta lasīšana sniedz jums mentālu modeli; tā nesniedz jums garantiju. Programmatūras atbloķētājs ar nosaukumu CMP unlocker jau pastāvēja.

Ko jau varēja paveikt agrākā programmatūras atbloķēšana?

2:24 Keitas salīdzinājums šādā veidā novieto astoņu gigabaitu versiju ar sešdesmit četriem izmantojamiem gigabaitiem. Aparatūras atbloķēšana var sasniegt astoņdesmit, ja atmiņa ir neskarta. Keita ziņo par šiem aparatūras rezultātiem; ieguves aparatūras pārvēršanai ir garāka vēsture. Keita ziņo par pilnas atmiņas pārbaudi, rakstot datus visā tajā un nolasot tos atpakaļ pēc GPU kešatmiņas notīrīšanas. Rakstā arī ziņots par strādājošām secinājumu apstrādes slodzēm. Tie ir autora testi, kas ir spēcīgāki par ietilpības nolasīšanu. Mēs neesam neatkarīgi pārbaudījuši modificētu karti.

2:49 Mazumtirdzniecības A100 ir simts astoņi straumēšanas multiprocesori,

Ko mēra rezultāts, kas ir ātrāks par A100?

2:53 grupas, kas veic darbu. Keita ziņo par vairāku funkcionālo grupu aktivizēšanu. Mērītajai kartei ir simts divdesmit četri. Kuras grupas strādā, ir atkarīgs no individuālās mikroshēmas. Keitas puskada precizitātes aritmētikas mikropārbaude novieto aparatūras atbloķēto karti aptuveni astoņpadsmit procentus priekšā mazumtirdzniecības A100. Tā mēra specifisku atkārtotu operāciju OpenCL.

3:10 To nolasīt kā visu AI modeļu uzlabojumu piešķir diagrammai paaugstinājumu, ko tā nav nopelnījusi. Hacker News lasītāji minēja rūpnīcas testēšanu un uzticamību. Viņu konkurējošās teorijas nenodrošina neatkarīgu reproducēšanu. Es varu novērtēt inženieriju un joprojām vēlos darba slodzes mērījumus un ilgstošus stabilitātes testus, pirms uzticu aparatūrai darbu, kas man ir svarīgs. Papildu izmantojamā atmiņa var izlemt, vai modelis ietilpst kartē.

Kas to joprojām atšķir no atbalstīta akseleratora?

3:30 Ātrums ir atkarīgs arī no darba slodzes un datu pārvietošanas caur sistēmu. Šis raksts nenodrošina kontrolētu žetonu skaits sekundē salīdzinājumu. Novērtējiet modeļa ietilpību, aritmētisko caurlaides spēju un lietojumprogrammas veiktspēju atsevišķi. Keita saka, ka attēlu un video dekodēšanas funkcijas un vairāku instanču GPU režīms netika īpaši pārbaudīti. Savienojumam un ātrākai PCI Express savienojumam ir nepieciešamas papildu izmaiņas. Plāksne, programmaparatūra un funkcionālā aparatūra joprojām nosaka, kas kļūst izmantojams. Keita saka, ka secinājumi tika nosūtīti Nvidia produktu drošības komandai pirms

3:58 publicēšanas. Ziņojumā tiek atzīmēts cits pētnieks, kurš neatkarīgi atklāja ievainojamību. Mēs šeit neesam verificējuši nevienu publisku Nvidia atbildi vai pārbaudītu labojumu. Pastāvīgas konfigurācijas izmaiņas var neatgriezeniski "iestrēgt" aparatūru. Veiksmīga atbloķēšana joprojām atstāj jāizvērtē dzesēšanu, jaudu un uzticamību. Pārdevēja iespaidīgs virsraksts ir apgalvojums par vienu paraugu. Ietilpības ekrānuzņēmums sniedz jums sākumpunktu tā pārbaudei.

Kāpēc viena karte neguva papildu atmiņu?

4:19 Tagad karte, kas sabojā bezmaksas jauninājuma fantāziju. Keitai bija viena ar tikai sešdesmit četriem neskartiem gigabaitiem. Aparatūras atbloķēšana tai nedeva nekādas atmiņas priekšrocības salīdzinājumā ar programmatūras atbloķēšanu. Ierobežojums mainījās; bojātā aparatūra palika bojāta. Tā ir noderīga pirkšanas mācība. Fiziski uzstādītā ietilpība un droši izmantojamā ietilpība var būt ļoti atšķirīgi skaitļi. Ja vēlaties to izlasīt, nevis dzirdēt, kā es to saku, diff katru rītu nonāk jūsu iesūtnē bez maksas vietnē the daily diff dot dev,

4:42 saite zemāk. Tātad, šodienas spriedums, NEPĀRSKATĪTS.

Kāds ir spriedums par atbloķēšanu?

4:44 Es vēlētos neatkarīgas darba slodzes un uzticamības pārbaudes, pirms modificētu ieguves karti uzskatu par uzticamu akseleratoru. Keitas pētījumi padara slēpto aparatūru saprotamu. Uzticama rezultāta iegūšanai ir nepieciešams vairāk pierādījumu. Un tas ir viss šodienas diff. Esmu Niko no Axrisi. Apvienojiet atbildīgi.

Avoti

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee