Nvidia CMP 170HX xotirasi: jismoniy HBM, samarali konfiguratsiya va nuqsonlar
Keyt Nvidia kompaniyasining CMP 170HX qazib olish tezlatkichiga o'rnatilgan xotirani ochish haqida xabar beradi.
Keyt Nvidia kompaniyasining CMP 170HX qazib olish tezlatkichiga o'rnatilgan xotirani ochish haqida xabar beradi. Sakkiz gigabaytlik variant fizik jihatdan sakson gigabaytga yaqin xotirani o'z ichiga oladi, bunda foydalanish mumkin bo'lgan hajmi butun apparat va samarali konfiguratsiyaga bog'liq. Faqat oltmish to'rt gigabayt to'liq bo'lgan bitta karta avvalgi dasturiy ta'minotni qulfdan chiqarishga nisbatan kadr buferi ustunligiga ega bo'lmadi.
Yozma nashrini oʻqing (inglizcha) ↗
Bu video nimani qamrab oladi
- Jismoniy xotira, samarali konfiguratsiya qilingan sig'im va ishonchli foydalanish mumkin bo'lgan xotira farq qiladi.
- Sakkiz gigabaytlik va o'n gigabaytlik CMP 170HX variantlari turli jismoniy xotira paketlarini o'z ichiga oladi.
- Keyingi konfiguratsiya yozuvlari samarali sozlamalarni almashtirishi mumkin, ammo jismoniy saqlash belgilar doimiy bo'lib qoladi.
- Keytning xabar qilingan unumdorlik taqqoslashlari OpenCL da FP16 half2 FMA arifmetikasini o'lchaydi, nazorat qilingan xulosa tezligi taqqoslashsiz.
- Konfiguratsiyani qulfdan chiqargandan so'ng ishlab chiqarish nuqsonlari saqlanib qoladi; muallifning oltmish to'rt gigabaytli kartasi qo'shimcha kadr buferi sig'imiga ega bo'lmadi.
Savollar va javoblar
Nima uchun mayning GPUsi ilovalar foydalana oladiganidan ko'proq xotira saqlashi mumkin?
O'rnatilgan xotira va ko'rsatilgan sig'im alohida nazorat qilinadi. Keytning tadqiqotlari shuni ko'rsatadiki, sakkiz gigabaytlik CMP 170HX varianti fizik jihatdan sakson gigabaytga yaqin xotirani o'z ichiga oladi, ammo konfiguratsiya cheklovlari kichikroq sig'imni ko'rsatadi. O'n gigabaytlik variantda fizik jihatdan qirq gigabaytga yaqin xotiraga ega boshqa paket mavjud. Foydalanish mumkin bo'lgan xotira hali ham butun apparat va drayver boshqara oladigan konfiguratsiyaga bog'liq.
Doimiy elektron saqlash moslamalari samarali sozlamalarni qanday qilib o'zgarishiga imkon beradi?
Keyingi konfiguratsiya yozuvlari qaytarilmas fizik tarixdan talqin qilingan samarali qiymatlarni almashtirishi mumkin. Keyt GA100 tadqiqotida bu farqni tasvirlaydi va Nvidia kompaniyasining manbaga bog'langan patenti bekor qilinadigan saqlash yozuvlari uchun konseptual kontekstni ta'minlaydi. Kuygan fizik saqlash moslamasi kuyganligicha qoladi. Epizod elektr protseduralari, apparat manzillari yoki modifikatsiya retseptisiz talqinni tushuntiradi.
Xabar qilingan arifmetik benchmark tezroq sun'iy intellekt xulosasini tasdiqlaydimi?
Xabar qilingan taqqoslash ma'lum bir yarim aniqlikdagi arifmetik operatsiyani o'lchaydi. Keytning apparat orqali qulfdan chiqarilgan namunasi ProjectPhysX OpenCL FP16 half2 FMA mikrobayrog'ida chakana A100 dan o'n sakkiz foizga yuqori natija beradi. Maqolada soniyaga nazorat qilingan tokenlar taqqoslashlari berilmagan. Shuning uchun modelning mosligi, arifmetik o'tkazuvchanlik va to'liq dastur unumdorligi alohida dalillarni talab qiladi va o'lchovlar muallifning natijalari bo'lib qoladi.
Nima uchun bitta qulfdan chiqarilgan karta qo'shimcha foydalanish mumkin bo'lgan xotiraga ega bo'lmadi?
Bu kartada faqat oltmish to'rt gigabayt to'liq bo'lgan. Keytning xabar qilishicha, uning apparat qulfdan chiqarish avvalgi dasturiy qulfdan chiqarishga nisbatan hech qanday kadr buferi ustunligini bermadi, bu allaqachon shu sig'imga yetgan edi. Cheklovni o'zgartirish buzilgan apparatni buzilganligicha qoldirdi. Qarshi misol, nima uchun jismoniy o'rnatilgan xotira va ishonchli foydalanish mumkin bo'lgan sig'imni alohida karta uchun alohida baholash kerakligini ko'rsatadi.
The Daily Diff ning modifikatsiya qilingan mayning tezlatkichiga ishonish haqidagi hukmi qanday edi?
The Daily Diff ning hukmi KO'RIB CHIQISH KERAK edi. Niko modifikatsiya qilingan mayning kartasiga tezlatkich sifatida ishonishdan oldin mustaqil ish yukini va ishonchlilik sinovlarini xohlardi. Epizod Keytning nashr etilgan tadqiqotlariga ishonch bildiradi, shu bilan birga muallifning o'lchov chegaralarini va nuqsonli karta qarshi misolini saqlab qoladi. U ko'rsatuv tomonidan amalga oshirilgan mustaqil apparat modifikatsiyasini, takrorlashni yoki dastur benchmarkini xabar qilmaydi.
Tarjima qilingan transkript
Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.
Qo'shimcha xotira qayerdan keldi?
0:00 Sakkiz gigabaytli GPU sakkiz gigabayt apparatga o'xshaydi. Tadqiqotchi Keyt Nvidia mayning kartasi ichida jismoniy jihatdan sakson gigabayt mavjudligini xabar qiladi. Bu videoda xotira qayerda yashiringan edi? Nima uchun uni qulfdan chiqarish hali ham sizni qiyinchilikda qoldirishi mumkin? Bugun, chorshanba, o'n birinchi noyabr, va bu The Daily Diff. Va Keytning kartalaridan biri bepul yangilanishning qayerda tugashini aniq ko'rsatadi. CMP yuz yetmish HX Nvidia kompaniyasining Ethereum qazib olish tezlatkichidir,
Bu mayning kartasi ichida nima bor?
0:22 A yuz bilan bir xil GPU matritsasi atrofida qurilgan. Keyt konfiguratsiya cheklovlari paketdagi xotirani yashirayotganini xabar qiladi. Foydalanish mumkin bo'lgan hajmi hali ham butun apparat va drayver boshqara oladigan konfiguratsiyaga bog'liq. Keyt tadqiqotni o'n noyabrda nashr etdi. Bugun Hacker News o'quvchilari yashirin apparat va ishlab chiqarish nuqsonlari haqida bahslashishdi. Mahsulot segmentatsiyasi ham, ishlab chiqarish samaradorligi ham bu erda muhim. Izohlar bo'limi allaqachon o'zini yarimo'tkazgich sifatini
0:46 ta'minlash darajasiga ko'targan. Qimmat qismi allaqachon mavjud.
O'rnatilgan xotira qanday qilib ko'rinmas bo'lib qolishi mumkin?
0:48 Yuqori o'tkazuvchanlik xotirasi yoki HBM paketdagi GPU matritsasi yonida joylashgan. Nvidia arxitekturasining tavsifi to'liq chipni A yuz sifatida sotilgan konfiguratsiyadan ajratib turadi. Tegishli apparat turli mahsulotlarga aylanishi mumkin. Keyt ikkita versiyani aniqlaydi. Sakkiz gigabaytli kartada fizik jihatdan sakson gigabaytga yaqin xotira o'rnatilgan. O'n gigabaytli kartada qirq gigabaytga yaqin xotira mavjud. Bular turli paketlar, shuning uchun kattaroq mahsulot yorlig'i ostida kamroq
1:10 xotira bo'lishi mumkin. Model nomi bo'yicha xarid qilish endigina yon vazifaga aylandi. Ishlab chiqarish chipning qismlarini nuqsonli qoldirishi mumkin. Keyt funksiyani o'chiradigan konfiguratsiyani nuqsonli apparatni aniqlaydigan yozuvdan ajratadi. Ba'zi o'chirilgan resurslar ochilganda ishlaydi. Jismoniy buzilgan xotira banki buzilganligicha qoladi, GitHub readme'ingiz qanchalik ishonarli bo'lmasin. Elektron saqlash moslamalari sozlamalarni doimiy ravishda
Nima uchun bir tomonlama saqlash moslamalari yangi konfiguratsiyaga ruxsat beradi?
1:31 yozib oladigan kichik fizik tuzilmalardir. Kuygan saqlash moslamasi kuyganligicha qoladi. Samarali sozlamalar konfiguratsiya yozuvlari orqali kodlanishi mumkin. Keyt keyingi yozuvlar avvalgi samarali qiymatlarni almashtirishini tasvirlaydi. Jismoniy tarix saqlanib qoladi, undan talqin qilingan konfiguratsiya esa o'zgaradi. Bir hujjatni tasavvur qiling, unda asl ko'rsatma va keyingi o'zgartirish bor. O'zgartirishni qo'shish qaysi ko'rsatma qo'llanilishini o'zgartiradi, asl siyoh esa saqlanib qoladi.
1:51 O'rnatilgan xotira o'zgarishsiz qoladi. Hech kim buzilgan HBMni saqlash moslamasini qayta o'stirishga ishontirish orqali ta'mirlamadi. Keyt noqulay oqibatni ta'kidlaydi. Ko'proq saqlash moslamalarini yoqish ba'zi cheklovlarni yumshatishi mumkin. Qayerdadir, mutlaqo oqilona dizayn tahlili shuni aniqlayaptiki, "doimiy" so'ziga jadvalda ikkinchi ustun kerak edi. Tadqiqot nazoratchining tekshiruvlarini buzadigan va doimiy konfiguratsiya o'zgarishlariga ruxsat beradigan qisqa elektr buzilishini xabar qiladi. Bu tushuntirishni konseptual tutamiz.
2:13 Apparat protseduralarini takrorlash kartani buzishi mumkin. Bu natijani o'qish sizga aqliy model beradi; u sizga kafolat bermaydi. CMP unlocker deb nomlangan dasturiy qulfdan chiqarish allaqachon mavjud edi. Keytning taqqoslashlari sakkiz gigabaytlik versiyani shu yo'l bilan oltmish to'rt gigabayt
Avvalgi dasturiy qulfdan chiqarish nima qila olardi?
2:24 foydalanish mumkin bo'lgan gigabaytga qo'yadi. Apparat qulfdan chiqarish xotira butun bo'lganda sakson gigabaytga yetishi mumkin. Keyt bu apparat natijalarini xabar qiladi; mayning apparatlarini qayta ishlashning uzunroq tarixi bor. Keyt butun xotirani ma'lumotlarni yozish orqali tekshirishni va GPU keshi tozalanib bo'lgach uni qayta o'qishni xabar qiladi. Maqolada shuningdek, ishlaydigan xulosa yuklamalari haqida ham xabar berilgan. Bular muallifning sinovlari, sig'imni o'qishdan ko'ra kuchliroq. Biz modifikatsiya qilingan kartani mustaqil ravishda sinovdan o'tkazmadik. Chakana A yuzda yuz sakkizta oqim multiprotsessori mavjud,
2:49 ya'ni ishni bajaradigan guruhlar.
A100 dan tezroq natija nimani o'lchaydi?
2:53 Keyt ko'proq funksional guruhlarni yoqishni xabar qiladi. O'lchangan kartada yuz yigirma to'rtta mavjud. Qaysi guruhlar ishlashi alohida matritsaga bog'liq. Keytning yarim aniqlikdagi arifmetik mikrobayrog'i apparat qulfdan chiqarilgan kartani chakana A yuzdan o'n sakkiz foizga ustun qo'yadi. U OpenCL dagi ma'lum bir takroriy operatsiyani o'lchaydi. Buni har bir sun'iy intellekt modeliga kuchaytirish deb tushunish, jadvalga o'zi
3:10 qo'lga kiritmagan mavqeni beradi. Hacker News o'quvchilari zavod sinovlari va ishonchliligini ko'tardilar. Ularning raqobatlashuvchi nazariyalari mustaqil takrorlashni ta'minlamaydi. Men muhandislikni qadrlay olaman va shunga qaramay, menga muhim bo'lgan ishni apparatga ishonishdan oldin ish yukini o'lchash va uzoq barqarorlik sinovlarini o'tkazishni xohlayman. Qo'shimcha foydalanish mumkin bo'lgan xotira model kartaga sig'adimi yoki yo'qmi degan qarorni hal qilishi mumkin. Tezlik shuningdek, ish yukiga va ma'lumotlarni tizim orqali uzatishga bog'liq.
Uni qo'llab-quvvatlanadigan tezlatkichdan hali nima ajratib turadi?
3:30 Bu maqolada soniyaga nazorat qilingan tokenlar taqqoslashlari berilmagan. Model sig'imi, arifmetik o'tkazuvchanlik va dastur unumdorligini alohida baholang. Keyt tasvir va video dekodlash funksiyalari hamda ko'p nusxali GPU rejimi maxsus sinovdan o'tkazilmaganligini aytadi. Ulanish va tezroq PCI Express ulanishi qo'shimcha o'zgarishlarni talab qiladi. Plata, proshivka va funksional apparat hali ham nimani foydalanish mumkinligini hal qiladi. Keytning aytishicha, topilmalar nashr etilishidan oldin Nvidia mahsulot xavfsizligi jamoasiga yuborilgan. Postda boshqa tadqiqotchi zaiflikni mustaqil ravishda topganligi uchun minnatdorchilik bildiriladi.
3:58 Biz bu erda hech qanday ommaviy Nvidia javobini yoki sinovdan o'tgan tuzatishni tasdiqlamaganmiz. Doimiy konfiguratsiya o'zgarishlari apparatni doimiy ravishda ishga yaroqsiz holga keltirishi mumkin. Muvaffaqiyatli qulfdan chiqarish hali ham sovutish, quvvat va ishonchlilikni baholashni qoldiradi. Sotuvchining ajoyib sarlavhasi bitta namunaga oid da'vodir. Sig'im skrinshoti uni tekshirish uchun boshlang'ich nuqtani beradi. Endi bepul yangilanish fantaziyasini buzadigan karta.
Nima uchun bitta karta qo'shimcha xotiraga ega bo'lmadi?
4:19 Keytda faqat oltmish to'rt gigabayt to'liq bo'lgan bitta karta bor edi. Apparat qulfdan chiqarish unga dasturiy qulfdan chiqarishga nisbatan xotira ustunligini bermadi. Cheklov o'zgardi; buzilgan apparat buzilganligicha qoldi. Bu foydali xarid qilish darsi. Jismoniy o'rnatilgan sig'im va ishonchli foydalanish mumkin bo'lgan sig'im juda farqli raqamlar bo'lishi mumkin. Agar buni eshitishdan ko'ra o'qishni afzal ko'rsangiz, farq har kuni ertalab pochta qutingizga keladi, daily diff dot dev saytida bepul, havola quyida. Demak, bugungi hukm, KO'RIB CHIQISH KERAK.
4:42 Men mustaqil ish yuki va
Qulfdan chiqarish haqidagi hukm qanday?
4:44 ishonchlilik sinovlarini xohlardim, modifikatsiya qilingan mayning kartasini ishonchli tezlatkich sifatida ko'rib chiqishdan oldin. Keytning tadqiqotlari yashirin apparatni tushunarli qiladi. Ishonchli natija sotib olish ko'proq dalilni talab qiladi. Va bugungi farq shundan iborat. Men Axrisidan Nikoman. Mas'uliyat bilan birlashtiring. Mas'uliyat bilan birlashtiring.
Manbalar
- Using voltage glitching to unleash the A100 in my mining cardKate's blog
- NVIDIA Ampere Architecture In-DepthNVIDIA Developer
- OpenCL-BenchmarkProjectPhysX
- GA100VFI research provenanceKate
- Earlier CMPunlocker projectAmogh Munikote
- Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
- November 11 discussion of Kate's researchHacker News
- Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
- Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
- Toy Story process-commentary still sourceImgflip / Pixar-Disney media
- Futurama fictional sceptical reaction sourceGiphy / Gifsee
- Futurama GIF linked sourceGifsee



