Memori Nvidia CMP 170HX: HBM fisik, konfigurasi efektif, dan cacat

Isi video ini

• Memori fisik, kapasitas konfigurasi yang efektif, dan memori yang dapat digunakan secara andal adalah hal yang berbeda.
• Varian CMP 170HX delapan gigabyte dan sepuluh gigabyte berisi paket memori fisik yang berbeda.
• Catatan konfigurasi selanjutnya dapat menggantikan pengaturan efektif sementara tanda sekering fisik tetap permanen.
• Perbandingan kinerja yang dilaporkan Kate mengukur aritmatika FP16 half2 FMA di OpenCL, tanpa perbandingan kecepatan inferensi yang terkontrol.
• Cacat manufaktur tetap ada setelah pembukaan kunci konfigurasi; kartu enam puluh empat gigabyte penulis tidak memperoleh kapasitas framebuffer tambahan.

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Dari mana datangnya memori ekstra?

0:00 GPU delapan gigabyte terdengar seperti delapan gigabyte perangkat keras. Peneliti Kate melaporkan delapan puluh gigabyte secara fisik ada di dalam kartu penambangan Nvidia. Dalam video ini, di mana memori bersembunyi? Mengapa membukanya masih bisa membuat Anda kekurangan? Ini hari Rabu, sebelas November, dan ini The Daily Diff. Dan salah satu kartu Kate menunjukkan dengan tepat di mana peningkatan gratis itu berakhir. CMP 170HX adalah akselerator penambangan Ethereum Nvidia,

Apa yang ada di dalam kartu penambangan ini?

0:22 dibangun di sekitar die GPU yang sama dengan A100. Kate melaporkan bahwa pembatasan konfigurasi menyembunyikan memori yang sudah ada di dalam paket. Kapasitas yang dapat digunakan masih bergantung pada perangkat keras yang utuh dan konfigurasi yang dapat ditangani oleh driver. Kate menerbitkan penelitian tersebut pada tanggal sepuluh November. Hari ini pembaca Hacker News berdebat tentang perangkat keras tersembunyi dan cacat manufaktur. Baik segmentasi produk maupun hasil manufaktur penting di sini. Bagian komentar telah mempromosikan dirinya sendiri menjadi jaminan kualitas semikonduktor.

0:46 Bagian yang mahal sudah ada di sana.

Bagaimana memori yang terpasang bisa tetap tidak terlihat?

0:48 Memori bandwidth tinggi, atau HBM, terletak di samping die GPU dalam paket. Deskripsi arsitektur Nvidia membedakan chip lengkap dari konfigurasi yang dijual sebagai A100. Perangkat keras terkait dapat menjadi produk yang berbeda. Kate mengidentifikasi dua versi. Kartu delapan gigabyte memiliki sekitar delapan puluh gigabyte yang terpasang secara fisik. Kartu sepuluh gigabyte memiliki sekitar empat puluh gigabyte. Itu adalah paket yang berbeda, jadi label produk yang lebih besar dapat datang dengan lebih sedikit memori di bawahnya.

1:10 Berbelanja berdasarkan nama model baru saja mendapatkan misi sampingan. Manufaktur dapat meninggalkan bagian-bagian chip yang cacat. Kate memisahkan konfigurasi yang menonaktifkan fitur dari catatan yang mengidentifikasi perangkat keras yang cacat. Beberapa sumber daya yang dinonaktifkan berfungsi saat diekspos. Bank memori yang rusak secara fisik tetap rusak, seberapa pun persuasifnya readme GitHub Anda. Sekering elektronik adalah struktur fisik kecil yang secara permanen merekam pengaturan. Sekering yang putus tetap putus.

Mengapa sekering satu arah memungkinkan konfigurasi baru?

1:31 Pengaturan efektif dapat dikodekan melalui catatan konfigurasi. Kate menjelaskan catatan yang lebih baru menggantikan nilai efektif yang lebih lama. Sejarah fisik tetap ada, sementara konfigurasi yang diinterpretasikan darinya berubah. Bayangkan sebuah dokumen dengan instruksi asli dan amandemen selanjutnya. Menambahkan amandemen mengubah instruksi mana yang berlaku, sementara tinta aslinya tetap ada. Memori yang terpasang tidak berubah. Tidak ada yang memperbaiki HBM yang rusak dengan meyakinkan sekering untuk tumbuh kembali. Kate menunjukkan konsekuensi yang canggung.

1:51 Membakar lebih banyak sekering dapat melonggarkan beberapa pembatasan. Di suatu tempat, tinjauan desain yang sangat masuk akal menemukan bahwa kata "permanen" memerlukan kolom kedua dalam spreadsheet. Penelitian tersebut melaporkan gangguan listrik singkat yang mengganggu pemeriksaan pengontrol dan memungkinkan perubahan konfigurasi permanen. Kami akan menjaga penjelasan itu tetap konseptual. Mereproduksi prosedur perangkat keras dapat merusak kartu. Membaca hasil ini memberi Anda model mental; itu tidak memberi Anda jaminan. Pembukaan kunci perangkat lunak yang disebut CMP unlocker sudah ada. Perbandingan Kate menempatkan versi delapan gigabyte pada enam puluh empat gigabyte yang dapat digunakan dengan cara itu.

2:13 Pembukaan kunci perangkat keras dapat mencapai delapan puluh gigabyte ketika memori utuh. Kate melaporkan hasil perangkat keras ini; penggunaan kembali perangkat keras penambangan memiliki sejarah yang lebih panjang. Kate melaporkan memeriksa memori penuh dengan menulis data di seluruhnya dan membacanya kembali setelah membersihkan cache GPU. Artikel tersebut juga melaporkan beban kerja inferensi yang berfungsi.

Apa yang sudah bisa dilakukan oleh pembukaan kunci perangkat lunak sebelumnya?

2:24 Itu adalah tes penulis, lebih kuat dari pembacaan kapasitas. Kami belum menguji kartu yang dimodifikasi secara independen. A100 ritel memiliki seratus delapan multiprosesor streaming, yaitu kelompok yang melakukan pekerjaan. Kate melaporkan mengaktifkan lebih banyak kelompok fungsional. Kartu yang diukur memiliki seratus dua puluh empat. Kelompok mana yang berfungsi bergantung pada die masing-masing. Microbenchmark aritmatika presisi setengah Kate menempatkan kartu yang dibuka kuncinya secara perangkat keras sekitar delapan belas persen lebih cepat dari A100 ritel.

2:49 Ini mengukur operasi berulang tertentu di OpenCL.

Apa yang diukur oleh hasil yang lebih cepat dari A100?

2:53 Membaca itu sebagai peningkatan untuk setiap model AI memberi grafik promosi yang belum diperolehnya. Pembaca Hacker News mengangkat pengujian pabrik dan keandalan. Teori-teori bersaing mereka tidak menyediakan reproduksi independen. Saya dapat menghargai rekayasa dan masih menginginkan pengukuran beban kerja dan uji stabilitas jangka panjang sebelum mempercayakan perangkat keras dengan pekerjaan yang saya pedulikan. Memori yang dapat digunakan ekstra dapat menentukan apakah suatu model cocok pada kartu. Kecepatan juga tergantung pada beban kerja dan memindahkan data melalui sistem. Artikel ini tidak menyediakan perbandingan token per detik yang terkontrol. Evaluasi kapasitas model, throughput aritmatika, dan kinerja aplikasi secara terpisah.

3:10 Kate mengatakan fitur decoding gambar dan video serta mode GPU multi-instance tidak diuji secara khusus. Interkoneksi dan koneksi PCI Express yang lebih cepat memerlukan perubahan tambahan. Papan, firmware, dan perangkat keras fungsional masih menentukan apa yang dapat digunakan. Kate mengatakan temuan itu disampaikan kepada tim keamanan produk Nvidia sebelum publikasi. Posting tersebut mengkredit peneliti lain yang secara independen menemukan kerentanan tersebut. Kami belum memverifikasi respons Nvidia publik atau perbaikan yang diuji di sini.

Apa yang masih memisahkannya dari akselerator yang didukung?

3:30 Perubahan konfigurasi permanen dapat secara permanen membuat perangkat keras terdampar. Pembukaan kunci yang berhasil masih menyisakan pendinginan, daya, dan keandalan untuk dievaluasi. Judul spektakuler penjual adalah klaim tentang satu sampel. Tangkapan layar kapasitas memberi Anda titik awal untuk memeriksanya. Sekarang kartu yang merusak fantasi peningkatan gratis. Kate memiliki satu dengan hanya enam puluh empat gigabyte yang utuh. Pembukaan kunci perangkat keras tidak memberinya keuntungan memori dibandingkan pembukaan kunci perangkat lunak. Pembatasan berubah; perangkat keras yang rusak tetap rusak.

3:58 Itulah pelajaran pembelian yang berguna. Kapasitas yang terpasang secara fisik dan kapasitas yang dapat digunakan secara andal dapat menjadi angka yang sangat berbeda. Jika Anda lebih suka membaca ini daripada mendengar saya mengatakannya, perbedaannya tiba di kotak masuk Anda setiap pagi, gratis di thedailydiff.dev, tautan di bawah. Jadi, putusan hari ini, PERLU DITINJAU.

Mengapa satu kartu tidak mendapatkan memori ekstra?

4:19 Saya akan menginginkan pengujian beban kerja dan keandalan independen sebelum memperlakukan kartu penambangan yang dimodifikasi sebagai akselerator yang dapat diandalkan. Penelitian Kate membuat perangkat keras tersembunyi dapat dimengerti. Membeli hasil yang dapat diandalkan membutuhkan lebih banyak bukti. Dan itulah perbedaannya untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggung jawab. GPU delapan gigabyte terdengar seperti delapan gigabyte perangkat keras. Peneliti Kate melaporkan delapan puluh gigabyte secara fisik ada di dalam kartu penambangan Nvidia.

4:42 Dalam video ini, di mana memori bersembunyi?

Apa putusan tentang pembukaan kunci?

4:44 Mengapa membukanya masih bisa membuat Anda kekurangan? Ini hari Rabu, sebelas November, dan ini The Daily Diff. Dan salah satu kartu Kate menunjukkan dengan tepat di mana peningkatan gratis itu berakhir. CMP 170HX adalah akselerator penambangan Ethereum Nvidia, dibangun di sekitar die GPU yang sama dengan A100. Kate melaporkan bahwa pembatasan konfigurasi menyembunyikan memori yang sudah ada di dalam paket. Kapasitas yang dapat digunakan masih bergantung pada perangkat keras yang utuh dan konfigurasi yang dapat ditangani oleh driver. Kate menerbitkan penelitian tersebut pada tanggal sepuluh November.

Sumber

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee