หน่วยความจำ Nvidia CMP 170HX: HBM ทางกายภาพ, การกำหนดค่าที่มีประสิทธิภาพและข้อบกพร่อง

วิดีโอนี้ครอบคลุมอะไรบ้าง

• หน่วยความจำทางกายภาพ, ความจุที่กำหนดค่าได้อย่างมีประสิทธิภาพ และหน่วยความจำที่ใช้งานได้จริงมีความแตกต่างกัน
• CMP 170HX รุ่นแปดกิกะไบต์และสิบกิกะไบต์มีแพ็คเกจหน่วยความจำทางกายภาพที่แตกต่างกัน
• บันทึกการกำหนดค่าภายหลังสามารถแทนที่การตั้งค่าที่มีผล ในขณะที่เครื่องหมายฟิวส์ทางกายภาพยังคงถาวร
• การเปรียบเทียบประสิทธิภาพที่ Kate รายงานวัดการคำนวณ FP16 half2 FMA ใน OpenCL โดยไม่มีการเปรียบเทียบความเร็วในการอนุมานที่ควบคุมได้
• ข้อบกพร่องในการผลิตยังคงอยู่หลังจากการปลดล็อกการกำหนดค่า การ์ดขนาดหกสิบสี่กิกะไบต์ของผู้เขียนไม่ได้รับความจุเฟรมบัฟเฟอร์เพิ่มเติม

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

หน่วยความจำที่เพิ่มขึ้นมาจากไหน?

0:00 GPU แปดกิกะไบต์ฟังดูเหมือนฮาร์ดแวร์แปดกิกะไบต์ นักวิจัย Kate รายงานว่ามีแปดสิบตัวอยู่ในแพ็คเกจการ์ดขุดของ Nvidia ในวิดีโอนี้ หน่วยความจำซ่อนอยู่ที่ไหน? ทำไมการปลดล็อกมันถึงยังทำให้คุณขาดแคลนได้? วันนี้วันพุธที่สิบเอ็ดพฤศจิกายน และนี่คือ The Daily Diff และการ์ดใบหนึ่งของ Kate แสดงให้เห็นว่าการอัปเกรดฟรีสิ้นสุดลงที่ใด CMP 170HX คือตัวเร่งการขุด Ethereum ของ Nvidia

ภายในของการ์ดขุดนี้มีอะไรบ้าง?

0:22 สร้างขึ้นจาก GPU die เดียวกันกับ A100 Kate รายงานว่าข้อจำกัดการกำหนดค่า ซ่อนหน่วยความจำที่มีอยู่ในแพ็คเกจ ความจุที่ใช้งานได้ยังคงขึ้นอยู่กับฮาร์ดแวร์ที่สมบูรณ์และการกำหนดค่าที่ไดรเวอร์ สามารถจัดการได้ Kate เผยแพร่งานวิจัยเมื่อวันที่สิบพฤศจิกายน วันนี้ผู้อ่าน Hacker News โต้เถียงกันเรื่องฮาร์ดแวร์ที่ซ่อนอยู่และการผลิต ข้อบกพร่อง การแบ่งส่วนผลิตภัณฑ์และผลผลิตจากการผลิตมีความสำคัญที่นี่ ส่วนความคิดเห็นได้เลื่อนขั้นตัวเองเป็นฝ่ายประกันคุณภาพเซมิคอนดักเตอร์แล้ว

0:46 ส่วนที่แพงที่สุดมีอยู่แล้ว

หน่วยความจำที่ติดตั้งอยู่สามารถมองไม่เห็นได้อย่างไร?

0:48 High bandwidth memory หรือ HBM อยู่ข้าง GPU die ในแพ็คเกจ คำอธิบายสถาปัตยกรรมของ Nvidia แยกแยะชิปเต็มรูปแบบออกจาก การกำหนดค่าที่ขายเป็น A100 ฮาร์ดแวร์ที่เกี่ยวข้องสามารถกลายเป็นผลิตภัณฑ์ที่แตกต่างกันได้ Kate ระบุสองเวอร์ชัน การ์ดแปดกิกะไบต์มีประมาณแปดสิบกิกะไบต์ที่ติดตั้งทางกายภาพ การ์ดสิบกิกะไบต์มีประมาณสี่สิบกิกะไบต์ นั่นคือแพ็คเกจที่แตกต่างกัน ดังนั้นฉลากผลิตภัณฑ์ที่ใหญ่กว่าอาจมาพร้อมกับหน่วยความจำที่น้อยลง

1:10 การช้อปปิ้งตามชื่อรุ่นเพิ่งมีภารกิจเสริม การผลิตสามารถทำให้บางส่วนของชิปมีข้อบกพร่อง Kate แยกแยะการกำหนดค่าที่ปิดใช้งานคุณสมบัติออกจากบันทึก ที่ระบุฮาร์ดแวร์ที่มีข้อบกพร่อง ทรัพยากรบางอย่างที่ถูกปิดใช้งานจะทำงานเมื่อเปิดเผย ธนาคารหน่วยความจำที่เสียหายทางกายภาพยังคงเสียหาย ไม่ว่า README บน GitHub ของคุณจะน่าเชื่อถือเพียงใด ฟิวส์อิเล็กทรอนิกส์เป็นโครงสร้างทางกายภาพขนาดเล็กที่บันทึกการตั้งค่าอย่างถาวร

ทำไมฟิวส์ทางเดียวจึงอนุญาตให้มีการกำหนดค่าใหม่?

1:31 ฟิวส์ที่ขาดจะยังคงขาด การตั้งค่าที่มีผลสามารถเข้ารหัสผ่านบันทึกการกำหนดค่าได้ Kate อธิบายถึงบันทึกภายหลังที่มาแทนที่ค่าที่มีผลก่อนหน้านี้ ประวัติทางกายภาพยังคงอยู่ ในขณะที่การกำหนดค่าที่ตีความจากมัน เปลี่ยนแปลง ลองนึกภาพเอกสารที่มี คำสั่งเดิมและการแก้ไขในภายหลัง การเพิ่มการแก้ไขจะเปลี่ยนคำสั่งที่ใช้ ในขณะที่หมึกเดิมยังคงอยู่

1:51 หน่วยความจำที่ติดตั้งไม่เปลี่ยนแปลง ไม่มีใครซ่อมแซม HBM ที่เสียหายโดยการทำให้ฟิวส์งอกกลับมา Kate ชี้ให้เห็นผลลัพธ์ที่น่าอึดอัด การเผาฟิวส์มากขึ้นสามารถผ่อนคลายข้อจำกัดบางอย่างได้ ที่ไหนสักแห่ง การตรวจสอบการออกแบบที่สมเหตุสมผลกำลังค้นพบว่าคำว่า ถาวรจำเป็นต้องมีคอลัมน์ที่สองในสเปรดชีต งานวิจัยรายงานว่าการรบกวนทางไฟฟ้าสั้นๆ ขัดขวางการตรวจสอบของตัวควบคุม และอนุญาตให้มีการเปลี่ยนแปลงการกำหนดค่าอย่างถาวร

2:13 เราจะเก็บคำอธิบายนั้นไว้เป็นแนวคิด การทำซ้ำขั้นตอนฮาร์ดแวร์สามารถทำลายการ์ดได้ การอ่านผลลัพธ์นี้ทำให้คุณมีแบบจำลองทางความคิด ไม่มีการรับประกันใดๆ ซอฟต์แวร์ปลดล็อกที่เรียกว่า CMP unlocker มีอยู่แล้ว

การปลดล็อกซอฟต์แวร์ก่อนหน้านี้ทำอะไรได้บ้าง?

2:24 การเปรียบเทียบของ Kate ระบุว่าเวอร์ชันแปดกิกะไบต์มีความจุที่ใช้งานได้หกสิบสี่กิกะไบต์ ด้วยวิธีนั้น การปลดล็อกฮาร์ดแวร์สามารถเข้าถึงแปดสิบกิกะไบต์ได้เมื่อหน่วยความจำสมบูรณ์ Kate รายงานผลลัพธ์ฮาร์ดแวร์เหล่านี้ การนำฮาร์ดแวร์สำหรับการขุดมาใช้ซ้ำมีประวัติยาวนานขึ้น Kate รายงานการตรวจสอบหน่วยความจำทั้งหมดโดยการเขียนข้อมูลลงไปจนเต็ม และ อ่านกลับหลังจากล้างแคช GPU บทความนี้ยังรายงานถึงปริมาณงานอนุมานที่ทำงานได้ นั่นคือการทดสอบของผู้เขียน ซึ่งแข็งแกร่งกว่าการอ่านความจุ เรายังไม่ได้ทดสอบการ์ดที่ได้รับการดัดแปลงอย่างอิสระ

2:49 A100 ที่ขายปลีกมี Streaming Multiprocessors หนึ่งร้อยแปดตัว

ผลลัพธ์ที่เร็วกว่า A100 วัดอะไร?

2:53 ซึ่งเป็นกลุ่มที่ทำงาน Kate รายงานการเปิดใช้งานกลุ่มฟังก์ชันเพิ่มเติม การ์ดที่วัดได้มีหนึ่งร้อยยี่สิบสี่ตัว กลุ่มใดที่ทำงานขึ้นอยู่กับแต่ละชิป เกณฑ์มาตรฐานไมโครอาร์เรย์ทางคณิตศาสตร์ความแม่นยำครึ่งหนึ่งของ Kate ทำให้การ์ดที่ปลดล็อกฮาร์ดแวร์ เร็วกว่า A100 ที่ขายปลีกประมาณสิบแปดเปอร์เซ็นต์ มันวัดการทำงานซ้ำๆ เฉพาะใน OpenCL

3:10 การอ่านค่าดังกล่าวเป็นการเพิ่มประสิทธิภาพให้กับโมเดล AI ทุกประเภทจะทำให้แผนภูมิได้รับการเลื่อนขั้นที่ยังไม่ ได้รับ ผู้อ่าน Hacker News ได้หยิบยกเรื่องการทดสอบจากโรงงานและความน่าเชื่อถือขึ้นมาพูดคุย ทฤษฎีที่ขัดแย้งกันของพวกเขาไม่ได้ให้การทำซ้ำที่เป็นอิสระ ฉันสามารถชื่นชมวิศวกรรมได้ แต่ก็ยังต้องการการวัดปริมาณงานและการรันเสถียรภาพที่ยาวนาน ก่อนที่จะเชื่อถือฮาร์ดแวร์กับงานที่ฉันสนใจ หน่วยความจำที่ใช้งานได้เพิ่มขึ้นสามารถตัดสินได้ว่าโมเดลจะพอดีกับการ์ดหรือไม่

อะไรที่ยังแยกมันออกจากตัวเร่งความเร็วที่รองรับ?

3:30 ความเร็วขึ้นอยู่กับปริมาณงานและการเคลื่อนย้ายข้อมูลผ่านระบบด้วย บทความนี้ไม่มีการเปรียบเทียบโทเค็นต่อวินาทีที่ควบคุมได้ ประเมินความจุของโมเดล อัตราการประมวลผลทางคณิตศาสตร์ และประสิทธิภาพของแอปพลิเคชัน แยกต่างหาก Kate กล่าวว่าคุณสมบัติการถอดรหัสภาพและวิดีโอและโหมด GPU แบบหลายอินสแตนซ์ ไม่ได้รับการทดสอบโดยเฉพาะ อินเทอร์คอนเนกต์และการเชื่อมต่อ PCI Express ที่เร็วขึ้นต้องการการเปลี่ยนแปลงเพิ่มเติม บอร์ด เฟิร์มแวร์ และฮาร์ดแวร์ที่ทำงานได้ยังคงเป็นตัวตัดสินว่าอะไรจะใช้งานได้ Kate กล่าวว่าข้อค้นพบนี้ได้ส่งไปยังทีมรักษาความปลอดภัยผลิตภัณฑ์ของ Nvidia ก่อนที่จะ

3:58 เผยแพร่ โพสต์นี้ให้เครดิตแก่นักวิจัยอีกคนหนึ่งที่ค้นพบช่องโหว่นี้อย่างอิสระ เราไม่ได้ตรวจสอบการตอบสนองอย่างเป็นทางการของ Nvidia หรือการแก้ไขที่ทดสอบแล้วที่นี่ การเปลี่ยนแปลงการกำหนดค่าอย่างถาวรอาจทำให้ฮาร์ดแวร์ใช้งานไม่ได้อย่างถาวร การปลดล็อกที่สำเร็จยังคงต้องประเมินระบบระบายความร้อน พลังงาน และความน่าเชื่อถือ พาดหัวข่าวที่น่าตื่นเต้นของผู้ขายเป็นการอ้างสิทธิ์เกี่ยวกับตัวอย่างหนึ่งชิ้น ภาพหน้าจอความจุให้จุดเริ่มต้นในการตรวจสอบ

ทำไมการ์ดหนึ่งใบถึงไม่ได้รับหน่วยความจำเพิ่ม?

4:19 ตอนนี้การ์ดที่ทำลายความฝันของการอัพเกรดฟรี Kate มีการ์ดใบหนึ่งที่มีหน่วยความจำที่สมบูรณ์เพียงหกสิบสี่กิกะไบต์ การปลดล็อกฮาร์ดแวร์ไม่ให้ข้อได้เปรียบด้านหน่วยความจำเหนือการปลดล็อกซอฟต์แวร์ ข้อจำกัดเปลี่ยนไป ฮาร์ดแวร์ที่เสียหายยังคงเสียหาย นั่นคือบทเรียนการซื้อที่มีประโยชน์ ความจุที่ติดตั้งทางกายภาพและความจุที่ใช้งานได้จริงสามารถเป็นตัวเลขที่แตกต่างกันมาก หากคุณต้องการอ่านสิ่งนี้มากกว่าที่จะฟังฉันพูด The Daily Diff จะส่งถึงกล่องจดหมายของคุณทุกเช้า ฟรีที่ the daily diff dot dev

4:42 ลิงก์ด้านล่าง สรุปคำตัดสินวันนี้ NEEDS REVIEW

คำตัดสินของการปลดล็อกคืออะไร?

4:44 ฉันต้องการการทดสอบปริมาณงานและ ความน่าเชื่อถือที่เป็นอิสระก่อนที่จะพิจารณาการ์ดขุดที่ได้รับการดัดแปลง เป็นตัวเร่งความเร็วที่เชื่อถือได้ งานวิจัยของ Kate ทำให้ฮาร์ดแวร์ที่ซ่อนอยู่เข้าใจได้ง่ายขึ้น การซื้อผลลัพธ์ที่เชื่อถือได้ต้องใช้หลักฐานเพิ่มเติม และนั่นคือ The Daily Diff สำหรับวันนี้ ฉัน Niko จาก Axrisi รวมอย่างมีความรับผิดชอบ

แหล่งที่มา

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee