+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Nvidia CMP 170HX 記憶體:實體 HBM、有效配置和缺陷

Kate 報告揭露了已安裝在 Nvidia CMP 170HX 挖礦加速器中的記憶體。

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Kate 報告揭露了已安裝在 Nvidia CMP 170HX 挖礦加速器中的記憶體。8GB 版本實體約有 80GB,而可用容量取決於完好的硬體和有效配置。一張只有 64GB 完好容量的顯示卡,與先前的軟體解鎖相比,沒有獲得任何幀緩衝優勢。

閱讀書面版(英文) ↗

本影片重點

  • 實體記憶體、有效配置容量和可靠可用記憶體是不同的。
  • 8GB 和 10GB CMP 170HX 版本包含不同的實體記憶體封裝。
  • 後來的配置記錄可以取代有效設定,而實體熔絲標記則永久存在。
  • Kate 報告的效能比較衡量了 OpenCL 中 FP16 half2 FMA 算術,沒有受控的推論速度比較。
  • 配置解鎖後製造缺陷仍然存在;作者的 64GB 顯示卡沒有獲得額外的幀緩衝容量。

問題與解答

為什麼挖礦 GPU 所含記憶體會多於應用程式可用容量?

安裝的記憶體和暴露的容量是分開控制的。Kate 的研究報告指出,8GB 的 CMP 170HX 版本實體約有 80GB,而配置限制卻暴露了較小的容量。10GB 版本有不同的封裝,實體約有 40GB。可用記憶體仍取決於完好的硬體和驅動程式可以處理的配置。

觀看此部分 0:19 · Kate's blog · NVIDIA Developer

永久性電子熔絲如何允許有效設定改變?

後來的配置記錄可以取代從不可逆的實體歷史中解釋的有效值。Kate 在 GA100 研究中描述了這種區別,而 Nvidia 的來源連結專利為可覆寫熔絲記錄提供了概念性背景。熔斷的實體熔絲仍然熔斷。該集解釋了這種解釋,但沒有提供電氣程序、硬體位址或修改配方。

觀看此部分 1:28 · Kate's blog · NVIDIA patent

報告的算術基準測試是否確立了更快的 AI 推論?

報告的比較測量了特定的半精度算術操作。Kate 的硬體解鎖範例在 ProjectPhysX OpenCL FP16 half2 FMA 微基準測試中,表現比零售版 A100 快約 18%。該文章沒有提供受控的每秒代幣比較。因此,模型擬合度、算術吞吐量和完整的應用程式效能需要單獨的證據,測量結果仍是作者的結果。

觀看此部分 2:50 · Kate's blog · ProjectPhysX

為什麼一張已解鎖的顯示卡沒有獲得額外的可用記憶體?

那張特定的顯示卡只有 64GB 完好容量。Kate 報告指出,與先前的軟體解鎖(已達到該容量)相比,其硬體解鎖沒有產生任何幀緩衝優勢。改變限制使損壞的硬體仍然損壞。這個反例說明了為什麼必須為單張顯示卡分別評估實體安裝記憶體和可靠可用容量。

觀看此部分 4:19 · Kate's blog · Amogh Munikote

The Daily Diff 對於依賴修改過的挖礦加速器的結論是什麼?

The Daily Diff 的結論是 NEEDS REVIEW。Niko 希望在依賴修改過的挖礦卡作為加速器之前,進行獨立的工作負載和可靠性測試。該集讚揚了 Kate 已發表的報告,同時保留了作者的測量界限和有缺陷的顯示卡反例。它沒有報告節目進行任何獨立的硬體修改、重現或應用程式基準測試。

觀看此部分 4:43 · Kate's blog · ProjectPhysX

翻譯文字稿

譯自英文原版旁白。可用的音訊和字幕由 YouTube 控制。

額外的記憶體是從哪裡來的?

0:00 一張 8GB GPU 聽起來就像 8GB 的硬體。 研究員 Kate 報告在 Nvidia 挖礦卡內部實體存在 80GB。 在這段影片中,記憶體藏在哪裡? 為什麼解鎖它仍然會讓你不足? 今天是 11 月 11 日星期三,這是 The Daily Diff。 Kate 的一張卡精確地顯示了免費升級的極限。 CMP 170HX 是 Nvidia 的以太坊挖礦加速器,

這張挖礦卡裡面有什麼?

0:22 圍繞著與 A100 相同的 GPU 晶粒製造。 Kate 報告配置限制 隱藏了封裝中已經存在的記憶體。 可用容量仍取決於完好的硬體和驅動程式 可以處理的配置。Kate 於 11 月 10 日發表了這項研究。 今天 Hacker News 的讀者就隱藏的硬體和製造 缺陷進行了爭論。產品細分和製造良率在這裡都很重要。 評論區已經自行升級為半導體品質

0:46 保證。昂貴的部分已經存在。

安裝的記憶體如何保持隱形?

0:48 高頻寬記憶體 (HBM) 位於封裝中 GPU 晶粒的旁邊。 Nvidia 的架構描述將完整的晶片與 作為 A100 出售的配置區分開來。 相關硬體可以變成不同的產品。 Kate 識別出兩個版本。 8GB 的顯示卡實體安裝了約 80GB。 10GB 的顯示卡實體安裝了約 40GB。 這些是不同的封裝,因此較大的產品標籤可能帶有較少的

1:10 記憶體。按型號名稱購物剛剛獲得了一個支線任務。 製造可能會導致晶片部分有缺陷。 Kate 將禁用功能的配置與識別有缺陷硬體的記錄 區分開來。 一些被禁用的資源在暴露後會起作用。 然而,實體損壞的記憶體庫仍然損壞,無論你的 GitHub readme 變得多麼有說服力。電子熔絲是微小的實體結構,永久性地

為什麼一次性熔絲允許新的配置?

1:31 記錄設定。熔斷的熔絲仍然熔斷。 有效設定可以透過配置記錄進行編碼。 Kate 描述了後來的記錄取代了早期的有效值。 實體歷史仍然存在,而從中解釋的配置 會改變。想像一份文件,其中包含 原始指令和後來的修正案。 添加修正案會改變適用於哪個指令, 而原始墨水仍然存在。

1:51 安裝的記憶體沒有改變。 沒有人透過說服熔絲重新長出來來修復損壞的 HBM。 Kate 指出了尷尬的後果。 燒斷更多的熔絲可以放鬆一些限制。 在某處,一次非常合理的設計審查正在發現「永久」這個詞 在試算表中需要第二欄。 該研究報告稱,短暫的電氣擾動會擾亂控制器的 檢查並允許永久性配置更改。

2:13 我們將保持這種解釋的概念性。 重複硬體程序可能會損壞顯示卡。 閱讀這個結果給你一個心智模型;它不給你任何保固。 名為 CMP unlocker 的軟體解鎖已經存在。

先前的軟體解鎖已經能做什麼?

2:24 Kate 的比較將 8GB 版本透過這種方式設定為 64GB 可用容量。 當記憶體完好時,硬體解鎖可以達到 80GB。 Kate 報告了這些硬體結果;重新利用挖礦硬體有更長的 歷史。Kate 報告說,她透過將數據寫入整個記憶體並在清除 GPU 快取後 讀回數據來檢查完整的記憶體。 該文章還報告了可運作的推論工作負載。 這些是作者的測試,比容量讀數更強大。 我們沒有獨立測試修改後的顯示卡。

2:49 零售版 A100 有 108 個串流多處理器,

比 A100 更快的結果測量了什麼?

2:53 也就是執行工作的組別。 Kate 報告啟用了更多功能組別。 測量的顯示卡有 124 個。 哪些組別工作取決於個別晶粒。 Kate 的半精度算術微基準測試 使硬體解鎖的顯示卡 領先零售版 A100 約 18%。 它測量 OpenCL 中特定的重複操作。

3:10 將其解讀為對所有 AI 模型都有提升,會給圖表一個它尚未 獲得的提升。Hacker News 的讀者提到了工廠測試和可靠性。 他們的競爭理論沒有提供獨立的重現。 我能欣賞工程,但仍希望在信任硬體執行我關心的工作之前,有工作負載測量和長時間 穩定性運行。 額外的可用記憶體可以決定模型是否適合一張卡。

是什麼仍然將它與受支援的加速器區分開來?

3:30 速度還取決於工作負載以及透過系統傳輸數據。 這篇文章沒有提供受控的每秒代幣比較。 獨立評估模型容量、算術吞吐量和應用程式效能。 Kate 表示,影像和影片解碼功能以及多實例 GPU 模式未經專門測試。 互連和更快的 PCI Express 連接需要額外的更改。 主機板、韌體和功能硬體仍然決定了什麼可以變成可用。 Kate 表示,這些發現在發表前已提交給 Nvidia 的產品安全團隊。

3:58 該貼文歸功於另一位研究人員獨立發現了 漏洞。我們尚未在此處驗證任何公開的 Nvidia 回應或測試的修復。 永久性配置更改可能會永久擱置硬體。 成功的解鎖仍然需要評估散熱、功耗和可靠性。 賣家的驚人標題是關於單個樣本的聲明。 容量截圖為您提供了檢查它的起點。

為什麼一張卡沒有獲得額外記憶體?

4:19 現在,這張卡摧毀了免費升級的幻想。 Kate 有一張只有 64GB 完好容量的顯示卡。 硬體解鎖與軟體解鎖相比,沒有給它帶來記憶體優勢。 限制改變了;損壞的硬體仍然損壞。 這是實用的購買經驗。 實體安裝容量和可靠可用容量可以是截然不同的 數字。如果您寧願閱讀而不是聽我說, 每天早上都會有 diff 免費寄到您的收件匣,網址是 thedailydiff.dev,

4:42 連結在下方。所以,今天的結論是,NEEDS REVIEW。

解鎖的結論是什麼?

4:44 我會希望進行獨立的工作負載和 可靠性測試,然後才能將修改過的 挖礦卡視為可靠的加速器。 Kate 的研究讓隱藏的硬體變得可以理解。 購買可靠的結果需要更多的證據。 這就是今天的 diff。 我是 Axrisi 的 Niko。 負責任地合併。

來源

  1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
  2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
  3. OpenCL-BenchmarkProjectPhysX
  4. GA100VFI research provenanceKate
  5. Earlier CMPunlocker projectAmogh Munikote
  6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
  7. November 11 discussion of Kate's researchHacker News
  8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
  9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
  10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
  11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
  12. Futurama GIF linked sourceGifsee

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

相關影片