+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Nvidia CMP 170HX 記憶體:實體 HBM、有效配置及缺陷

Kate 報告揭露了已安裝在 Nvidia CMP 170HX 挖礦加速器中的記憶體。

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Kate 報告揭露了已安裝在 Nvidia CMP 170HX 挖礦加速器中的記憶體。八千兆位元組變體實體上約有八十千兆位元組,而可用容量則取決於完整的硬體和有效配置。一張只有六十四千兆位元組完整的顯示卡,與早期軟體解鎖相比,並沒有獲得任何幀緩衝優勢。

閱讀書面版本(英文) ↗

本影片涵蓋的內容

  • 實體記憶體、有效配置容量和可靠可用記憶體是不同的。
  • 八千兆位元組和十千兆位元組的 CMP 170HX 變體包含不同的實體記憶體封裝。
  • 後來的配置記錄可以取代有效設定,而實體熔絲標記保持永久。
  • Kate 報告的效能比較測量了 OpenCL 中的 FP16 half2 FMA 算術,沒有受控的推論速度比較。
  • 配置解鎖後仍然存在製造缺陷;作者的六十四千兆位元組顯示卡沒有獲得額外的幀緩衝容量。

問題與解答

為什麼挖礦 GPU 包含的記憶體可能比應用程式可用的記憶體多?

已安裝的記憶體和暴露的容量是分開控制的。Kate 的研究報告指出,八千兆位元組的 CMP 170HX 變體實體上約包含八十千兆位元組,而配置限制卻暴露了較小的容量。十千兆位元組的變體有不同的封裝,實體上約有四十千兆位元組。可用記憶體仍然取決於完整的硬體以及驅動程式可以處理的配置。

觀看此部分 0:19 · Kate's blog · NVIDIA Developer

永久性電子熔絲如何允許有效設定改變?

後來的配置記錄可以取代從不可逆的物理歷史中解釋的有效值。Kate 在 GA100 研究中描述了這種區別,而 Nvidia 的來源連結專利為可覆蓋的熔絲記錄提供了概念背景。熔斷的物理熔絲仍然熔斷。該集解釋了這種解釋,但沒有提供電氣程序、硬體地址或修改方案。

觀看此部分 1:28 · Kate's blog · NVIDIA patent

報告的算術基準是否建立了更快的 AI 推論?

報告的比較測量了特定的半精度算術操作。Kate 的硬體解鎖範例在 ProjectPhysX OpenCL FP16 half2 FMA 微基準測試中,比零售版 A100 快約百分之十八。該文章沒有提供受控的每秒令牌比較。因此,模型擬合度、算術吞吐量和完整的應用程式效能需要單獨的證據,測量結果仍是作者的。

觀看此部分 2:50 · Kate's blog · ProjectPhysX

為什麼一張已解鎖的顯示卡沒有獲得額外的可用記憶體?

該特定顯示卡只有六十四千兆位元組是完好的。Kate 報告說,與早期已達到該容量的軟體解鎖相比,其硬體解鎖沒有產生任何幀緩衝優勢。改變限制只是讓受損的硬體仍然受損。這個反例說明了為什麼對於單張顯示卡來說,物理安裝的記憶體和可靠的可用容量必須分開評估。

觀看此部分 4:19 · Kate's blog · Amogh Munikote

The Daily Diff 對於依賴改裝挖礦加速器的判決是什麼?

The Daily Diff 的判決是 NEEDS REVIEW。Niko 會希望在依賴改裝挖礦顯示卡作為加速器之前,進行獨立的工作負載和可靠性測試。該集讚揚了 Kate 發布的研究,同時保留了作者的測量範圍和缺陷卡反例。它沒有報告節目進行的任何獨立硬體修改、重現或應用程式基準測試。

觀看此部分 4:43 · Kate's blog · ProjectPhysX

翻譯的文字記錄

從英文原文旁白翻譯。可用的音頻和字幕由 YouTube 控制。

額外的記憶體從何而來?

0:00 一張八千兆位元組的 GPU 聽起來就像八千兆位元組的硬體。 研究員 Kate 報告在 Nvidia 挖礦顯示卡內部實體存在八十個。 在這部影片中,記憶體藏在哪裡? 為什麼解鎖它仍然會讓你短缺? 今天是十一月十一日星期三,這是 The Daily Diff。 而 Kate 的其中一張顯示卡正好顯示了免費升級的終點。 CMP 170HX 是 Nvidia 的 Ethereum 挖礦加速器,

這張挖礦顯示卡裡面有什麼?

0:22 它圍繞著與 A100 相同的 GPU 晶片打造。 Kate 報告說配置限制 隱藏了封裝中已經存在的記憶體。 可用容量仍然取決於完整的硬體和驅動程式 可以處理的配置。Kate 於十一月十日發布了這項研究。 今天 Hacker News 的讀者們就隱藏硬體和製造 缺陷展開了爭論。產品細分和製造良率在這裡都很重要。 評論區已經自行升級為半導體品質

0:46 保證。昂貴的部分已經在那裡了。

已安裝的記憶體如何保持不可見?

0:48 高頻寬記憶體(HBM)位於封裝中的 GPU 晶片旁邊。 Nvidia 的架構描述將完整晶片與 作為 A100 出售的配置區分開來。 相關硬體可以變成不同的產品。 Kate 識別出兩個版本。 八千兆位元組的顯示卡實體安裝了大約八十個。 十千兆位元組的顯示卡實體安裝了大約四十個。 這些是不同的封裝,所以較大的產品標籤可能帶有較少的

1:10 記憶體。按型號名稱購物剛剛獲得了一個支線任務。 製造可能會導致晶片的部分出現缺陷。 Kate 將禁用功能的配置與 識別缺陷硬體的記錄區分開來。 一些被禁用的資源在暴露時會起作用。 然而,無論您的 GitHub readme 變得多麼有說服力,物理損壞的記憶體庫仍然損壞。 電子熔絲是微小的物理結構,可以永久

為什麼單向熔絲允許新的配置?

1:31 記錄設定。熔斷的熔絲保持熔斷。 有效設定可以透過配置記錄進行編碼。 Kate 描述了後來的記錄取代了早期的有效值。 物理歷史仍然存在,而從中解釋的配置 會改變。想像一份文件,其中包含 原始指令和後來的修正案。 添加修正案會改變適用哪個指令, 而原始墨水保持不變。

1:51 已安裝的記憶體未更改。 沒有人透過說服熔絲長回來來修復損壞的 HBM。 Kate 指出了尷尬的後果。 燒掉更多的熔絲可以放鬆一些限制。 某處,一個完全合理的設計審查正在發現「永久」這個詞在電子表格中需要第二列。 永久需要第二列。 該研究報告稱,短暫的電氣擾動會擾亂控制器的 檢查,並允許永久性配置更改。

2:13 我們將這個解釋保持在概念層面。 重現硬體程序可能會損壞顯示卡。 閱讀此結果會給你一個心智模型;它不給你任何保固。 一個名為 CMP unlocker 的軟體解鎖已經存在。

早期軟體解鎖已經能做什麼?

2:24 Kate 的比較將八千兆位元組版本以這種方式置於六十四千兆位元組可用。 當記憶體完好時,硬體解鎖可以達到八十個。 Kate 報告了這些硬體結果;重新利用挖礦硬體有更長的 歷史。Kate 報告說,她透過將數據寫入整個記憶體並在清除 GPU 緩存後讀取回來,來檢查完整的記憶體。 讀取回來後清除 GPU 緩存。 文章還報告了可行的推論工作負載。 這些是作者的測試,比容量讀數更強。 我們尚未獨立測試修改後的顯示卡。

2:49 零售 A100 擁有一百零八個串流多處理器,

快於 A100 的結果測量了什麼?

2:53 這些是執行工作的群組。 Kate 報告說啟用了更多功能群組。 測量的顯示卡有一百二十四個。 哪些群組工作取決於個別晶片。 Kate 的半精度算術微基準測試 將硬體解鎖的顯示卡 比零售 A100 快約百分之十八。 它測量 OpenCL 中特定的重複操作。

3:10 將其解讀為對每個 AI 模型的提升會給圖表帶來它沒有 賺到的晉升。Hacker News 的讀者們提出了工廠測試和可靠性。 他們相互競爭的理論沒有提供獨立的重現。 我可以欣賞工程設計,但仍然需要工作負載測量和長時間 穩定性運行,然後才能信任硬體來處理我關心的一項工作。 額外的可用記憶體可以決定模型是否適合顯示卡。

它與受支援的加速器有何區別?

3:30 速度還取決於工作負載以及透過系統移動數據。 本文未提供受控的每秒令牌比較。 獨立評估模型容量、算術吞吐量和應用程式效能。 Kate 表示,圖像和視訊解碼功能以及多實例 GPU 模式未經專門測試。 互連和更快的 PCI Express 連接需要額外的更改。 電路板、韌體和功能硬體仍然決定什麼變得可用。 Kate 表示,研究結果在發布前已提交給 Nvidia 的產品安全團隊。

3:58 該帖子讚揚另一位研究人員獨立發現了 這個漏洞。我們尚未驗證任何公開的 Nvidia 回應或在此處測試的修復。 永久性配置更改可能會永久性地使硬體擱淺。 成功的解鎖仍然需要評估散熱、功耗和可靠性。 賣家聳人聽聞的標題只是關於一個樣本的聲明。 容量螢幕截圖為您提供了檢查它的起點。

為什麼一張顯示卡沒有獲得額外記憶體?

4:19 現在,這張毀掉免費升級幻想的顯示卡。 Kate 有一張只有六十四千兆位元組完整的。 硬體解鎖與軟體解鎖相比,沒有為它帶來記憶體優勢。 限制改變了;損壞的硬體仍然損壞。 這是實用的購買經驗。 實體安裝容量和可靠可用容量可以是截然不同的 數字。如果您寧願閱讀而不是聽我說, 每天早上都會免費將差異發送到您的收件箱,網址是 the daily diff dot dev,

4:42 連結在下方。所以,今天的結論是,NEEDS REVIEW。

解鎖的結論是什麼?

4:44 我會希望進行獨立的工作負載和 可靠性測試,然後才將修改後的 挖礦顯示卡視為可靠的加速器。 Kate 的研究讓隱藏的硬體變得可以理解。 購買可靠的結果需要更多的證據。 這就是今天的差異。 我是來自 Axrisi 的 Niko。 負責任地合併。

來源

  1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
  2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
  3. OpenCL-BenchmarkProjectPhysX
  4. GA100VFI research provenanceKate
  5. Earlier CMPunlocker projectAmogh Munikote
  6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
  7. November 11 discussion of Kate's researchHacker News
  8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
  9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
  10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
  11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
  12. Futurama GIF linked sourceGifsee

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

相關影片