Mémoire Nvidia CMP 170HX: HBM physique, configuration effective et défauts

Ce que cette vidéo couvre

• La mémoire physique, la capacité configurée effective et la mémoire utilisable de manière fiable sont distinctes.
• Les variantes CMP 170HX de huit gigaoctets et de dix gigaoctets contiennent des boîtiers de mémoire physique différents.
• Les enregistrements de configuration ultérieurs peuvent remplacer les paramètres effectifs tandis que les marques de fusibles physiques restent permanentes.
• La comparaison des performances rapportée par Kate mesure l'arithmétique FP16 half2 FMA en OpenCL, sans comparaison contrôlée de la vitesse d'inférence.
• Les défauts de fabrication subsistent après un déverrouillage de configuration; la carte de soixante-quatre gigaoctets de l'auteur n'a pas gagné de capacité de framebuffer supplémentaire.

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont contrôlés par YouTube.

D'où vient la mémoire supplémentaire?

0:00 Une carte graphique de huit gigaoctets semble être huit gigaoctets de matériel. La chercheuse Kate rapporte quatre-vingts physiquement présents dans une carte de minage Nvidia. Dans cette vidéo, où se cachait la mémoire? Pourquoi le déverrouiller peut-il quand même vous laisser à court? Nous sommes mercredi, le onze novembre, et voici The Daily Diff. Et l'une des cartes de Kate montre exactement où l'amélioration gratuite s'arrête. Le CMP 170HX est l'accélérateur de minage Ethereum de Nvidia,

Qu'y a-t-il à l'intérieur de cette carte de minage?

0:22 construit autour du même GPU que l'A100. Kate rapporte que les restrictions de configuration cachent la mémoire déjà présente dans le boîtier. La capacité utilisable dépend toujours d'un matériel intact et d'une configuration que le pilote peut gérer. Kate a publié la recherche le dix novembre. Aujourd'hui, les lecteurs de Hacker News ont débattu du matériel caché et des défauts de fabrication. La segmentation des produits et le rendement de fabrication sont importants ici. La section des commentaires s'est déjà promue en assurance qualité des semi-conducteurs.

0:46 La partie chère est déjà là.

Comment la mémoire installée peut-elle rester invisible?

0:48 La mémoire à large bande passante, ou HBM, est située à côté de la puce GPU dans le boîtier. La description de l'architecture de Nvidia distingue la puce complète de la configuration vendue comme un A100. Le matériel connexe peut devenir des produits différents. Kate identifie deux versions. La carte de huit gigaoctets en a environ quatre-vingts physiquement installés. La carte de dix gigaoctets en a environ quarante. Ce sont des boîtiers différents, donc la plus grande étiquette de produit peut venir avec moins

1:10 de mémoire en dessous. L'achat par nom de modèle vient d'acquérir une quête secondaire. La fabrication peut laisser des parties d'une puce défectueuses. Kate sépare la configuration qui désactive une fonctionnalité de l'enregistrement identifiant le matériel défectueux. Certaines ressources désactivées fonctionnent lorsqu'elles sont exposées. Une banque de mémoire physiquement cassée reste cassée, aussi persuasif que votre readme GitHub devienne. Les fusibles électroniques sont de minuscules structures physiques qui enregistrent de façon permanente

Pourquoi les fusibles unidirectionnels permettent-ils une nouvelle configuration?

1:31 les paramètres. Un fusible grillé reste grillé. Les paramètres effectifs peuvent être encodés via des enregistrements de configuration. Kate décrit des enregistrements ultérieurs remplaçant des valeurs effectives antérieures. L'historique physique demeure, tandis que la configuration interprétée à partir de celui-ci change. Imaginez un document avec une instruction originale et un amendement ultérieur. L'ajout de l'amendement modifie l'instruction applicable, tandis que l'encre d'origine reste.

1:51 La mémoire installée est inchangée. Personne n'a réparé une HBM endommagée en convainquant un fusible de repousser. Kate souligne la conséquence gênante. Faire griller plus de fusibles peut assouplir certaines restrictions. Quelque part, un examen de conception parfaitement raisonnable découvre que le mot permanent avait besoin d'une deuxième colonne dans la feuille de calcul. La recherche rapporte une brève perturbation électrique perturbant les vérifications du contrôleur et permettant des modifications de configuration permanentes.

2:13 Nous garderons cette explication conceptuelle. La reproduction des procédures matérielles peut détruire une carte. La lecture de ce résultat vous donne un modèle mental; elle ne vous donne aucune garantie. Un déverrouillage logiciel appelé CMP unlocker existait déjà.

Que pouvait déjà faire le déverrouillage logiciel précédent?

2:24 La comparaison de Kate place la version de huit gigaoctets à soixante-quatre gigaoctets utilisables de cette manière. Le déverrouillage matériel peut atteindre quatre-vingts lorsque la mémoire est intacte. Kate rapporte ces résultats matériels; la réaffectation du matériel de minage a une histoire plus longue. Kate rapporte avoir vérifié la mémoire complète en y écrivant des données et en les relisant après avoir vidé le cache du GPU. L'article rapporte également des charges de travail d'inférence fonctionnelles. Ce sont les tests de l'auteur, plus solides qu'une simple lecture de capacité. Nous n'avons pas testé indépendamment une carte modifiée.

2:49 L'A100 de détail a cent huit multiprocesseurs de streaming,

Que mesure le résultat plus rapide que l'A100?

2:53 les groupes qui font le travail. Kate rapporte avoir activé davantage de groupes fonctionnels. La carte mesurée en a cent vingt-quatre. Les groupes qui fonctionnent dépendent de la puce individuelle. Le microbenchmark arithmétique en demi-précision de Kate place la carte déverrouillée matériellement environ dix-huit pour cent devant un A100 de détail. Il mesure une opération répétée spécifique en OpenCL.

3:10 Interpréter cela comme un coup de pouce à chaque modèle d'IA donne au graphique une promotion qu'il n'a pas gagnée. Les lecteurs de Hacker News ont soulevé les questions de test en usine et de fiabilité. Leurs théories concurrentes ne fournissent aucune reproduction indépendante. Je peux apprécier l'ingénierie et vouloir quand même des mesures de charge de travail et de longs tests de stabilité avant de faire confiance au matériel pour un travail qui me tient à cœur. Une mémoire utilisable supplémentaire peut décider si un modèle tient sur une carte.

Qu'est-ce qui le sépare encore d'un accélérateur pris en charge?

3:30 La vitesse dépend également de la charge de travail et du déplacement des données dans le système. Cet article ne fournit aucune comparaison contrôlée de jetons par seconde. Évaluez séparément la capacité du modèle, le débit arithmétique et les performances de l'application. Kate affirme que les fonctionnalités de décodage d'images et de vidéos et le mode GPU multi-instance n'ont pas été spécifiquement testés. L'interconnexion et la connexion PCI Express plus rapide nécessitent des modifications supplémentaires. La carte, le micrologiciel et le matériel fonctionnel décident toujours de ce qui devient utilisable. Kate affirme que les résultats ont été transmis à l'équipe de sécurité des produits de Nvidia avant

3:58 la publication. Le billet crédite un autre chercheur d'avoir découvert la vulnérabilité de manière indépendante. Nous n'avons vérifié aucune réponse publique de Nvidia ni de correctif testé ici. Des modifications de configuration permanentes peuvent bloquer le matériel de façon permanente. Un déverrouillage réussi laisse encore le refroidissement, l'alimentation et la fiabilité à évaluer. Un titre spectaculaire d'un vendeur est une affirmation concernant un seul échantillon. Une capture d'écran de capacité vous donne un point de départ pour le vérifier.

Pourquoi une carte n'a-t-elle pas gagné de mémoire supplémentaire?

4:19 Maintenant, la carte qui ruine le fantasme de la mise à niveau gratuite. Kate en avait une avec seulement soixante-quatre gigaoctets intacts. Le déverrouillage matériel ne lui a donné aucun avantage de mémoire par rapport au déverrouillage logiciel. La restriction a changé; le matériel endommagé est resté endommagé. C'est la leçon utile à retenir pour l'achat. La capacité physiquement installée et la capacité utilisable de manière fiable peuvent être des nombres très différents. Si vous préférez lire ceci plutôt que de m'entendre le dire, le "diff" arrive dans votre boîte de réception chaque matin, gratuitement sur The Daily Diff point dev,

4:42 lien ci-dessous. Alors, le verdict d'aujourd'hui, À RÉVISER.

Quel est le verdict sur le déverrouillage?

4:44 Je voudrais des tests de charge de travail et de fiabilité indépendants avant de considérer une carte de minage modifiée comme un accélérateur fiable. La recherche de Kate rend le matériel caché compréhensible. L'achat d'un résultat fiable nécessite plus de preuves. Et c'est le "diff" pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee