Mémoire Nvidia CMP 170HX : HBM physique, configuration effective et défauts

Ce que couvre cette vidéo

• La mémoire physique, la capacité configurée effective et la mémoire utilisable de manière fiable sont distinctes.
• Les variantes de huit gigaoctets et de dix gigaoctets du CMP 170HX contiennent des boîtiers de mémoire physique différents.
• Des enregistrements de configuration ultérieurs peuvent remplacer les paramètres effectifs tandis que les marques de fusibles physiques restent permanentes.
• La comparaison de performances rapportée par Kate mesure l'arithmétique FMA half2 FP16 en OpenCL, sans comparaison contrôlée de la vitesse d'inférence.
• Les défauts de fabrication subsistent après un déverrouillage de la configuration ; la carte de soixante-quatre gigaoctets de l'auteur n'a pas gagné de capacité de framebuffer supplémentaire.

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont gérés par YouTube.

D'où vient la mémoire supplémentaire ?

0:00 Un GPU de huit gigaoctets ressemble à huit gigaoctets de matériel. La chercheuse Kate signale quatre-vingts physiquement présents dans une carte de minage Nvidia. Dans cette vidéo, où se cachait la mémoire ? Pourquoi le déverrouiller peut-il encore vous laisser à court ? Nous sommes le mercredi onze novembre, et voici The Daily Diff. Et l'une des cartes de Kate montre exactement où l'amélioration gratuite s'arrête. Le CMP un soixante-dix H X est l'accélérateur de minage Ethereum de Nvidia,

Qu'y a-t-il à l'intérieur de cette carte de minage ?

0:22 construit autour du même die GPU que l'A cent. Kate rapporte que les restrictions de configuration cachent la mémoire déjà présente dans le boîtier. La capacité utilisable dépend toujours d'un matériel intact et d'une configuration que le pilote peut gérer. Kate a publié la recherche le dix novembre. Aujourd'hui, les lecteurs de Hacker News ont discuté du matériel caché et des défauts de fabrication. La segmentation des produits et le rendement de fabrication sont importants ici. La section des commentaires s'est déjà promue à l'assurance qualité des semi-conducteurs.

0:46 La partie coûteuse est déjà là.

Comment la mémoire installée peut-elle rester invisible ?

0:48 La mémoire à haute bande passante, ou HBM, est située à côté du die GPU dans le boîtier. La description de l'architecture de Nvidia distingue la puce complète de la configuration vendue comme un A cent. Le matériel connexe peut devenir des produits différents. Kate identifie deux versions. La carte de huit gigaoctets en a environ quatre-vingts physiquement installés. La carte de dix gigaoctets en a environ quarante. Ce sont des boîtiers différents, donc la plus grande étiquette de produit peut venir avec moins

1:10 de mémoire en dessous. Acheter par nom de modèle vient d'acquérir une quête secondaire. La fabrication peut laisser des portions d'une puce défectueuses. Kate sépare la configuration qui désactive une fonctionnalité de l'enregistrement identifiant le matériel défectueux. Certaines ressources désactivées fonctionnent lorsqu'elles sont exposées. Une banque de mémoire physiquement cassée reste cassée, quelle que soit la force de persuasion de votre fichier readme GitHub. Les fusibles électroniques sont de minuscules structures physiques qui enregistrent de manière permanente

Pourquoi les fusibles unidirectionnels permettent-ils une nouvelle configuration ?

1:31 les paramètres. Un fusible grillé reste grillé. Les paramètres effectifs peuvent être encodés via des enregistrements de configuration. Kate décrit des enregistrements ultérieurs remplaçant des valeurs effectives antérieures. L'historique physique demeure, tandis que la configuration interprétée à partir de celui-ci change. Imaginez un document avec une instruction originale et un amendement ultérieur. L'ajout de l'amendement modifie l'instruction applicable, tandis que l'encre originale reste.

1:51 La mémoire installée est inchangée. Personne n'a réparé une HBM endommagée en convainquant un fusible de repousser. Kate souligne la conséquence délicate. Brûler plus de fusibles peut assouplir certaines restrictions. Quelque part, un examen de conception parfaitement raisonnable est en train de découvrir que le mot permanent avait besoin d'une deuxième colonne dans la feuille de calcul. La recherche rapporte une brève perturbation électrique perturbant les contrôles du contrôleur et permettant des modifications permanentes de la configuration.

2:13 Nous garderons cette explication conceptuelle. La reproduction des procédures matérielles peut détruire une carte. La lecture de ce résultat vous donne un modèle mental ; elle ne vous donne aucune garantie. Un déverrouillage logiciel appelé CMP unlocker existait déjà.

Que pouvait déjà faire le déverrouillage logiciel antérieur ?

2:24 La comparaison de Kate place la version de huit gigaoctets à soixante-quatre gigaoctets utilisables de cette manière. Le déverrouillage matériel peut atteindre quatre-vingts lorsque la mémoire est intacte. Kate rapporte ces résultats matériels ; la réaffectation du matériel de minage a une histoire plus longue. Kate rapporte avoir vérifié la mémoire complète en y écrivant des données et en les relisant après avoir effacé le cache GPU. L'article rapporte également des charges de travail d'inférence fonctionnelles. Ce sont les tests de l'auteur, plus solides qu'une simple lecture de capacité. Nous n'avons pas testé indépendamment une carte modifiée.

2:49 L'A cent de détail a cent huit multiprocesseurs de streaming,

Que mesure le résultat plus rapide que l'A100 ?

2:53 les groupes qui font le travail. Kate rapporte avoir activé plus de groupes fonctionnels. La carte mesurée en a cent vingt-quatre. Les groupes qui fonctionnent dépendent du die individuel. Le microbenchmark arithmétique en demi-précision de Kate place la carte déverrouillée matériellement environ dix-huit pour cent devant un A cent de détail. Il mesure une opération répétée spécifique en OpenCL.

3:10 Interpréter cela comme un coup de pouce à chaque modèle d'IA donne au graphique une promotion qu'il n'a pas gagnée. Les lecteurs de Hacker News ont soulevé la question des tests d'usine et de la fiabilité. Leurs théories concurrentes ne fournissent aucune reproduction indépendante. Je peux apprécier l'ingénierie et vouloir toujours des mesures de charge de travail et de longs cycles de stabilité avant de faire confiance au matériel pour un travail qui m'importe. Une mémoire utilisable supplémentaire peut décider si un modèle tient sur une carte.

Qu'est-ce qui le sépare encore d'un accélérateur pris en charge ?

3:30 La vitesse dépend également de la charge de travail et du déplacement des données dans le système. Cet article ne fournit aucune comparaison contrôlée de jetons par seconde. Évaluez séparément la capacité du modèle, le débit arithmétique et les performances des applications. Kate affirme que les fonctionnalités de décodage d'image et de vidéo et le mode GPU multi-instances n'ont pas été spécifiquement testés. L'interconnexion et la connexion PCI Express plus rapide nécessitent des modifications supplémentaires. La carte, le micrologiciel et le matériel fonctionnel décident toujours de ce qui devient utilisable. Kate déclare que les résultats ont été transmis à l'équipe de sécurité des produits de Nvidia avant

3:58 la publication. L'article attribue à un autre chercheur la découverte indépendante de la vulnérabilité. Nous n'avons vérifié aucune réponse publique de Nvidia ni de correctif testé ici. Les modifications permanentes de la configuration peuvent bloquer définitivement le matériel. Un déverrouillage réussi laisse encore le refroidissement, l'alimentation et la fiabilité à évaluer. Le titre spectaculaire d'un vendeur est une affirmation concernant un seul échantillon. Une capture d'écran de la capacité vous donne un point de départ pour la vérifier.

Pourquoi une carte n'a-t-elle pas gagné de mémoire supplémentaire ?

4:19 Maintenant, la carte qui ruine le fantasme de la mise à niveau gratuite. Kate en avait une avec seulement soixante-quatre gigaoctets intacts. Le déverrouillage matériel ne lui a donné aucun avantage en mémoire par rapport au déverrouillage logiciel. La restriction a changé ; le matériel endommagé est resté endommagé. C'est la leçon d'achat utile. La capacité physiquement installée et la capacité utilisable de manière fiable peuvent être des nombres très différents. Si vous préférez lire ceci plutôt que de m'entendre le dire, le diff atterrit dans votre boîte de réception tous les matins, gratuitement sur the daily diff dot dev,

4:42 lien ci-dessous. Donc, le verdict d'aujourd'hui, NEEDS REVIEW.

Quel est le verdict sur le déverrouillage ?

4:44 Je voudrais des tests indépendants de la charge de travail et de la fiabilité avant de considérer une carte de minage modifiée comme un accélérateur fiable. La recherche de Kate rend le matériel caché compréhensible. L'achat d'un résultat fiable nécessite plus de preuves. Et c'est le diff pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee