ໜ່ວຍຄວາມຈຳ Nvidia CMP 170HX: HBM ແທ້, ການຕັ້ງຄ່າທີ່ມີຜົນ ແລະ ຂໍ້ບົກຜ່ອງ

ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

• ໜ່ວຍຄວາມຈຳທາງກາຍະພາບ, ຄວາມສາມາດໃນການຕັ້ງຄ່າທີ່ມີຜົນ ແລະ ໜ່ວຍຄວາມຈຳທີ່ສາມາດນຳໃຊ້ໄດ້ຢ່າງໜ້າເຊື່ອຖືແມ່ນແຕກຕ່າງກັນ.
• ລຸ້ນ CMP 170HX 8 ກິກະໄບ ແລະ 10 ກິກະໄບ ມີຊຸດໜ່ວຍຄວາມຈຳທາງກາຍະພາບທີ່ແຕກຕ່າງກັນ.
• ບັນທຶກການຕັ້ງຄ່າຕໍ່ມາສາມາດປ່ຽນແທນການຕັ້ງຄ່າທີ່ມີຜົນ, ໃນຂະນະທີ່ເຄື່ອງໝາຍຟິວທາງກາຍະພາບຍັງຄົງຖາວອນ.
• ການປຽບທຽບປະສິດທິພາບທີ່ລາຍງານໂດຍ Kate ວັດແທກການຄິດໄລ່ FP16 half2 FMA ໃນ OpenCL, ໂດຍບໍ່ມີການປຽບທຽບຄວາມໄວການ推論ທີ່ຄວບຄຸມໄດ້.
• ຂໍ້ບົກພ່ອງໃນການຜະລິດຍັງຄົງຢູ່ຫຼັງຈາກການປົດລັອກການຕັ້ງຄ່າ; ບັດ 64 ກິກະໄບຂອງຜູ້ຂຽນບໍ່ໄດ້ຮັບຄວາມສາມາດ framebuffer ເພີ່ມເຕີມ.

ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

ໜ່ວຍຄວາມຈຳພິເສດມາຈາກໃສ?

0:00 GPU 8 ກິກະໄບຄືກັບຮາດແວ 8 ກິກະໄບ. ນັກຄົ້ນຄວ້າ Kate ລາຍງານວ່າພາຍໃນບັດຂຸດຄົ້ນບໍ່ແຮ່ຂອງ Nvidia ມີ 80 ໜ່ວຍທາງກາຍະພາບ. ໃນວິດີໂອນີ້, ໜ່ວຍຄວາມຈຳເຊື່ອງຢູ່ໃສ? ເປັນຫຍັງການປົດລັອກມັນຍັງສາມາດເຮັດໃຫ້ທ່ານຂາດແຄນໄດ້? ວັນພຸດ, ວັນທີ 11 ພະຈິກ, ແລະນີ້ແມ່ນ The Daily Diff. ແລະໜຶ່ງໃນບັດຂອງ Kate ສະແດງໃຫ້ເຫັນຢ່າງແນ່ນອນວ່າການອັບເກຣດຟຣີສິ້ນສຸດລົງຢູ່ໃສ. CMP 170HX ແມ່ນເຄື່ອງເລັ່ງການຂຸດຄົ້ນບໍ່ແຮ່ Ethereum ຂອງ Nvidia,

ມີຫຍັງຢູ່ໃນບັດຂຸດຄົ້ນບໍ່ແຮ່ນີ້?

0:22 ສ້າງຂຶ້ນຮອບ GPU die ດຽວກັນກັບ A100. Kate ລາຍງານວ່າຂໍ້ຈຳກັດການຕັ້ງຄ່າ ເຊື່ອງໜ່ວຍຄວາມຈຳທີ່ຢູ່ໃນຊຸດແລ້ວ. ຄວາມສາມາດທີ່ສາມາດນຳໃຊ້ໄດ້ຍັງຂຶ້ນກັບຮາດແວທີ່ຄົບຖ້ວນ ແລະ ການຕັ້ງຄ່າທີ່ driver ສາມາດຈັດການໄດ້. Kate ຈັດພິມການຄົ້ນຄວ້າໃນວັນທີ 10 ພະຈິກ. ມື້ນີ້ຜູ້ອ່ານ Hacker News ໂຕ້ຖຽງກັນກ່ຽວກັບຮາດແວທີ່ເຊື່ອງໄວ້ ແລະ ຂໍ້ບົກພ່ອງໃນການຜະລິດ. ການແບ່ງສ່ວນຜະລິດຕະພັນ ແລະ ຜົນຜະລິດການຜະລິດລ້ວນແຕ່ສຳຄັນຢູ່ທີ່ນີ້. ພາກສ່ວນຄຳເຫັນໄດ້ສົ່ງເສີມຕົນເອງໃຫ້ກາຍເປັນການຮັບປະກັນຄຸນນະພາບເຊມິຄອນດັກເຕີແລ້ວ.

0:46 ສ່ວນທີ່ມີລາຄາແພງແມ່ນມີຢູ່ແລ້ວ.

ໜ່ວຍຄວາມຈຳທີ່ຕິດຕັ້ງໄວ້ສາມາດເບິ່ງບໍ່ເຫັນໄດ້ແນວໃດ?

0:48 ໜ່ວຍຄວາມຈຳແບນວິດສູງ, ຫຼື HBM, ຕັ້ງຢູ່ຂ້າງ GPU die ໃນຊຸດ. ຄຳອະທິບາຍສະຖາປັດຕະຍະກຳຂອງ Nvidia ແຍກແຍະ chip ເຕັມຮູບແບບອອກຈາກ ການຕັ້ງຄ່າທີ່ຂາຍເປັນ A100. ຮາດແວທີ່ກ່ຽວຂ້ອງສາມາດກາຍເປັນຜະລິດຕະພັນທີ່ແຕກຕ່າງກັນໄດ້. Kate ລະບຸສອງລຸ້ນ. ບັດ 8 ກິກະໄບ ມີປະມານ 80 ໜ່ວຍທີ່ຕິດຕັ້ງທາງກາຍະພາບ. ບັດ 10 ກິກະໄບ ມີປະມານ 40 ໜ່ວຍ. ນັ້ນແມ່ນຊຸດທີ່ແຕກຕ່າງກັນ, ດັ່ງນັ້ນປ້າຍຜະລິດຕະພັນທີ່ໃຫຍ່ກວ່າສາມາດມາພ້ອມກັບໜ່ວຍຄວາມຈຳທີ່ນ້ອຍກວ່າ.

1:10 ການຊື້ເຄື່ອງຕາມຊື່ລຸ້ນໄດ້ຮັບ side quest. ການຜະລິດສາມາດເຮັດໃຫ້ບາງສ່ວນຂອງ chip ມີຂໍ້ບົກພ່ອງ. Kate ແຍກແຍະການຕັ້ງຄ່າທີ່ປິດການໃຊ້ງານຄຸນສົມບັດອອກຈາກບັນທຶກ ທີ່ລະບຸຮາດແວທີ່ມີຂໍ້ບົກພ່ອງ. ຊັບພະຍາກອນທີ່ຖືກປິດການໃຊ້ງານບາງອັນໃຊ້ງານໄດ້ເມື່ອຖືກເປີດເຜີຍ. ທະນາຄານໜ່ວຍຄວາມຈຳທີ່ເສຍຫາຍທາງກາຍະພາບຍັງຄົງເສຍຫາຍ, ບໍ່ວ່າ readme GitHub ຂອງທ່ານຈະໜ້າເຊື່ອຖືປານໃດ. ຟິວເອເລັກໂຕຣນິກແມ່ນໂຄງສ້າງທາງກາຍະພາບຂະໜາດນ້ອຍທີ່ບັນທຶກການຕັ້ງຄ່າໄວ້ຢ່າງຖາວອນ.

ເປັນຫຍັງຟິວແບບທາງດຽວຈຶ່ງອະນຸຍາດໃຫ້ມີການຕັ້ງຄ່າໃໝ່?

1:31 ຟິວທີ່ຂາດຍັງຄົງຂາດ. ການຕັ້ງຄ່າທີ່ມີຜົນສາມາດຖືກເຂົ້າລະຫັດຜ່ານບັນທຶກການຕັ້ງຄ່າ. Kate ອະທິບາຍວ່າບັນທຶກຕໍ່ມາປ່ຽນແທນຄ່າທີ່ມີຜົນກ່ອນໜ້ານີ້. ປະຫວັດທາງກາຍະພາບຍັງຄົງຢູ່, ໃນຂະນະທີ່ການຕັ້ງຄ່າທີ່ຖືກຕີຄວາມໝາຍຈາກມັນ ປ່ຽນແປງ. ລອງນຶກພາບເອກະສານທີ່ມີ ຄຳແນະນຳຕົ້ນສະບັບ ແລະ ການແກ້ໄຂຕໍ່ມາ. ການເພີ່ມການແກ້ໄຂປ່ຽນຄຳແນະນຳທີ່ນຳໃຊ້, ໃນຂະນະທີ່ໝຶກຕົ້ນສະບັບຍັງຄົງຢູ່.

1:51 ໜ່ວຍຄວາມຈຳທີ່ຕິດຕັ້ງໄວ້ບໍ່ປ່ຽນແປງ. ບໍ່ມີໃຜສ້ອມແປງ HBM ທີ່ເສຍຫາຍໂດຍການຊັກຊວນໃຫ້ຟິວກັບຄືນມາ. Kate ຊີ້ໃຫ້ເຫັນຜົນສະທ້ອນທີ່ບໍ່ຄ່ອຍດີ. ການເຜົາຟິວຫຼາຍຂຶ້ນສາມາດຜ່ອນຜັນຂໍ້ຈຳກັດບາງຢ່າງໄດ້. ບ່ອນໃດບ່ອນໜຶ່ງ, ການທົບທວນການອອກແບບທີ່ສົມເຫດສົມຜົນຢ່າງສົມບູນກຳລັງຄົ້ນພົບວ່າຄຳວ່າ ຖາວອນຕ້ອງການຄໍລຳທີສອງໃນສະເປຣດຊີດ. ການຄົ້ນຄວ້າລາຍງານວ່າການລົບກວນທາງໄຟຟ້າສັ້ນໆໄດ້ລົບກວນການກວດສອບຂອງຕົວຄວບຄຸມ ແລະອະນຸຍາດໃຫ້ມີການປ່ຽນແປງການຕັ້ງຄ່າຖາວອນ.

2:13 ພວກເຮົາຈະຮັກສາຄຳອະທິບາຍນັ້ນໄວ້ແບບແນວຄິດ. ການເຮັດຊ້ຳຂັ້ນຕອນຂອງຮາດແວສາມາດທຳລາຍບັດໄດ້. ການອ່ານຜົນໄດ້ຮັບນີ້ໃຫ້ທ່ານມີແບບຈຳລອງທາງຈິດ; ມັນບໍ່ໄດ້ໃຫ້ການຮັບປະກັນແກ່ທ່ານ. ການປົດລັອກຊອບແວທີ່ເອີ້ນວ່າ CMP unlocker ມີຢູ່ແລ້ວ.

ການປົດລັອກຊອບແວລຸ້ນກ່ອນໜ້ານີ້ສາມາດເຮັດຫຍັງໄດ້ແລ້ວ?

2:24 ການປຽບທຽບຂອງ Kate ວາງລຸ້ນ 8 ກິກະໄບໄວ້ທີ່ 64 ກິກະໄບທີ່ສາມາດນຳໃຊ້ໄດ້ ດ້ວຍວິທີນັ້ນ. ການປົດລັອກຮາດແວສາມາດເຂົ້າເຖິງ 80 ໜ່ວຍໄດ້ເມື່ອໜ່ວຍຄວາມຈຳຄົບຖ້ວນ. Kate ລາຍງານຜົນໄດ້ຮັບຂອງຮາດແວເຫຼົ່ານີ້; ການນຳໃຊ້ຮາດແວຂຸດຄົ້ນບໍ່ແຮ່ຄືນມີປະຫວັດຍາວນານ. Kate ລາຍງານການກວດສອບໜ່ວຍຄວາມຈຳເຕັມໂດຍການຂຽນຂໍ້ມູນໃສ່ມັນທັງໝົດ ແລະ ອ່ານມັນກັບຄືນມາຫຼັງຈາກລຶບ GPU cache. ບົດຄວາມນີ້ຍັງລາຍງານວຽກ推論ທີ່ໃຊ້ງານໄດ້. ນັ້ນແມ່ນການທົດສອບຂອງຜູ້ຂຽນ, ແຂງແຮງກວ່າການອ່ານຄວາມສາມາດ. ພວກເຮົາບໍ່ໄດ້ທົດສອບບັດທີ່ດັດແກ້ແຍກຕ່າງຫາກ.

2:49 A100 ລຸ້ນຂາຍຍ່ອຍມີ 108 streaming multiprocessors,

ຜົນໄດ້ຮັບທີ່ໄວທີ່ສຸດກວ່າ A100 ວັດແທກຫຍັງ?

2:53 ກຸ່ມທີ່ເຮັດວຽກ. Kate ລາຍງານການເປີດໃຊ້ງານກຸ່ມເຮັດວຽກຫຼາຍຂຶ້ນ. ບັດທີ່ວັດແທກໄດ້ມີ 124. ກຸ່ມໃດທີ່ເຮັດວຽກແມ່ນຂຶ້ນກັບ die ແຕ່ລະອັນ. microbenchmark ຄິດໄລ່ເຄິ່ງຄວາມຖືກຕ້ອງຂອງ Kate ວາງບັດທີ່ປົດລັອກຮາດແວໄວ້ ປະມານ 18 ເປີເຊັນສູງກວ່າ A100 ລຸ້ນຂາຍຍ່ອຍ. ມັນວັດແທກການປະຕິບັດງານທີ່ຊ້ຳກັນສະເພາະໃນ OpenCL.

3:10 ການອ່ານນັ້ນເປັນການເພີ່ມປະສິດທິພາບໃຫ້ກັບທຸກຮູບແບບ AI ເຮັດໃຫ້ຕາຕະລາງໄດ້ຮັບການສົ່ງເສີມທີ່ມັນຍັງບໍ່ທັນໄດ້ຮັບ. ຜູ້ອ່ານ Hacker News ໄດ້ຍົກຂຶ້ນມາເລື່ອງການທົດສອບໂຮງງານ ແລະ ຄວາມໜ້າເຊື່ອຖື. ທິດສະດີທີ່ແຂ່ງຂັນກັນຂອງພວກເຂົາບໍ່ໄດ້ສະໜອງການເຮັດຊ້ຳແບບເອກະລາດ. ຂ້າພະເຈົ້າສາມາດຊື່ນຊົມວິສະວະກຳ ແລະ ຍັງຕ້ອງການການວັດແທກວຽກງານ ແລະ ການດຳເນີນງານທີ່ໝັ້ນຄົງຍາວນານ ກ່ອນທີ່ຈະເຊື່ອຖືຮາດແວດ້ວຍວຽກທີ່ຂ້າພະເຈົ້າສົນໃຈ. ໜ່ວຍຄວາມຈຳທີ່ສາມາດນຳໃຊ້ໄດ້ພິເສດສາມາດຕັດສິນໃຈວ່າຮູບແບບຈະເໝາະສົມກັບບັດຫຼືບໍ່.

ຍັງມີຫຍັງແຍກມັນອອກຈາກເຄື່ອງເລັ່ງທີ່ຮອງຮັບ?

3:30 ຄວາມໄວກໍ່ຂຶ້ນກັບວຽກງານ ແລະ ການຍ້າຍຂໍ້ມູນຜ່ານລະບົບ. ບົດຄວາມນີ້ບໍ່ໄດ້ສະໜອງການປຽບທຽບ tokens per second ທີ່ຄວບຄຸມໄດ້. ປະເມີນຄວາມສາມາດຂອງຮູບແບບ, ປະສິດທິພາບການຄິດໄລ່ ແລະ ປະສິດທິພາບຂອງແອັບພລິເຄຊັນ ແຍກຕ່າງຫາກ. Kate ກ່າວວ່າຄຸນສົມບັດການຖອດລະຫັດຮູບພາບ ແລະ ວິດີໂອ ແລະ ໂໝດ GPU ຫຼາຍຕົວຢ່າງ ບໍ່ໄດ້ຖືກທົດສອບໂດຍສະເພາະ. ການເຊື່ອມຕໍ່ ແລະ ການເຊື່ອມຕໍ່ PCI Express ທີ່ໄວຂຶ້ນຕ້ອງການການປ່ຽນແປງເພີ່ມເຕີມ. ບອດ, ເຟີມແວ ແລະ ຮາດແວທີ່ໃຊ້ງານໄດ້ຍັງຄົງຕັດສິນໃຈວ່າຈະສາມາດນຳໃຊ້ຫຍັງໄດ້. Kate ກ່າວວ່າຜົນການຄົ້ນພົບໄດ້ຖືກສົ່ງໄປຫາທີມງານຄວາມປອດໄພຂອງຜະລິດຕະພັນຂອງ Nvidia ກ່ອນ

3:58 ການຈັດພິມ. ຂໍ້ຄວາມໃຫ້ກຽດນັກຄົ້ນຄວ້າຄົນອື່ນທີ່ພົບຊ່ອງໂຫວ່ດັ່ງກ່າວຢ່າງເອກະລາດ. ພວກເຮົາບໍ່ໄດ້ຢືນຢັນການຕອບສະໜອງສາທາລະນະຂອງ Nvidia ຫຼື ການແກ້ໄຂທີ່ຖືກທົດສອບຢູ່ທີ່ນີ້. ການປ່ຽນແປງການຕັ້ງຄ່າຖາວອນສາມາດເຮັດໃຫ້ຮາດແວຖືກຄ້າງໄວ້ຢ່າງຖາວອນ. ການປົດລັອກທີ່ສຳເລັດຍັງຄົງເຫຼືອການລະບາຍຄວາມຮ້ອນ, ພະລັງງານ ແລະ ຄວາມໜ້າເຊື່ອຖືໃຫ້ປະເມີນ. ຫົວຂໍ້ຂ່າວທີ່ໜ້າປະທັບໃຈຂອງຜູ້ຂາຍແມ່ນການອ້າງສິດກ່ຽວກັບຕົວຢ່າງດຽວ. ພາບໜ້າຈໍຄວາມສາມາດໃຫ້ທ່ານມີຈຸດເລີ່ມຕົ້ນສຳລັບການກວດສອບມັນ.

ເປັນຫຍັງບັດໜຶ່ງຈຶ່ງບໍ່ໄດ້ຮັບໜ່ວຍຄວາມຈຳພິເສດ?

4:19 ຕອນນີ້ບັດທີ່ທຳລາຍຄວາມຝັນການອັບເກຣດຟຣີ. Kate ມີອັນໜຶ່ງທີ່ມີພຽງ 64 ກິກະໄບທີ່ຄົບຖ້ວນ. ການປົດລັອກຮາດແວບໍ່ໄດ້ໃຫ້ຄວາມໄດ້ປຽບດ້ານໜ່ວຍຄວາມຈຳຫຼາຍກວ່າການປົດລັອກຊອບແວ. ຂໍ້ຈຳກັດປ່ຽນແປງ; ຮາດແວທີ່ເສຍຫາຍຍັງຄົງເສຍຫາຍ. ນັ້ນຄືບົດຮຽນການຊື້ທີ່ມີປະໂຫຍດ. ຄວາມສາມາດທີ່ຕິດຕັ້ງທາງກາຍະພາບ ແລະ ຄວາມສາມາດທີ່ສາມາດນຳໃຊ້ໄດ້ຢ່າງໜ້າເຊື່ອຖືສາມາດເປັນຕົວເລກທີ່ແຕກຕ່າງກັນຫຼາຍ. ຖ້າທ່ານຕ້ອງການອ່ານສິ່ງນີ້ຫຼາຍກວ່າທີ່ຈະໄດ້ຍິນຂ້າພະເຈົ້າເວົ້າ, The Diff ມາຮອດກ່ອງຈົດໝາຍຂອງທ່ານທຸກເຊົ້າ, ຟຣີທີ່ thedailydiff.dev,

4:42 ລິ້ງຢູ່ລຸ່ມນີ້. ດັ່ງນັ້ນ, ຄຳຕັດສິນຂອງມື້ນີ້, NEEDS REVIEW.

ຄຳຕັດສິນກ່ຽວກັບການປົດລັອກແມ່ນຫຍັງ?

4:44 ຂ້າພະເຈົ້າຕ້ອງການການທົດສອບວຽກງານ ແລະ ຄວາມໜ້າເຊື່ອຖືຢ່າງເອກະລາດ ກ່ອນທີ່ຈະຖືວ່າບັດຂຸດຄົ້ນບໍ່ແຮ່ທີ່ຖືກດັດແກ້ ເປັນເຄື່ອງເລັ່ງທີ່ເຊື່ອຖືໄດ້. ການຄົ້ນຄວ້າຂອງ Kate ເຮັດໃຫ້ຮາດແວທີ່ເຊື່ອງໄວ້ສາມາດເຂົ້າໃຈໄດ້. ການຊື້ຜົນໄດ້ຮັບທີ່ເຊື່ອຖືໄດ້ຕ້ອງມີຫຼັກຖານເພີ່ມເຕີມ. ແລະນັ້ນຄື The Diff ສຳລັບມື້ນີ້. ຂ້າພະເຈົ້າ Niko ຈາກ Axrisi. ຮ່ວມກັນຢ່າງມີຄວາມຮັບຜິດຊອບ.

ແຫຼ່ງຂໍ້ມູນ

1. Using voltage glitching to unleash the A100 in my mining cardKate's blog
2. NVIDIA Ampere Architecture In-DepthNVIDIA Developer
3. OpenCL-BenchmarkProjectPhysX
4. GA100VFI research provenanceKate
5. Earlier CMPunlocker projectAmogh Munikote
6. Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
7. November 11 discussion of Kate's researchHacker News
8. Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
9. Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
10. Toy Story process-commentary still sourceImgflip / Pixar-Disney media
11. Futurama fictional sceptical reaction sourceGiphy / Gifsee
12. Futurama GIF linked sourceGifsee