Nvidia CMP 170HX મેમરી: ભૌતિક HBM, અસરકારક ગોઠવણી અને ખામીઓ
કેટે Nvidia ના CMP 170HX માઇનિંગ એક્સિલરેટરમાં પહેલેથી જ ઇન્સ્ટોલ કરેલી મેમરીને બહાર પાડવાની જાણ કરે છે.
કેટે Nvidia ના CMP 170HX માઇનિંગ એક્સિલરેટરમાં પહેલેથી જ ઇન્સ્ટોલ કરેલી મેમરીને બહાર પાડવાની જાણ કરે છે. આઠ-ગિગાબાઇટ વેરિઅન્ટમાં ભૌતિક રીતે લગભગ એંસી ગિગાબાઇટ્સ હોય છે, જ્યારે ઉપયોગી ક્ષમતા અકબંધ હાર્ડવેર અને અસરકારક ગોઠવણી પર આધારિત છે. માત્ર ચોસઠ ગિગાબાઇટ્સ અકબંધ હોય તેવા એક કાર્ડને અગાઉના સોફ્ટવેર અનલોક કરતાં કોઈ ફ્રેમબફર ફાયદો થયો નથી.
લખેલી આવૃત્તિ વાંચો (અંગ્રેજી) ↗
આ વીડિયોમાં શું આવરી લેવામાં આવ્યું છે
- ભૌતિક મેમરી, અસરકારક રીતે ગોઠવેલી ક્ષમતા અને વિશ્વસનીય રીતે ઉપયોગ કરી શકાય તેવી મેમરી અલગ છે.
- આઠ-ગિગાબાઇટ અને દસ-ગિગાબાઇટ CMP 170HX વેરિઅન્ટ્સમાં વિવિધ ભૌતિક મેમરી પેકેજો હોય છે.
- પછીના ગોઠવણી રેકોર્ડ્સ અસરકારક સેટિંગ્સને બદલી શકે છે જ્યારે ભૌતિક ફ્યુઝ માર્ક્સ કાયમી રહે છે.
- કેટની રિપોર્ટ કરાયેલ પ્રદર્શન સરખામણી OpenCL માં FP16 half2 FMA અંકગણિતને માપે છે, જેમાં કોઈ નિયંત્રિત ઇન્ફરન્સ-સ્પીડ સરખામણી નથી.
- ગોઠવણી અનલોક પછી પણ ઉત્પાદન ખામીઓ રહે છે; લેખકના ચોસઠ-ગિગાબાઇટ કાર્ડને કોઈ વધારાની ફ્રેમબફર ક્ષમતા મળી નથી.
પ્રશ્નો અને જવાબો
શા માટે માઇનિંગ GPU એપ્લિકેશનો ઉપયોગ કરી શકે તેના કરતાં વધુ મેમરી ધરાવી શકે છે?
ઇન્સ્ટોલ કરેલી મેમરી અને ખુલ્લી ક્ષમતા અલગથી નિયંત્રિત થાય છે. કેટના સંશોધનમાં જાણ કરવામાં આવી છે કે આઠ-ગિગાબાઇટ CMP 170HX વેરિઅન્ટમાં ભૌતિક રીતે લગભગ એંસી ગિગાબાઇટ્સ હોય છે, જ્યારે ગોઠવણી પ્રતિબંધો ઓછી ક્ષમતાને ખુલ્લી પાડે છે. દસ-ગિગાબાઇટ વેરિઅન્ટમાં ભૌતિક રીતે લગભગ ચાલીસ ગિગાબાઇટ્સ સાથેનું એક અલગ પેકેજ હોય છે. ઉપયોગી મેમરી હજુ પણ અકબંધ હાર્ડવેર અને ડ્રાઇવર હેન્ડલ કરી શકે તેવી ગોઠવણી પર આધાર રાખે છે.
કાયમી ઇલેક્ટ્રોનિક ફ્યુઝ અસરકારક સેટિંગ્સને કેવી રીતે બદલવાની મંજૂરી આપી શકે છે?
પછીના ગોઠવણી રેકોર્ડ્સ એક અપરિવર્તનીય ભૌતિક ઇતિહાસમાંથી અર્થઘટન કરાયેલા અસરકારક મૂલ્યોને બદલી શકે છે. કેટે GA100 સંશોધનમાં આ તફાવતનું વર્ણન કર્યું છે, અને Nvidia ની સ્રોત-લિંકવાળી પેટન્ટ ઓવરરાઈડેબલ ફ્યુઝ રેકોર્ડ્સ માટે વૈચારિક સંદર્ભ પૂરો પાડે છે. બળી ગયેલું ભૌતિક ફ્યુઝ બળી ગયેલું જ રહે છે. એપિસોડ ઇલેક્ટ્રિકલ પ્રક્રિયાઓ, હાર્ડવેર એડ્રેસ અથવા ફેરફાર રેસીપી પૂરી પાડ્યા વિના અર્થઘટન સમજાવે છે.
શું રિપોર્ટ કરાયેલ અંકગણિત બેન્ચમાર્ક ઝડપી AI ઇન્ફરન્સ સ્થાપિત કરે છે?
રિપોર્ટ કરાયેલ સરખામણી ચોક્કસ અડધા-ચોકસાઇ અંકગણિત કામગીરીને માપે છે. કેટનું હાર્ડવેર-અનલોક ઉદાહરણ ProjectPhysX OpenCL FP16 half2 FMA માઇક્રોબેન્ચમાર્કમાં રિટેલ A100 કરતાં લગભગ અઢાર ટકા આગળ પ્રદર્શન કરે છે. આ લેખ કોઈ નિયંત્રિત ટોકન્સ-પ્રતિ-સેકન્ડ સરખામણી પૂરી પાડતો નથી. તેથી મોડેલ ફિટ, અંકગણિત થ્રુપુટ અને સંપૂર્ણ એપ્લિકેશન પ્રદર્શન માટે અલગ પુરાવાની જરૂર છે, અને માપ લેખકના પરિણામો રહે છે.
શા માટે એક અનલોક કરેલા કાર્ડને કોઈ વધારાની ઉપયોગી મેમરી મળી નથી?
તે ચોક્કસ કાર્ડમાં માત્ર ચોસઠ ગિગાબાઇટ્સ અકબંધ હતા. કેટે જાણ કરે છે કે તેના હાર્ડવેર અનલોકે અગાઉના સોફ્ટવેર અનલોક કરતાં કોઈ ફ્રેમબફર ફાયદો આપ્યો નથી, જે પહેલેથી જ તે ક્ષમતા સુધી પહોંચી ગયું હતું. મર્યાદા બદલવાથી ક્ષતિગ્રસ્ત હાર્ડવેર ક્ષતિગ્રસ્ત જ રહ્યું. કાઉન્ટરએક્ઝામ્પલ બતાવે છે કે શા માટે ભૌતિક રીતે ઇન્સ્ટોલ કરેલી મેમરી અને વિશ્વસનીય રીતે ઉપયોગ કરી શકાય તેવી ક્ષમતાનું વ્યક્તિગત કાર્ડ માટે અલગથી મૂલ્યાંકન કરવું આવશ્યક છે.
The Daily Diff નો મોડિફાઈડ માઇનિંગ એક્સિલરેટર પર આધાર રાખવા અંગે શું નિર્ણય હતો?
The Daily Diff નો નિર્ણય NEEDS REVIEW હતો. નિકો મોડિફાઈડ માઇનિંગ કાર્ડને એક્સિલરેટર તરીકે આધાર રાખતા પહેલા સ્વતંત્ર વર્કલોડ અને વિશ્વસનીયતા પરીક્ષણ ઈચ્છશે. એપિસોડ કેટના પ્રકાશિત સંશોધનને શ્રેય આપે છે જ્યારે લેખકના માપન સીમાઓ અને ખામીયુક્ત-કાર્ડ કાઉન્ટરએક્ઝામ્પલને જાળવી રાખે છે. તે શો દ્વારા કરવામાં આવેલ કોઈ સ્વતંત્ર હાર્ડવેર ફેરફાર, પુનરાવર્તન અથવા એપ્લિકેશન બેન્ચમાર્કની જાણ કરતું નથી.
અનુવાદિત ટ્રાન્સક્રિપ્ટ
મૂળ અંગ્રેજી કથામાંથી અનુવાદિત. ઉપલબ્ધ ઑડિઓ અને કૅપ્શન્સ YouTube દ્વારા નિયંત્રિત થાય છે.
વધારાની મેમરી ક્યાંથી આવી?
0:00 આઠ ગિગાબાઇટ GPU આઠ ગિગાબાઇટ હાર્ડવેર જેવું લાગે છે. સંશોધક કેટે Nvidia ના માઇનિંગ કાર્ડની અંદર ભૌતિક રીતે એંસી હાજર હોવાની જાણ કરે છે. આ વીડિયોમાં મેમરી ક્યાં છુપાયેલી હતી? શા માટે તેને અનલોક કરવાથી તમે હજુ પણ ઓછા પડી શકો છો? બુધવાર, નવેમ્બર અગિયાર છે, અને આ છે The Daily Diff. અને કેટના એક કાર્ડમાં બરાબર બતાવે છે કે મફત અપગ્રેડ ક્યાં સમાપ્ત થાય છે. CMP એક સો સિત્તેર H X એ Nvidia નું Ethereum માઇનિંગ એક્સિલરેટર છે,
આ માઇનિંગ કાર્ડની અંદર શું છે?
0:22 જે A એક સો જેવા જ GPU ડાઇની આસપાસ બનેલું છે. કેટે જાણ કરે છે કે ગોઠવણી પ્રતિબંધો પહેલેથી જ પેકેજમાં મેમરી છુપાવે છે. ઉપયોગી ક્ષમતા હજુ પણ અકબંધ હાર્ડવેર અને ડ્રાઇવર હેન્ડલ કરી શકે તેવી ગોઠવણી પર આધાર રાખે છે. કેટે 10 નવેમ્બરના રોજ સંશોધન પ્રકાશિત કર્યું. આજે હેકર ન્યૂઝના વાચકો છુપાયેલા હાર્ડવેર અને ઉત્પાદન ખામીઓ વિશે દલીલ કરી રહ્યા હતા. અહીં બંને ઉત્પાદન વિભાજન અને ઉત્પાદન ઉપજ મહત્વપૂર્ણ છે. ટિપ્પણી વિભાગે પહેલેથી જ પોતાને સેમિકન્ડક્ટર ગુણવત્તા
0:46 આશ્વાસન માટે પ્રમોટ કર્યું છે. મોંઘો ભાગ પહેલેથી જ ત્યાં છે.
ઇન્સ્ટોલ કરેલી મેમરી કેવી રીતે અદૃશ્ય રહી શકે?
0:48 હાઈ બેન્ડવિડ્થ મેમરી, અથવા HBM, પેકેજમાં GPU ડાઇની બાજુમાં બેસે છે. Nvidia નું આર્કિટેક્ચર વર્ણન સંપૂર્ણ ચિપને A એક સો તરીકે વેચાયેલી ગોઠવણીથી અલગ પાડે છે. સંબંધિત હાર્ડવેર અલગ ઉત્પાદનો બની શકે છે. કેટે બે વર્ઝન ઓળખાવે છે. આઠ ગિગાબાઇટ કાર્ડમાં ભૌતિક રીતે લગભગ એંસી ઇન્સ્ટોલ કરેલા છે. દસ ગિગાબાઇટ કાર્ડમાં લગભગ ચાલીસ છે. તે અલગ પેકેજો છે, તેથી મોટા ઉત્પાદન લેબલ હેઠળ ઓછી
1:10 મેમરી આવી શકે છે. મોડેલ નામ દ્વારા ખરીદી કરવાથી એક સાઇડ ક્વેસ્ટ મળી છે. ઉત્પાદન એક ચિપના ભાગોને ખામીયુક્ત છોડી શકે છે. કેટે એક સુવિધાને અક્ષમ કરતી ગોઠવણીને ખામીયુક્ત હાર્ડવેરને ઓળખતા રેકોર્ડથી અલગ પાડે છે. કેટલાક અક્ષમ સંસાધનો જ્યારે ખુલ્લા થાય ત્યારે કામ કરે છે. ભૌતિક રીતે તૂટેલી મેમરી બેંક તૂટેલી જ રહે છે, પછી ભલે તમારી GitHub readme કેટલી પણ સમજાવટભરી બને. ઇલેક્ટ્રોનિક ફ્યુઝ નાના ભૌતિક માળખાં છે જે કાયમી ધોરણે
શા માટે વન-વે ફ્યુઝ નવી ગોઠવણીની પરવાનગી આપે છે?
1:31 સેટિંગ્સ રેકોર્ડ કરે છે. બળી ગયેલું ફ્યુઝ બળી ગયેલું જ રહે છે. અસરકારક સેટિંગ્સ ગોઠવણી રેકોર્ડ્સ દ્વારા એન્કોડ કરી શકાય છે. કેટે પછીના રેકોર્ડ્સને અગાઉના અસરકારક મૂલ્યોને બદલતા વર્ણવે છે. ભૌતિક ઇતિહાસ યથાવત રહે છે, જ્યારે તેમાંથી અર્થઘટન કરાયેલી ગોઠવણી બદલાય છે. એક દસ્તાવેજની કલ્પના કરો જેમાં એક મૂળ સૂચના અને પછીનો સુધારો હોય. સુધારો ઉમેરવાથી કઈ સૂચના લાગુ પડે છે તે બદલાય છે, જ્યારે મૂળ શાહી રહે છે.
1:51 ઇન્સ્ટોલ કરેલી મેમરી યથાવત છે. કોઈએ ફ્યુઝને પાછા ઉગાડવા માટે સમજાવીને ક્ષતિગ્રસ્ત HBM ને સુધાર્યું નથી. કેટે અણઘડ પરિણામ તરફ ધ્યાન દોરે છે. વધુ ફ્યુઝ બાળવાથી કેટલીક મર્યાદાઓ હળવી થઈ શકે છે. ક્યાંક, એક સંપૂર્ણપણે વાજબી ડિઝાઇન સમીક્ષા શોધી રહી છે કે 'કાયમી' શબ્દને સ્પ્રેડશીટમાં બીજી કોલમની જરૂર હતી. સંશોધનમાં કંટ્રોલરના ચેકને વિક્ષેપિત કરતી અને કાયમી ગોઠવણી ફેરફારોને મંજૂરી આપતી ટૂંકી વિદ્યુત ખલેલની જાણ કરવામાં આવી છે. અમે તે સમજૂતીને વૈચારિક રાખીશું.
2:13 હાર્ડવેર પ્રક્રિયાઓનું પુનરાવર્તન કરવાથી કાર્ડ નષ્ટ થઈ શકે છે. આ પરિણામ વાંચવાથી તમને એક માનસિક મોડેલ મળે છે; તે તમને કોઈ વોરંટી આપતું નથી. CMP અનલોકર નામનું એક સોફ્ટવેર અનલોક પહેલેથી જ અસ્તિત્વમાં હતું. કેટની સરખામણી આ રીતે આઠ ગિગાબાઇટ વર્ઝનને ચોસઠ ઉપયોગી ગિગાબાઇટ્સ પર મૂકે છે.
અગાઉનું સોફ્ટવેર અનલોક પહેલેથી શું કરી શકતું હતું?
2:24 જ્યારે મેમરી અકબંધ હોય ત્યારે હાર્ડવેર અનલોક એંસી સુધી પહોંચી શકે છે. કેટે આ હાર્ડવેર પરિણામોની જાણ કરે છે; માઇનિંગ હાર્ડવેરનો પુનઃઉપયોગ કરવાનો લાંબો ઇતિહાસ છે. કેટે GPU કેશ સાફ કર્યા પછી ડેટા લખીને અને તેને પાછો વાંચીને સંપૂર્ણ મેમરી તપાસવાની જાણ કરે છે. આ લેખ કાર્યરત ઇન્ફરન્સ વર્કલોડ્સની પણ જાણ કરે છે. તે લેખકના પરીક્ષણો છે, જે ક્ષમતાના રીડઆઉટ કરતાં વધુ મજબૂત છે. અમે સ્વતંત્ર રીતે સુધારેલા કાર્ડનું પરીક્ષણ કર્યું નથી. રિટેલ A એક સો માં એક સો આઠ સ્ટ્રીમિંગ મલ્ટિપ્રોસેસર્સ હોય છે, જે કામ કરતા જૂથો છે.
2:49 કેટે વધુ કાર્યાત્મક જૂથોને સક્ષમ કરવાની જાણ કરે છે.
A100 કરતાં ઝડપી પરિણામ શું માપે છે?
2:53 માપેલા કાર્ડમાં એક સો ચોવીસ છે. કયા જૂથો કામ કરે છે તે વ્યક્તિગત ડાઇ પર આધાર રાખે છે. કેટનો અડધો ચોકસાઇ અંકગણિત માઇક્રોબેન્ચમાર્ક હાર્ડવેર અનલોક કાર્ડને રિટેલ A એક સો કરતાં લગભગ અઢાર ટકા આગળ મૂકે છે. તે OpenCL માં ચોક્કસ પુનરાવર્તિત કામગીરીને માપે છે. તેને દરેક AI મોડેલ માટે બૂસ્ટ તરીકે વાંચવાથી ચાર્ટને એક પ્રમોશન મળે છે જે તેણે કમાવ્યું નથી. હેકર ન્યૂઝના વાચકોએ ફેક્ટરી પરીક્ષણ અને વિશ્વસનીયતાનો મુદ્દો ઉઠાવ્યો.
3:10 તેમના સ્પર્ધાત્મક સિદ્ધાંતો કોઈ સ્વતંત્ર પુનરાવર્તન પૂરું પાડતા નથી. હું એન્જિનિયરિંગની પ્રશંસા કરી શકું છું અને હજુ પણ મને ગમતી નોકરી માટે હાર્ડવેર પર વિશ્વાસ કરતા પહેલા વર્કલોડ માપન અને લાંબા સ્થિરતા રન જોઈતા હોય છે. વધારાની ઉપયોગી મેમરી નક્કી કરી શકે છે કે મોડેલ કાર્ડ પર ફિટ થાય છે કે નહીં. સ્પીડ વર્કલોડ અને સિસ્ટમ દ્વારા ડેટા ખસેડવા પર પણ આધાર રાખે છે. આ લેખ કોઈ નિયંત્રિત ટોકન્સ પ્રતિ સેકન્ડ સરખામણી પૂરી પાડતો નથી.
તેને સપોર્ટેડ એક્સિલરેટરથી શું અલગ પાડે છે?
3:30 મોડેલ ક્ષમતા, અંકગણિત થ્રુપુટ અને એપ્લિકેશન પ્રદર્શનનું અલગથી મૂલ્યાંકન કરો. કેટે કહે છે કે ઇમેજ અને વિડિયો ડીકોડિંગ સુવિધાઓ અને મલ્ટિ ઇન્સ્ટન્સ GPU મોડનું ખાસ પરીક્ષણ કરવામાં આવ્યું નથી. ઇન્ટરકનેક્ટ અને ઝડપી PCI Express કનેક્શનને વધારાના ફેરફારોની જરૂર છે. બોર્ડ, ફર્મવેર અને કાર્યાત્મક હાર્ડવેર હજુ પણ નક્કી કરે છે કે શું ઉપયોગી બને છે. કેટે કહે છે કે તારણો પ્રકાશન પહેલાં Nvidia ની પ્રોડક્ટ સુરક્ષા ટીમને ગયા હતા. પોસ્ટ અન્ય સંશોધકને સ્વતંત્ર રીતે નબળાઈ શોધવા માટે શ્રેય આપે છે. અમે અહીં કોઈ જાહેર Nvidia પ્રતિભાવ અથવા પરીક્ષિત સુધારાની ચકાસણી કરી નથી.
3:58 કાયમી ગોઠવણી ફેરફારો હાર્ડવેરને કાયમી ધોરણે ફસાવી શકે છે. સફળ અનલોક હજુ પણ ઠંડક, પાવર અને વિશ્વસનીયતાનું મૂલ્યાંકન કરવા માટે છોડી દે છે. વેચનારની અદભૂત હેડલાઇન એક નમૂના વિશેનો દાવો છે. ક્ષમતાનો સ્ક્રીનશોટ તમને તેને તપાસવા માટે એક પ્રારંભિક બિંદુ આપે છે. હવે તે કાર્ડ જે મફત અપગ્રેડની કલ્પનાને બગાડે છે. કેટ પાસે એક હતું જેમાં માત્ર ચોસઠ ગિગાબાઇટ્સ અકબંધ હતા.
શા માટે એક કાર્ડને કોઈ વધારાની મેમરી મળી નથી?
4:19 હાર્ડવેર અનલોકે તેને સોફ્ટવેર અનલોક કરતાં કોઈ મેમરી ફાયદો આપ્યો નથી. મર્યાદા બદલાઈ; ક્ષતિગ્રસ્ત હાર્ડવેર ક્ષતિગ્રસ્ત જ રહ્યું. તે ઉપયોગી ખરીદી પાઠ છે. ભૌતિક રીતે ઇન્સ્ટોલ કરેલી ક્ષમતા અને વિશ્વસનીય રીતે ઉપયોગ કરી શકાય તેવી ક્ષમતા ખૂબ જ અલગ સંખ્યાઓ હોઈ શકે છે. જો તમે મને તે કહેવા કરતાં તેને વાંચવાનું પસંદ કરો છો, તો ડિફ દરરોજ સવારે તમારા ઇનબોક્સમાં આવે છે, daily diff dot dev પર મફત, નીચેની લિંક. તો, આજનો નિર્ણય, NEEDS REVIEW. હું સ્વતંત્ર વર્કલોડ અને
4:42 વિશ્વસનીયતા પરીક્ષણ ઈચ્છું છું
અનલોક પર શું નિર્ણય છે?
4:44 મોડિફાઈડ માઇનિંગ કાર્ડને વિશ્વસનીય એક્સિલરેટર તરીકે ગણતા પહેલા. કેટનું સંશોધન છુપાયેલા હાર્ડવેરને સમજી શકાય તેવું બનાવે છે. વિશ્વસનીય પરિણામ ખરીદવા માટે વધુ પુરાવા લે છે. અને તે આજનો ડિફ છે. હું Axrisi થી નિકો છું. જવાબદારીપૂર્વક મર્જ કરો. N/A N/A
સ્ત્રોતો
- Using voltage glitching to unleash the A100 in my mining cardKate's blog
- NVIDIA Ampere Architecture In-DepthNVIDIA Developer
- OpenCL-BenchmarkProjectPhysX
- GA100VFI research provenanceKate
- Earlier CMPunlocker projectAmogh Munikote
- Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
- November 11 discussion of Kate's researchHacker News
- Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
- Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
- Toy Story process-commentary still sourceImgflip / Pixar-Disney media
- Futurama fictional sceptical reaction sourceGiphy / Gifsee
- Futurama GIF linked sourceGifsee



