Nvidia CMP 170HX မမ်မိုရီ- ရုပ်ပိုင်းဆိုင်ရာ HBM၊ ထိရောက်သော ဖွဲ့စည်းပုံနှင့် ချို့ယွင်းချက်များ
Nvidia ၏ CMP 170HX တူးဖော်ရေးအရှိန်မြှင့်စက်တွင် ထည့်သွင်းထားပြီးသော မမ်မိုရီအား ထုတ်ဖော်ပြသထားကြောင်း ကိတ်က အစီရင်ခံတင်ပြသည်။
Nvidia ၏ CMP 170HX တူးဖော်ရေးအရှိန်မြှင့်စက်တွင် ထည့်သွင်းထားပြီးသော မမ်မိုရီအား ထုတ်ဖော်ပြသထားကြောင်း ကိတ်က အစီရင်ခံတင်ပြသည်။ ရှစ်ဂစ်ဂါဘိုက် ဗားရှင်းတွင် ရုပ်ပိုင်းဆိုင်ရာအားဖြင့် ဂစ်ဂါဘိုက်ရှစ်ဆယ်ခန့် ပါဝင်ပြီး အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်သည် မပျက်စီးသော ဟာ့ဒ်ဝဲနှင့် ထိရောက်သော ဖွဲ့စည်းပုံအပေါ် မူတည်သည်။ ဂစ်ဂါဘိုက်ခြောက်ဆယ့်လေးခုသာ အပြည့်အစုံပါရှိသော ကတ်တစ်ခုသည် ယခင်ဆော့ဖ်ဝဲလ်သော့ဖွင့်ခြင်းထက် ဖရိန်ဘတ်ဖာအားသာချက် မရရှိခဲ့ပါ။
ရေးသားထားသော ထုတ်ဝေမှု (အင်္ဂလိပ်) ကို ဖတ်ရန် ↗
ဤဗီဒီယိုတွင် ဖော်ပြထားသောအရာများ
- ရုပ်ပိုင်းဆိုင်ရာ မမ်မိုရီ၊ ထိရောက်စွာ ဖွဲ့စည်းထားသော စွမ်းဆောင်ရည်နှင့် ယုံကြည်စိတ်ချစွာ အသုံးပြုနိုင်သော မမ်မိုရီတို့သည် ကွဲပြားခြားနားသည်။
- ရှစ်ဂစ်ဂါဘိုက်နှင့် ဆယ်ဂစ်ဂါဘိုက် CMP 170HX ဗားရှင်းများတွင် မတူညီသော ရုပ်ပိုင်းဆိုင်ရာ မမ်မိုရီ ပက်ကေ့ဂျ်များ ပါဝင်သည်။
- နောက်ပိုင်း ဖွဲ့စည်းမှု မှတ်တမ်းများသည် ထိရောက်သော ဆက်တင်များကို အစားထိုးနိုင်သော်လည်း ရုပ်ပိုင်းဆိုင်ရာ ဖျူးမှတ်သားမှုများသည် အမြဲတမ်းဖြစ်သည်။
- ကိတ်၏ အစီရင်ခံထားသော စွမ်းဆောင်ရည် နှိုင်းယှဉ်ချက်သည် OpenCL တွင် FP16 half2 FMA ဂဏန်းသင်္ချာကို တိုင်းတာသည်၊ ထိန်းချုပ်ထားသော မှန်းဆမှု-မြန်နှုန်း နှိုင်းယှဉ်မှု မရှိပါ။
- ထုတ်လုပ်မှု ချို့ယွင်းချက်များသည် ဖွဲ့စည်းမှု သော့ဖွင့်ပြီးနောက်တွင် ရှိနေဆဲဖြစ်သည်။ စာရေးသူ၏ ဂစ်ဂါဘိုက်ခြောက်ဆယ့်လေးခုပါသော ကတ်သည် ဖရိန်ဘတ်ဖာ စွမ်းဆောင်ရည် အပိုမရရှိခဲ့ပါ။
အမေးအဖြေများ
mining GPU မှာ applications တွေ အသုံးပြုနိုင်တာထက် memory ပိုများတာ ဘာကြောင့်လဲ။
ထည့်သွင်းထားသော မမ်မိုရီနှင့် ထုတ်ဖော်ထားသော စွမ်းဆောင်ရည်ကို သီးခြားစီ ထိန်းချုပ်ထားသည်။ ကိတ်၏ သုတေသနအရ ရှစ်ဂစ်ဂါဘိုက် CMP 170HX ဗားရှင်းတွင် ရုပ်ပိုင်းဆိုင်ရာအားဖြင့် ဂစ်ဂါဘိုက်ရှစ်ဆယ်ခန့် ပါဝင်ပြီး ဖွဲ့စည်းမှု ကန့်သတ်ချက်များက ပိုမိုသေးငယ်သော စွမ်းဆောင်ရည်ကို ထုတ်ဖော်ပြသသည်။ ဆယ်ဂစ်ဂါဘိုက် ဗားရှင်းတွင် ရုပ်ပိုင်းဆိုင်ရာအားဖြင့် ဂစ်ဂါဘိုက်လေးဆယ်ခန့်ပါရှိသော မတူညီသော package ပါဝင်သည်။ အသုံးပြုနိုင်သော မမ်မိုရီသည် မပျက်စီးသော ဟာ့ဒ်ဝဲနှင့် ဒရိုင်ဘာက ထိန်းချုပ်နိုင်သည့် ဖွဲ့စည်းပုံအပေါ် မူတည်နေဆဲဖြစ်သည်။
အမြဲတမ်း အီလက်ထရွန်နစ်ဖျူးစ်များသည် ထိရောက်သော ဆက်တင်များကို မည်သို့ပြောင်းလဲနိုင်စေသနည်း။
နောက်ပိုင်း ဖွဲ့စည်းပုံ မှတ်တမ်းများသည် ပြန်မရနိုင်သော ရုပ်ပိုင်းဆိုင်ရာ မှတ်တမ်းမှ အဓိပ္ပာယ်ဖွင့်ဆိုထားသော ထိရောက်သော တန်ဖိုးများကို အစားထိုးနိုင်သည်။ ကိတ်က GA100 သုတေသနတွင် ဤကွဲပြားမှုကို ဖော်ပြထားပြီး Nvidia ၏ အရင်းအမြစ်-ချိတ်ဆက်ထားသော မူပိုင်ခွင့်သည် overrideable fuse records များအတွက် သဘောတရားဆိုင်ရာ အခြေအနေကို ပံ့ပိုးပေးသည်။ ပျက်စီးနေသော ရုပ်ပိုင်းဆိုင်ရာ fuse သည် ပျက်စီးနေဆဲဖြစ်သည်။ အဆိုပါ အပိုင်းသည် လျှပ်စစ်လုပ်ထုံးလုပ်နည်းများ၊ ဟာ့ဒ်ဝဲလိပ်စာများ သို့မဟုတ် ပြုပြင်မွမ်းမံမှု ချက်ပြုတ်နည်းကို မပေးဘဲ အဓိပ္ပာယ်ဖွင့်ဆိုချက်ကို ရှင်းပြသည်။
အစီရင်ခံထားသော ဂဏန်းသင်္ချာ ဘန်းချ်မတ်ခ်သည် AI မှန်းဆမှု ပိုမိုမြန်ဆန်ကြောင်း သက်သေပြပါသလား။
အစီရင်ခံထားသော နှိုင်းယှဉ်ချက်သည် သတ်မှတ်ထားသော half-precision arithmetic operation ကို တိုင်းတာသည်။ ကိတ်၏ ဟာ့ဒ်ဝဲ-သော့ဖွင့်ထားသော ဥပမာသည် ProjectPhysX OpenCL FP16 half2 FMA microbenchmark တွင် လက်လီ A100 ထက် ၁၈ ရာခိုင်နှုန်းခန့် စွမ်းဆောင်ရည်ပြသသည်။ ဆောင်းပါးတွင် ထိန်းချုပ်ထားသော တစ်စက္ကန့်ကို token နှိုင်းယှဉ်မှု မပေးထားပါ။ ထို့ကြောင့် Model fit၊ arithmetic throughput နှင့် ပြည့်စုံသော application performance အတွက် သီးခြားသက်သေအထောက်အထားများ လိုအပ်ပြီး တိုင်းတာမှုများသည် စာရေးသူ၏ ရလဒ်များအဖြစ် ရှိနေဆဲဖြစ်သည်။
သော့ဖွင့်ထားသော ကတ်တစ်ကတ်သည် အပိုအသုံးပြုနိုင်သော မမ်မိုရီကို အဘယ်ကြောင့် မရရှိခဲ့သနည်း။
အထူးသဖြင့် ထိုကတ်တွင် ဂစ်ဂါဘိုက် ၆၄ သာ အပြည့်အစုံပါရှိသည်။ ကိတ်၏ အစီရင်ခံချက်အရ ၎င်း၏ ဟာ့ဒ်ဝဲ သော့ဖွင့်ခြင်းသည် ယခင် ဆော့ဖ်ဝဲ သော့ဖွင့်ခြင်းထက် ဖရိန်ဘတ်ဖာ အားသာချက်ကို မပေးခဲ့ဘဲ၊ ထိုစွမ်းဆောင်ရည်သို့ ရောက်ရှိပြီးသားဖြစ်သည်။ ကန့်သတ်ချက်ကို ပြောင်းလဲခြင်းသည် ပျက်စီးနေသော ဟာ့ဒ်ဝဲကို ပျက်စီးနေစေခဲ့သည်။ ဤကောင်တာဥပမာသည် ရုပ်ပိုင်းဆိုင်ရာ ထည့်သွင်းထားသော မမ်မိုရီနှင့် ယုံကြည်စိတ်ချစွာ အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်ကို ကတ်တစ်ကတ်ချင်းစီအတွက် သီးခြားစီ အကဲဖြတ်ရသည့် အကြောင်းရင်းကို ပြသသည်။
ပြုပြင်ထားသော mining accelerator အပေါ် မှီခိုခြင်းနှင့် ပတ်သက်၍ The Daily Diff ၏ စီရင်ချက်က ဘာလဲ။
The Daily Diff ၏ စီရင်ချက်မှာ NEEDS REVIEW ဖြစ်သည်။ Niko သည် ပြုပြင်ထားသော mining card ကို accelerator အဖြစ် မှီခိုခြင်းမပြုမီ လွတ်လပ်သော workload နှင့် ယုံကြည်စိတ်ချရမှု စမ်းသပ်မှုများကို လိုချင်မည်ဖြစ်သည်။ အဆိုပါ အပိုင်းသည် Kate ၏ ထုတ်ဝေထားသော သုတေသနကို အသိအမှတ်ပြုထားပြီး စာရေးသူ၏ တိုင်းတာမှု ကန့်သတ်ချက်များနှင့် ချို့ယွင်းချက်ရှိသော ကတ်၏ ကောင်တာဥပမာကို ထိန်းသိမ်းထားသည်။ ၎င်းသည် ပြပွဲမှ ပြုလုပ်သော လွတ်လပ်သော ဟာ့ဒ်ဝဲ ပြုပြင်မွမ်းမံမှု၊ ပြန်လည်ထုတ်လုပ်မှု သို့မဟုတ် application benchmark ကို မည်သည့်အရာမျှ အစီရင်ခံခြင်း မရှိပါ။
ဘာသာပြန်ထားသော စာသားမှတ်တမ်း
မူရင်း အင်္ဂလိပ်စကားပြောမှ ဘာသာပြန်ထားသည်။ ရရှိနိုင်သော အသံနှင့် စာတန်းထိုးများကို YouTube မှ ထိန်းချုပ်ထားသည်။
အပိုမမ်မိုရီတွေ ဘယ်ကလာတာလဲ။
0:00 ရှစ်ဂစ်ဂါဘိုက် GPU ဟာ ရှစ်ဂစ်ဂါဘိုက် ဟာ့ဒ်ဝဲလိုပါပဲ။ သုတေသီကိတ်က Nvidia mining card ထဲမှာ ရုပ်ပိုင်းဆိုင်ရာအရ ရှစ်ဆယ်ရှိတယ်လို့ အစီရင်ခံပါတယ်။ ဒီဗီဒီယိုထဲမှာ မမ်မိုရီတွေ ဘယ်မှာပုန်းနေတာလဲ။ ဘာလို့ သော့ဖွင့်ပြီးရင်တောင် လိုအပ်နေတာလဲ။ ဒီနေ့ ဗုဒ္ဓဟူးနေ့ နိုဝင်ဘာ ၁၁ ရက်နေ့ဖြစ်ပြီး ဒါကတော့ The Daily Diff ပါ။ ကိတ်ရဲ့ ကတ်တွေထဲက တစ်ခုက အခမဲ့အဆင့်မြှင့်တင်မှု ဘယ်မှာကုန်ဆုံးသွားတယ်ဆိုတာ တိတိကျကျပြသနေပါတယ်။ CMP 170HX ဟာ Nvidia ရဲ့ Ethereum mining accelerator ဖြစ်ပြီး
ဒီတူးဖော်ရေးကတ်ထဲမှာ ဘာတွေပါလဲ။
0:22 A100 နဲ့ အတူတူ GPU die ကို အခြေခံထားပါတယ်။ ကိတ်က ဖွဲ့စည်းပုံ ကန့်သတ်ချက်တွေက ပက်ကေ့ဂျ်ထဲမှာ ရှိပြီးသား memory ကို ဖျောက်ထားတယ်လို့ အစီရင်ခံပါတယ်။ အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်သည် မပျက်စီးသော ဟာ့ဒ်ဝဲနှင့် ဒရိုင်ဘာက ထိန်းချုပ်နိုင်သည့် ဖွဲ့စည်းပုံပေါ်တွင် မူတည်နေဆဲဖြစ်သည်။ ကိတ်သည် နိုဝင်ဘာလ ၁၀ ရက်နေ့တွင် သုတေသနကို ထုတ်ဝေခဲ့သည်။ အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်သည် မပျက်စီးသော ဟာ့ဒ်ဝဲနှင့် ဒရိုင်ဘာက ထိန်းချုပ်နိုင်သည့် ဖွဲ့စည်းပုံပေါ်တွင် မူတည်နေဆဲဖြစ်သည်။ ကိတ်သည် နိုဝင်ဘာလ ၁၀ ရက်နေ့တွင် သုတေသနကို ထုတ်ဝေခဲ့သည်။ ဒီနေ့ Hacker News စာဖတ်သူတွေက ဝှက်ထားတဲ့ ဟာ့ဒ်ဝဲနဲ့ ထုတ်လုပ်မှု ချို့ယွင်းချက်တွေအကြောင်း ငြင်းခုံခဲ့ကြပါတယ်။ ထုတ်ကုန်အပိုင်းပိုင်းခွဲခြင်းနှင့် ထုတ်လုပ်မှုအထွက်နှုန်း နှစ်ခုလုံးသည် ဤနေရာတွင် အရေးကြီးပါသည်။ မှတ်ချက်ကဏ္ဍက ကိုယ်တိုင်ကို semiconductor အရည်အသွေး အာမခံချက်အဖြစ် မြှင့်တင်ပြီးသားပါ။
0:46 စျေးကြီးတဲ့ အစိတ်အပိုင်းက ရှိပြီးသားပါ။
ထည့်သွင်းထားတဲ့ မမ်မိုရီက ဘယ်လိုပျောက်ကွယ်နေနိုင်တာလဲ။
0:48 High Bandwidth Memory (HBM) သည် package ထဲရှိ GPU die ဘေးတွင် တည်ရှိသည်။ Nvidia ၏ ဗိသုကာ ဖော်ပြချက်သည် chip အပြည့်အစုံကို A100 အဖြစ် ရောင်းချသော ဖွဲ့စည်းပုံနှင့် ခွဲခြားထားသည်။ Nvidia ၏ ဗိသုကာ ဖော်ပြချက်သည် chip အပြည့်အစုံကို A100 အဖြစ် ရောင်းချသော ဖွဲ့စည်းပုံနှင့် ခွဲခြားထားသည်။ ဆက်စပ်ဟာ့ဒ်ဝဲများသည် ကွဲပြားသော ထုတ်ကုန်များ ဖြစ်လာနိုင်သည်။ ကိတ်က ဗားရှင်းနှစ်မျိုးကို ဖော်ထုတ်ခဲ့ပါတယ်။ ရှစ်ဂစ်ဂါဘိုက် ကတ်တွင် ရုပ်ပိုင်းဆိုင်ရာအရ ဂစ်ဂါဘိုက်ရှစ်ဆယ်ခန့် ထည့်သွင်းထားသည်။ ဆယ်ဂစ်ဂါဘိုက် ကတ်တွင် ဂစ်ဂါဘိုက်လေးဆယ်ခန့် ပါဝင်သည်။ ၎င်းတို့သည် မတူညီသော package များဖြစ်သောကြောင့် ပိုကြီးသော ထုတ်ကုန်အမည်သည် memory နည်းပါးစွာဖြင့် လာနိုင်သည်။
1:10 မော်ဒယ်အမည်ဖြင့် ဈေးဝယ်ခြင်းသည် side quest တစ်ခု ရရှိခဲ့သည်။ ထုတ်လုပ်မှုသည် chip ၏ အစိတ်အပိုင်းများကို ချို့ယွင်းချက်များ ဖြစ်ပေါ်စေနိုင်သည်။ ကိတ်က အင်္ဂါရပ်တစ်ခုကို ပိတ်ထားသည့် ဖွဲ့စည်းပုံကို ချို့ယွင်းချက်ရှိသော ဟာ့ဒ်ဝဲကို ဖော်ထုတ်သည့် မှတ်တမ်းနှင့် ခွဲခြားထားသည်။ ကိတ်က အင်္ဂါရပ်တစ်ခုကို ပိတ်ထားသည့် ဖွဲ့စည်းပုံကို ချို့ယွင်းချက်ရှိသော ဟာ့ဒ်ဝဲကို ဖော်ထုတ်သည့် မှတ်တမ်းနှင့် ခွဲခြားထားသည်။ ပိတ်ထားသော အရင်းအမြစ်အချို့သည် ထုတ်ဖော်သောအခါတွင် အလုပ်လုပ်သည်။ ရုပ်ပိုင်းဆိုင်ရာအရ ပျက်စီးနေသော မမ်မိုရီဘဏ်သည် သင်၏ GitHub readme မည်မျှပင် ဆွဲဆောင်မှုရှိစေကာမူ ပျက်စီးနေဆဲဖြစ်သည်။ အီလက်ထရွန်နစ်ဖျူးစ်များသည် ဆက်တင်များကို အမြဲတမ်း မှတ်တမ်းတင်သည့် သေးငယ်သော ရုပ်ပိုင်းဆိုင်ရာ ဖွဲ့စည်းပုံများဖြစ်သည်။
ဘာကြောင့် တစ်လမ်းသွားဖျူးတွေက ဖွဲ့စည်းမှုအသစ်ကို ခွင့်ပြုတာလဲ။
1:31 ပျက်စီးသွားသော ဖျူးစ်သည် ပျက်စီးနေဆဲဖြစ်သည်။ ထိရောက်သော ဆက်တင်များကို ဖွဲ့စည်းမှု မှတ်တမ်းများမှတစ်ဆင့် ကုဒ်သွင်းနိုင်သည်။ ကိတ်က နောက်ပိုင်းမှတ်တမ်းတွေက အစောပိုင်းထိရောက်တဲ့တန်ဖိုးတွေကို အစားထိုးလိုက်တယ်လို့ ဖော်ပြတယ်။ ရုပ်ပိုင်းဆိုင်ရာ မှတ်တမ်းသည် ရှိနေဆဲဖြစ်ပြီး ၎င်းမှနေ၍ ဖွဲ့စည်းပုံကို အဓိပ္ပာယ်ဖွင့်ဆိုခြင်းသည် ပြောင်းလဲသွားသည်။ မူရင်းညွှန်ကြားချက်နှင့် နောက်ပိုင်းပြင်ဆင်ချက်ပါရှိသော စာရွက်စာတမ်းကို စဉ်းစားကြည့်ပါ။ မူရင်းညွှန်ကြားချက်နှင့် နောက်ပိုင်းပြင်ဆင်ချက်ပါရှိသော စာရွက်စာတမ်းကို စဉ်းစားကြည့်ပါ။ ပြင်ဆင်ချက် ထည့်သွင်းခြင်းက မည်သည့်ညွှန်ကြားချက်က အကျုံးဝင်သည်ကို ပြောင်းလဲစေပြီး မူရင်းမှင်ကတော့ ရှိနေတုန်းပါပဲ။
1:51 ထည့်သွင်းထားတဲ့ မမ်မိုရီက မပြောင်းလဲပါဘူး။ ဘယ်သူမှ ဖျူးကို ပြန်ပေါက်စေခြင်းဖြင့် ပျက်စီးနေတဲ့ HBM ကို ပြုပြင်မပေးနိုင်ပါဘူး။ ကိတ်က အဆင်မပြေတဲ့ ရလဒ်ကို ထောက်ပြတယ်။ ဖျူးများ ပိုမိုမီးရှို့ခြင်းဖြင့် အချို့သော ကန့်သတ်ချက်များကို လျှော့ပေါ့ပေးနိုင်သည်။ တစ်နေရာရာမှာ အတော်လေးကျိုးကြောင်းဆီလျော်တဲ့ ဒီဇိုင်းသုံးသပ်ချက်က “အမြဲတမ်း” ဆိုတဲ့ စကားလုံးက spreadsheet မှာ ဒုတိယကော်လံ လိုအပ်နေပြီဆိုတာ တွေ့ရှိနေပါပြီ။ တစ်နေရာရာမှာ အတော်လေးကျိုးကြောင်းဆီလျော်တဲ့ ဒီဇိုင်းသုံးသပ်ချက်က “အမြဲတမ်း” ဆိုတဲ့ စကားလုံးက spreadsheet မှာ ဒုတိယကော်လံ လိုအပ်နေပြီဆိုတာ တွေ့ရှိနေပါပြီ။ သုတေသနအစီရင်ခံစာတွင် ထိန်းချုပ်ကိရိယာ၏ စစ်ဆေးမှုများကို အနှောင့်အယှက်ပေးပြီး အမြဲတမ်း ဖွဲ့စည်းမှုပြောင်းလဲမှုများကို ခွင့်ပြုသည့် တိုတောင်းသော လျှပ်စစ်မငြိမ်မသက်မှုတစ်ခုကို ဖော်ပြထားသည်။ သုတေသနအစီရင်ခံစာတွင် ထိန်းချုပ်ကိရိယာ၏ စစ်ဆေးမှုများကို အနှောင့်အယှက်ပေးပြီး အမြဲတမ်း ဖွဲ့စည်းမှုပြောင်းလဲမှုများကို ခွင့်ပြုသည့် တိုတောင်းသော လျှပ်စစ်မငြိမ်မသက်မှုတစ်ခုကို ဖော်ပြထားသည်။
2:13 ကျွန်တော်တို့ အဲဒီရှင်းပြချက်ကို သဘောတရားအဖြစ်ထားရှိမယ်။ ဟာ့ဒ်ဝဲလုပ်ထုံးလုပ်နည်းများ ပြန်လည်ထုတ်လုပ်ခြင်းသည် ကတ်တစ်ခုကို ဖျက်ဆီးနိုင်သည်။ ဒီရလဒ်ကို ဖတ်ခြင်းက သင့်ကို စိတ်ပိုင်းဆိုင်ရာ ပုံစံတစ်ခု ပေးပါတယ်၊ အာမခံချက်တော့ မပေးပါဘူး။ CMP unlocker လို့ခေါ်တဲ့ ဆော့ဖ်ဝဲလ်သော့ဖွင့်စနစ်က ရှိပြီးသားပါ။
ယခင်ဆော့ဖ်ဝဲလ်သော့ဖွင့်မှုက ဘာတွေလုပ်ဆောင်ပြီးသားလဲ။
2:24 ကိတ်ရဲ့ နှိုင်းယှဉ်ချက်အရ ရှစ်ဂစ်ဂါဘိုက် ဗားရှင်းကို အဲဒီနည်းနဲ့ အသုံးပြုနိုင်တဲ့ ဂစ်ဂါဘိုက် ၆၄ အဖြစ် သတ်မှတ်ထားပါတယ်။ ဟာ့ဒ်ဝဲသော့ဖွင့်ခြင်းက မမ်မိုရီ မပျက်စီးရင် ဂစ်ဂါဘိုက် ၈၀ အထိ ရောက်နိုင်ပါတယ်။ ကိတ်က ဒီဟာ့ဒ်ဝဲရလဒ်တွေကို အစီရင်ခံပါတယ်။ mining hardware ကို ပြန်လည်အသုံးပြုတာက သမိုင်းပိုရှည်ပါတယ်။ ကိတ်က GPU cache ကို ရှင်းပြီးနောက် memory အပြည့်အစုံကို ဒေတာတွေရေးပြီး ပြန်ဖတ်ခြင်းဖြင့် စစ်ဆေးတယ်လို့ အစီရင်ခံပါတယ်။ ကိတ်က GPU cache ကို ရှင်းပြီးနောက် memory အပြည့်အစုံကို ဒေတာတွေရေးပြီး ပြန်ဖတ်ခြင်းဖြင့် စစ်ဆေးတယ်လို့ အစီရင်ခံပါတယ်။ ဆောင်းပါးမှာ အလုပ်လုပ်တဲ့ inference workloads တွေကိုလည်း ဖော်ပြထားပါတယ်။ ဒါတွေကတော့ စာရေးသူရဲ့ စမ်းသပ်မှုတွေဖြစ်ပြီး စွမ်းဆောင်ရည်ဖတ်ရှုခြင်းထက် ပိုမိုခိုင်မာပါတယ်။ ကျွန်ုပ်တို့သည် ပြုပြင်ထားသော ကတ်တစ်ခုကို လွတ်လပ်စွာ စမ်းသပ်ခြင်း မပြုသေးပါ။
2:49 လက်လီ A100 မှာ streaming multiprocessor ၁၀၈ ခု ပါဝင်ပြီး
A100 ထက်ပိုမြန်တဲ့ ရလဒ်က ဘာကိုတိုင်းတာတာလဲ။
2:53 အလုပ်လုပ်တဲ့ အဖွဲ့တွေပါ။ ကိတ်က လုပ်ဆောင်နိုင်တဲ့ အဖွဲ့တွေ ပိုများလာအောင် လုပ်နိုင်တယ်လို့ အစီရင်ခံပါတယ်။ တိုင်းတာထားတဲ့ ကတ်မှာ ၁၂၄ ခု ပါရှိပါတယ်။ ဘယ်အုပ်စုတွေက အလုပ်လုပ်လဲဆိုတာက တစ်ဦးချင်း die ပေါ်မှာ မူတည်ပါတယ်။ ကိတ်ရဲ့ half precision arithmetic microbenchmark က ဟာ့ဒ်ဝဲသော့ဖွင့်ထားတဲ့ ကတ်ကို လက်လီ A100 ထက် ၁၈ ရာခိုင်နှုန်းခန့် သာလွန်စေပါတယ်။ ၎င်းသည် OpenCL တွင် သတ်မှတ်ထားသော ထပ်တလဲလဲ လုပ်ဆောင်မှုကို တိုင်းတာသည်။
3:10 ၎င်းကို AI မော်ဒယ်တိုင်းအတွက် မြှင့်တင်မှုအဖြစ် ဖတ်ရှုခြင်းသည် ဇယားအား မရရှိသေးသော ရာထူးတိုးမြှင့်မှုကို ပေးသည်။ Hacker News စာဖတ်သူတွေက စက်ရုံစမ်းသပ်မှုနဲ့ ယုံကြည်စိတ်ချရမှုကို မေးခွန်းထုတ်ခဲ့ကြပါတယ်။ သူတို့ရဲ့ ပြိုင်ဆိုင်နေတဲ့ သီအိုရီတွေက လွတ်လပ်တဲ့ ပြန်လည်ထုတ်လုပ်မှုကို မပေးနိုင်ပါဘူး။ အင်ဂျင်နီယာပညာကို ကျွန်တော်တန်ဖိုးထားနိုင်ပြီး ကျွန်တော်အရေးကြီးတဲ့ အလုပ်တစ်ခုအတွက် ဟာ့ဒ်ဝဲကို မယုံကြည်ခင်မှာ အလုပ်ဝန်တိုင်းတာမှုတွေနဲ့ တာရှည်တည်ငြိမ်မှု စမ်းသပ်မှုတွေ လိုချင်နေဆဲပါပဲ။ အင်ဂျင်နီယာပညာကို ကျွန်တော်တန်ဖိုးထားနိုင်ပြီး ကျွန်တော်အရေးကြီးတဲ့ အလုပ်တစ်ခုအတွက် ဟာ့ဒ်ဝဲကို မယုံကြည်ခင်မှာ အလုပ်ဝန်တိုင်းတာမှုတွေနဲ့ တာရှည်တည်ငြိမ်မှု စမ်းသပ်မှုတွေ လိုချင်နေဆဲပါပဲ။ အပိုအသုံးပြုနိုင်သော မမ်မိုရီသည် မော်ဒယ်တစ်ခု ကတ်ပေါ်တွင် အံဝင်ခွင်ကျဖြစ်မဖြစ် ဆုံးဖြတ်နိုင်သည်။
ထောက်ပံ့ပေးထားတဲ့ အရှိန်မြှင့်စက်နဲ့ ဘာတွေကွဲပြားနေသေးလဲ။
3:30 မြန်နှုန်းသည်လည်း အလုပ်ဝန်နှင့် စနစ်မှတစ်ဆင့် ဒေတာများ ရွှေ့ပြောင်းခြင်းပေါ် မူတည်သည်။ ဒီဆောင်းပါးက ထိန်းချုပ်ထားတဲ့ တစ်စက္ကန့်ကို token နှိုင်းယှဉ်မှု မပေးထားပါဘူး။ မော်ဒယ်စွမ်းဆောင်ရည်၊ ဂဏန်းသင်္ချာ အထွက်နှုန်းနှင့် အပလီကေးရှင်း စွမ်းဆောင်ရည်တို့ကို သီးခြားစီ အကဲဖြတ်ပါ။ ကိတ်က ပုံနှင့် ဗီဒီယို ကုဒ်ပြောင်းလဲခြင်း အင်္ဂါရပ်များနှင့် multi-instance GPU mode များကို တိတိကျကျ မစမ်းသပ်ထားကြောင်း ပြောကြားခဲ့သည်။ ကိတ်က ပုံနှင့် ဗီဒီယို ကုဒ်ပြောင်းလဲခြင်း အင်္ဂါရပ်များနှင့် multi-instance GPU mode များကို တိတိကျကျ မစမ်းသပ်ထားကြောင်း ပြောကြားခဲ့သည်။ interconnect နဲ့ ပိုမြန်တဲ့ PCI Express ချိတ်ဆက်မှုတွေအတွက် နောက်ထပ်ပြောင်းလဲမှုတွေ လိုအပ်ပါတယ်။ ဘုတ်အဖွဲ့၊ firmware နှင့် လုပ်ငန်းဆောင်တာ ဟာ့ဒ်ဝဲတို့သည် အသုံးပြုနိုင်မည့် အရာများကို ဆုံးဖြတ်နေဆဲဖြစ်သည်။ ကိတ်က ရှာဖွေတွေ့ရှိချက်များကို ထုတ်ဝေခြင်းမပြုမီ Nvidia ၏ ထုတ်ကုန်လုံခြုံရေးအဖွဲ့သို့ ပေးပို့ခဲ့သည်ဟု ဆိုသည်။
3:58 အဆိုပါအားနည်းချက်ကို လွတ်လပ်စွာ ရှာဖွေတွေ့ရှိခဲ့သော အခြားသုတေသီတစ်ဦးအား ထို post မှ ချီးကျူးဂုဏ်ပြုခဲ့သည်။ ကျွန်ုပ်တို့သည် Nvidia ၏ အများပြည်သူဆိုင်ရာ တုံ့ပြန်မှု သို့မဟုတ် ပြုပြင်ထားသည်များကို ဤနေရာတွင် စစ်ဆေးအတည်ပြုခြင်း သို့မဟုတ် စမ်းသပ်ခြင်း မပြုလုပ်ခဲ့ပါ။ အမြဲတမ်း ဖွဲ့စည်းမှု ပြောင်းလဲမှုများသည် ဟာ့ဒ်ဝဲကို အမြဲတမ်း ပိတ်ဆို့ထားနိုင်သည်။ အောင်မြင်သော သော့ဖွင့်မှုတစ်ခုသည် အအေးခံစနစ်၊ ပါဝါနှင့် ယုံကြည်စိတ်ချရမှုတို့ကို အကဲဖြတ်ရန် ကျန်ရှိနေသေးသည်။ ရောင်းချသူတစ်ဦး၏ ခမ်းနားထည်ဝါသော ခေါင်းစီးသည် နမူနာတစ်ခုအကြောင်း ပြောဆိုချက်ဖြစ်သည်။ စွမ်းဆောင်ရည် ဖန်သားပြင်ဓာတ်ပုံက သင့်ကို စစ်ဆေးဖို့အတွက် အစပျိုးပေးပါလိမ့်မယ်။
ဘာကြောင့် ကတ်တစ်ကတ်က အပိုမမ်မိုရီ မရရှိခဲ့တာလဲ။
4:19 အခု အခမဲ့ အဆင့်မြှင့်တင်မှု စိတ်ကူးယဉ်မှုကို ဖျက်ဆီးတဲ့ ကတ်ကတော့ ကိတ်မှာ ဂစ်ဂါဘိုက် ၆၄ ပဲ အပြည့်အစုံရှိတဲ့ တစ်ခုရှိခဲ့ပါတယ်။ ဟာ့ဒ်ဝဲ သော့ဖွင့်ခြင်းက ဆော့ဖ်ဝဲလ် သော့ဖွင့်ခြင်းထက် မမ်မိုရီ အားသာချက်ကို မပေးခဲ့ပါဘူး။ ကန့်သတ်ချက်က ပြောင်းသွားတယ်၊ ပျက်စီးနေတဲ့ ဟာ့ဒ်ဝဲကတော့ ပျက်စီးနေတုန်းပါပဲ။ ဒါကတော့ အသုံးဝင်တဲ့ ဝယ်ယူမှု သင်ခန်းစာပါပဲ။ ရုပ်ပိုင်းဆိုင်ရာ ထည့်သွင်းထားသော စွမ်းဆောင်ရည်နှင့် ယုံကြည်စိတ်ချစွာ အသုံးပြုနိုင်သော စွမ်းဆောင်ရည်တို့သည် အလွန်ကွဲပြားသော ကိန်းဂဏန်းများ ဖြစ်နိုင်သည်။ ကျွန်တော်ပြောတာကို နားထောင်မယ့်အစား ဖတ်ချင်တယ်ဆိုရင်တော့ အပြောင်းအလဲက မင်းရဲ့ inbox ထဲကို နေ့တိုင်း မနက်တိုင်းရောက်လာတယ်၊ dailydiff.dev မှာ အခမဲ့၊
4:42 အောက်မှာ link ပေးထားပါတယ်။ ဒီတော့ ဒီနေ့ရဲ့ စီရင်ချက်ကတော့ NEEDS REVIEW ပါ။
သော့ဖွင့်မှုအပေါ် စီရင်ချက်က ဘာလဲ။
4:44 ကျွန်တော် လွတ်လပ်တဲ့ အလုပ်ဝန်နဲ့ ပြုပြင်ထားတဲ့ mining card ကို ယုံကြည်စိတ်ချရတဲ့ accelerator အဖြစ် မသတ်မှတ်မီ ယုံကြည်စိတ်ချရမှု စမ်းသပ်မှုတွေ လုပ်ချင်ပါတယ်။ ကိတ်ရဲ့ သုတေသနက ဝှက်ထားတဲ့ ဟာ့ဒ်ဝဲကို နားလည်စေပါတယ်။ ယုံကြည်စိတ်ချရတဲ့ ရလဒ်တစ်ခုကို ဝယ်ယူဖို့အတွက် နောက်ထပ် အထောက်အထားတွေ လိုပါတယ်။ ဒီနေ့အတွက်တော့ ဒါပါပဲ။ ကျွန်တော်က Axrisi က Niko ပါ။ တာဝန်ယူမှုဖြင့် ပေါင်းစည်းပါ။
ရင်းမြစ်များ
- Using voltage glitching to unleash the A100 in my mining cardKate's blog
- NVIDIA Ampere Architecture In-DepthNVIDIA Developer
- OpenCL-BenchmarkProjectPhysX
- GA100VFI research provenanceKate
- Earlier CMPunlocker projectAmogh Munikote
- Integrated circuit having an enhanced fuseless fuse structureNVIDIA patent
- November 11 discussion of Kate's researchHacker News
- Jensen Huang at Stanford, April 30, 2026 — AnderseidesvikWikimedia Commons
- Portrait and complete artwork licence: CC BY-SA 4.0Creative Commons
- Toy Story process-commentary still sourceImgflip / Pixar-Disney media
- Futurama fictional sceptical reaction sourceGiphy / Gifsee
- Futurama GIF linked sourceGifsee



