16 GB VRAM ပါရှိသော NVIDIA Tesla V100 GPU ကို ငှားရမ်းပါ
Tesla V100 cloud GPU server များကို Cloudj တွင် နာရီအလိုက် ငှားရမ်းအသုံးပြုလိုက်ပါ - 16 GB VRAM၊ NVIDIA Volta နှင့် 12.5 TFLOPS FP32 စွမ်းဆောင်ရည်ပါဝင်ပြီး memory bandwidth 780 GB/s ခန့် ရရှိနိုင်ပါသည်။ V100 သည် Tensor Cores စတင်မိတ်ဆက်ခဲ့သည့် ကတ်ဖြစ်ပြီး 300 W power limit အတွင်း FP16 mixed-precision training၊ သုတေသနရလဒ်များ ပြန်လည်စမ်းသပ်ထုတ်ယူခြင်း (research reproduction) နှင့် အလယ်အလတ်အရွယ်အစား inference များအတွက် ယုံကြည်စိတ်ချရသည့် datacenter ကတ်တစ်ခုအဖြစ် ဆက်လက်တည်ရှိနေဆဲဖြစ်ပါသည်။ မိမိစိတ်ကြိုက် PyTorch template ကို ရွေးချယ်ပါ၊ လိုအပ်သည့် CUDA ဗားရှင်းကို စစ်ဆေးပြီး SSH ဖြင့် ချက်ချင်း ချိတ်ဆက်အသုံးပြုလိုက်ပါ။
Tesla V100 အသေးစိတ် သတ်မှတ်ချက်များ
GPU တစ်ခုလျှင် VRAM
16 GB
Architecture
NVIDIA Volta
Compute capability
7
FP32 compute
≈ 12.5 TFLOPS
Memory bandwidth
≈ 780 GB/s
Power limit
300 W
လက်ရှိဖော်ပြထားသော စက်များအတွက် infrastructure provider မှ ပေးပို့ထားသော အချက်အလက်များဖြစ်ပြီး လက်တွေ့စွမ်းဆောင်ရည်သည် စက်အလိုက် အနည်းငယ် ကွာခြားနိုင်ပါသည်။
လက်ရှိရရှိနိုင်သော Tesla V100 configurations များနှင့် ဈေးနှုန်းများ
Live stock နှင့် ဈေးနှုန်းများကို အချိန်နှင့်တစ်ပြေးညီ စဉ်ဆက်မပြတ် update လုပ်ပေးနေပါသည်။ နောက်ဆုံးကျသင့်မည့် ဈေးနှုန်းကို အော်ဒါမတင်မီ အတည်ပြုပေးပါမည်။
ချက်ချင်းငှားမည်Tesla V100 cloud GPU ပေါ်တွင် သင် run နိုင်သည့် အရာများ
FP16 mixed-precision training ပြုလုပ်ခြင်း
Volta Tensor Cores များသည် CNNs၊ transformer အသေးစားများနှင့် speech model များအတွက် FP16 training အရှိန်ကို မြှင့်တင်ပေးပါသည်။
ထုတ်ဝေထားသော သုတေသနရလဒ်များကို ပြန်လည်စမ်းသပ်ထုတ်ယူခြင်း
စာတမ်းနှင့် baseline အများအပြားကို V100 များပေါ်တွင် train ထားခြင်းဖြစ်သောကြောင့် တူညီသော architecture ပေါ်တွင် ပြန်လည် run ပြီး နှိုင်းယှဉ်နိုင်သော ကိန်းဂဏန်းရလဒ်များ ထုတ်ယူနိုင်ပါသည်။
Quantized ပြုလုပ်ထားသော 7B LLM များ
စမ်းသပ်မှုများနှင့် အပေါ့စား serving အတွက် 16 GB ပေါ်တွင် 7B–8B model များကို 8-bit ဖြင့်လည်းကောင်း၊ 13B အဆင့် model များကို 4-bit ဖြင့်လည်းကောင်း run နိုင်ပါသည်။
HPC နှင့် သိပ္ပံနည်းကျ တွက်ချက်မှုများ
780 GB/s ရှိသော bandwidth သည် simulation များ၊ solver များနှင့် memory ပမာဏအဓိကလိုအပ်သော scientific code များအတွက် အထူးအထောက်အကူပြုပါသည်။
Tesla V100 သည် သင့် workload အတွက် အသင့်တော်ဆုံး GPU ဟုတ်ပါသလား။
16 GB Tesla V100 သည် datacenter ဟာ့ဒ်ဝဲအသစ်များအတွက် ကုန်ကျစရိတ်ကြီးကြီးမားမား မပေးလိုဘဲ၊ သေးငယ်မှ အလယ်အလတ် model များနှင့် သိပ္ပံဆိုင်ရာလုပ်ငန်းများအတွက် memory bandwidth မြင့်မြင့်မားမား လိုအပ်သော သုတေသီများနှင့် developer များအတွက် အထူးသင့်လျော်ပါသည်။ memory သိပ်မလိုသော အခြေခံ development အတွက် သေးငယ်သည့် consumer GPU ကို ရွေးချယ်နိုင်ပြီး၊ သင့် model သည် 16 GB ထက်ကျော်လွန်ပါက သို့မဟုတ် compute capability 7.0 ထက် ပိုမြင့်သော architecture feature အသစ်များ လိုအပ်ပါက VRAM ပိုကြီးသည့် မျိုးဆက်သစ် GPU သို့ အဆင့်မြှင့်တင် အသုံးပြုနိုင်ပါသည်။
Tesla V100 နှင့် အလားတူ cloud GPU များ နှိုင်းယှဉ်ချက်
| GPU | GPU တစ်ခုလျှင် VRAM | FP32 compute | Power limit | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | အသေးစိတ် → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | အသေးစိတ် → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | အသေးစိတ် → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | အသေးစိတ် → |
Tesla V100 cloud GPU - မကြာခဏ မေးလေ့ရှိသော မေးခွန်းများ
Tesla V100 cloud GPU ကို နာရီအလိုက် ငှားရမ်းသုံးစွဲပါ
Template တစ်ခုကို ရွေးပါ၊ လက်ရှိရရှိနိုင်သော configuration ကို ရွေးချယ်ပြီး SSH သို့မဟုတ် browser terminal မှတစ်ဆင့် ချိတ်ဆက်လိုက်ပါ။ GPU ကို delete လုပ်လိုက်သည်နှင့် ကျသင့်ငွေ ဖြတ်တောက်မှု ချက်ချင်း ရပ်တန့်သွားပါမည်။