အဓိကအကြောင်းအရာသို့ ကျော်သွားရန်
Cloudj
GPU Cloud · NVIDIA · Pascal

24 GB VRAM ပါရှိသော NVIDIA Tesla P40 GPU ကို ငှားရမ်းပါ

Cloudj တွင် Tesla P40 cloud GPU server များကို တစ်နာရီချင်း ငှားရမ်းအသုံးပြုပါ - NVIDIA Pascal ဗိသုကာသုံး 24 GB VRAM၊ 9.4 TFLOPS FP32 ခန့်နှင့် 257 GB/s memory bandwidth ပါဝင်ပါသည်။ 250 W power limit ဖြင့် quantized LLM inference၊ ကိုယ်ပိုင် hobby project များနှင့် classic CUDA လုပ်ဆောင်ချက်များအတွက် 24 GB memory ကို အကုန်အကျသက်သာစွာ ရယူအသုံးပြုနိုင်မည့် နည်းလမ်းဖြစ်ပါသည်။ template ၏ CUDA သတ်မှတ်ချက်ကို စစ်ဆေးပါ၊ Ollama သို့မဟုတ် PyTorch image ဖြင့် စတင်ပြီး SSH မှတစ်ဆင့် ချိတ်ဆက်လိုက်ပါ။

Tesla P40 အသေးစိတ် သတ်မှတ်ချက်များ

GPU တစ်ခုလျှင် VRAM

24 GB

Architecture

NVIDIA Pascal

Compute capability

6.1

FP32 compute

≈ 9.4 TFLOPS

Memory bandwidth

≈ 257 GB/s

Power limit

250 W

လက်ရှိဖော်ပြထားသော စက်များအတွက် infrastructure provider မှ ပေးပို့ထားသော အချက်အလက်များဖြစ်ပြီး လက်တွေ့စွမ်းဆောင်ရည်သည် စက်အလိုက် အနည်းငယ် ကွာခြားနိုင်ပါသည်။

လက်ရှိရရှိနိုင်သော Tesla P40 configurations များနှင့် ဈေးနှုန်းများ

Live stock နှင့် ဈေးနှုန်းများကို အချိန်နှင့်တစ်ပြေးညီ စဉ်ဆက်မပြတ် update လုပ်ပေးနေပါသည်။ နောက်ဆုံးကျသင့်မည့် ဈေးနှုန်းကို အော်ဒါမတင်မီ အတည်ပြုပေးပါမည်။

ချက်ချင်းငှားမည်

Tesla P40 cloud GPU ပေါ်တွင် သင် run နိုင်သည့် အရာများ

Ollama ဖြင့် Quantized LLM များ အသုံးပြုခြင်း

24 GB ပမာဏသည် 4-bit ဖြင့် 30B parameters ဝန်းကျင်အထိရှိသော GGUF model များကို အဆင်ပြေစွာ run နိုင်ပြီး ယနေ့ခေတ်တွင် P40 အတွက် အကောင်းဆုံး အသုံးချမှုဖြစ်ပါသည်။

သီးသန့် Private chat နှင့် RAG prototype များ ဖန်တီးခြင်း

ဒေတာများကို ပြင်ပ API သို့ ပေးပို့စရာမလိုဘဲ သင့်စာရွက်စာတမ်းများအတွက် private assistant အဖြစ် Ollama ကို Open WebUI နှင့် တွဲဖက် run ပါ။

Classic FP32 လုပ်ဆောင်ချက်များ

Tensor Cores အပေါ် မမှီခိုသော ယခင် CUDA code များ၊ simulation များနှင့် FP32 training များကို run ပါ။

လေ့လာသင်ယူခြင်းနှင့် သင်ရိုးလက်တွေ့လေ့ကျင့်မှုများ

စမ်းသပ်မှုအသေးစားများအတွက် 24 GB memory ဖြင့် GPU server များ၊ driver များနှင့် CUDA ကို လက်တွေ့ ကိုင်တွယ်အသုံးပြုလေ့လာပါ။

Tesla P40 သည် သင့် workload အတွက် အသင့်တော်ဆုံး GPU ဟုတ်ပါသလား။

Pascal compute အဟောင်းဖြင့် လုံလောက်ပြီး memory အများအပြားလိုအပ်သော inference သို့မဟုတ် development လုပ်ငန်းများအတွက် 24 GB VRAM သည် အဓိကလိုအပ်ချက်ဖြစ်ပါက Tesla P40 ကို ရွေးချယ်ပါ။ လေးလံသော training များအတွက် memory bandwidth ပိုမိုမြင့်မားရန် သို့မဟုတ် ခေတ်မီ tensor acceleration လိုအပ်ပါက ပိုမိုသစ်လွင်/ကြီးမားသော GPU ကို ရွေးချယ်ပါ၊ သင့်လုပ်ငန်းစဉ်သည် memory အနည်းငယ်သာ သုံးပါက ပိုမိုသေးငယ်သော GPU ကို ရွေးချယ်ပါ။

Tesla P40 နှင့် အလားတူ cloud GPU များ နှိုင်းယှဉ်ချက်

GPUGPU တစ်ခုလျှင် VRAMFP32 computePower limit
NVIDIA Tesla P4024 GB≈ 9.4 TFLOPS250 W
NVIDIA L422 GB≈ 24.2 TFLOPS72 Wအသေးစိတ် →
NVIDIA Tesla V10016 GB≈ 12.5 TFLOPS300 Wအသေးစိတ် →
NVIDIA A100 PCIE40 GB≈ 15.6 TFLOPS250 Wအသေးစိတ် →
NVIDIA A100 SXM440 GB≈ 15.6 TFLOPS400 Wအသေးစိတ် →

Tesla P40 cloud GPU - မကြာခဏ မေးလေ့ရှိသော မေးခွန်းများ

Tesla P40 cloud GPU ကို နာရီအလိုက် ငှားရမ်းသုံးစွဲပါ

Template တစ်ခုကို ရွေးပါ၊ လက်ရှိရရှိနိုင်သော configuration ကို ရွေးချယ်ပြီး SSH သို့မဟုတ် browser terminal မှတစ်ဆင့် ချိတ်ဆက်လိုက်ပါ။ GPU ကို delete လုပ်လိုက်သည်နှင့် ကျသင့်ငွေ ဖြတ်တောက်မှု ချက်ချင်း ရပ်တန့်သွားပါမည်။