16 GB VRAM සහිත NVIDIA Tesla V100 GPU කුලියට ගන්න
Cloudj වෙතින් පැයක පදනම මත Tesla V100 cloud GPU servers කුලියට ගන්න: 16 GB VRAM, NVIDIA Volta සහ 12.5 TFLOPS FP32 සමඟ දළ වශයෙන් 780 GB/s memory bandwidth. V100 මඟින් Tensor Cores හඳුන්වා දුන් අතර, 300 W power limit එකක් තුළ FP16 mixed-precision training, පර්යේෂණ ප්‍රතිඵල නැවත තහවුරු කරගැනීම (research reproduction) සහ මධ්‍යම ප්‍රමාණයේ inference සඳහා එය තවමත් විශ්වාසදායී datacenter කාඩ්පතකි. PyTorch template එකක් තෝරාගෙන, එහි CUDA requirement එක පරීක්ෂා කර SSH හරහා සම්බන්ධ වන්න.
Tesla V100 පිරිවිතර
එක් GPU එකක VRAM
16 GB
Architecture
NVIDIA Volta
Compute capability
7
FP32 compute
≈ 12.5 TFLOPS
Memory bandwidth
≈ 780 GB/s
Power limit
300 W
දැනට ලැයිස්තුගත කර ඇති පරිගණක සඳහා infrastructure provider විසින් සපයන ලද අගයන්; සැබෑ කාර්යක්ෂමතාව පරිගණකය අනුව වෙනස් විය හැක.
Live Tesla V100 මානකරන සහ මිල ගණන්
නිරන්තරයෙන් යාවත්කාලීන වන සජීවී තොග සහ මිල ගණන්. අවසාන මිල ඇණවුම් කිරීමට පෙර තහවුරු කරනු ලැබේ.
දැන්ම කුලියට ගන්නTesla V100 cloud GPU එක මත ඔබට ධාවනය කළ හැකි දෑ
FP16 mixed-precision training
Volta Tensor Cores මඟින් CNNs, කුඩා transformers සහ speech models සඳහා වන FP16 training කටයුතු වේගවත් කරයි.
ප්‍රකාශිත පර්යේෂණ ප්‍රතිඵල නැවත තහවුරු කරගැනීම (Reproduce published results)
බොහෝ පර්යේෂණ පත්‍රිකා සහ baselines පුහුණු කර ඇත්තේ V100 මත ය; සංසන්දනාත්මක දත්ත ලබාගැනීමට එම architecture එක මතම ඒවා නැවත ධාවනය කරන්න.
Quantized 7B LLMs
16 GB මඟින් පරීක්ෂණ සහ සැහැල්ලු serving කටයුතු සඳහා 7B–8B models 8-bit ලෙස හෝ 13B-class models 4-bit ලෙස ධාවනය කළ හැක.
HPC සහ විද්‍යාත්මක පරිගණක කටයුතු (HPC and scientific computing)
780 GB/s ක bandwidth ප්‍රමාණය simulations, solvers සහ memory-bound විද්‍යාත්මක කේතයන්ට බෙහෙවින් උපකාරී වේ.
Tesla V100 ඔබගේ කාර්යභාරයට වඩාත්ම ගැළපෙන GPU එකද?
අලුත්ම datacenter hardware සඳහා වැඩි මුදලක් නොගෙවා, කුඩා හා මධ්‍යම ප්‍රමාණයේ models සහ විද්‍යාත්මක කාර්යයන් සඳහා ඉහළ memory bandwidth එකක් අවශ්ය පර්යේෂකයන්ට සහ developers හට 16 GB Tesla V100 වඩාත් සුදුසු වේ. අඩු මතක අවශ්‍යතා සහිත මූලික සංවර්ධන කටයුතු සඳහා කුඩා consumer GPU එකක් තෝරාගන්න, නැතහොත් ඔබගේ models 16 GB සීමාව ඉක්මවන්නේ නම් හෝ compute capability 7.0 ට ඔබ්බෙන් වූ නවීන architectural features අවශ්ය නම් විශාල VRAM සහිත නව පරම්පරාවේ GPU එකකට මාරු වන්න.
Tesla V100 සහ සමාන cloud GPU සංසන්දනය
| GPU | එක් GPU එකක VRAM | FP32 compute | Power limit | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | විස්තර බලන්න → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | විස්තර බලන්න → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | විස්තර බලන්න → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | විස්තර බලන්න → |
Tesla V100 cloud GPU: නිතර අසන ප්‍රශ්න
පැයක පදනම මත Tesla V100 cloud GPU කුලියට ගන්න
Template එකක් තෝරා, live configuration එකක් තෝරාගෙන SSH හෝ browser terminal හරහා සම්බන්ධ වන්න. ඔබ GPU එක delete කළ සැණින් බිල්පත් අයකිරීම නතර වේ.