22 GB VRAM සමඟ NVIDIA L4 GPU කුලියට ගන්න
Cloudj වෙතින් පැයක පදනම මත L4 cloud GPU server කුලියට ගන්න: 22 GB VRAM, Ada Lovelace architecture සහ වොට් 72 W බල පරිභෝජනයක් තුළ ආසන්න වශයෙන් 24.2 TFLOPS FP32 කාර්යක්ෂමතාව. flagship කාඩ්පතකට අධික මුදලක් නොගෙවා, 8–16 GB කාඩ්පතකට වඩා වැඩි මතකයක් (memory) සොයන සහ කාර්යක්ෂම inference, transcription, embeddings සහ video pipelines ක්රියාත්මක කරන developers ලා සඳහා මෙය ඉතා කදිමයි. PyTorch, vLLM හෝ Ollama template එකකින් ආරම්භ කර SSH හරහා සම්බන්ධ වන්න.
L4 පිරිවිතර
එක් GPU එකක VRAM
22 GB
Architecture
NVIDIA Ada Lovelace
Compute capability
8.9
FP32 compute
≈ 24.2 TFLOPS
Memory bandwidth
≈ 221 GB/s
Power limit
72 W
දැනට ලැයිස්තුගත කර ඇති පරිගණක සඳහා infrastructure provider විසින් සපයන ලද අගයන්; සැබෑ කාර්යක්ෂමතාව පරිගණකය අනුව වෙනස් විය හැක.
Live L4 මානකරන සහ මිල ගණන්
නිරන්තරයෙන් යාවත්කාලීන වන සජීවී තොග සහ මිල ගණන්. අවසාන මිල ඇණවුම් කිරීමට පෙර තහවුරු කරනු ලැබේ.
දැන්ම කුලියට ගන්නL4 cloud GPU එක මත ඔබට ධාවනය කළ හැකි දෑ
16-bit හි 7B–8B LLM මාදිලි
chatbots, agents සහ අභ්‍යන්තර API සඳහා 22 GB මඟින් 16-bit හි 8B මාදිලියක් හෝ quantized 13B–14B මාදිලියක් පහසුවෙන්ම ධාවනය කළ හැක.
Speech-to-text සහ embeddings
අඩු බලශක්තියක් භාවිත කරන කාඩ්පතක් මත Whisper වර්ගයේ transcription, rerankers සහ embedding මාදිලි පැය 24 පුරාම නොකඩවා ධාවනය කරන්න.
SDXL image generation
SDXL සහ FP8 හෝ GGUF ආකාරයේ Flux සමඟ ComfyUI, 22 GB ධාරිතාවට ඉතා හොඳින් ගැලපේ.
නොකඩවා ක්රියාත්මක වන inference endpoints
72 W බල සීමාව නිසා ක්ෂණික ඉහළ ධාරිතාවන්ට (burst) වඩා නොකඩවා ක්රියාත්මක විය යුතු කුඩා සේවාවන් සඳහා L4 යනු ඉතා සුදුසු කාඩ්පතකි.
L4 ඔබගේ කාර්යභාරයට වඩාත්ම ගැළපෙන GPU එකද?
Inference හෝ මධ්‍යම මට්ටමේ training වැඩකටයුතු සඳහා ඔබට 22 GB VRAM සහ Ada Lovelace compute capability 8.9 අවශ්‍ය විට L4 තෝරාගන්න. ඔබේ මාදිලි 22 GB ඉක්මවන්නේ නම් හෝ ආසන්න වශයෙන් 221 GB/s ට වඩා වැඩි memory bandwidth එකක් අවශ්‍ය නම් විශාල datacenter GPU එකකට මාරු වන්න, නැතහොත් අඩු මතකයක් අවශ්‍ය මූලික සංවර්ධන කාර්යයන් සඳහා කුඩා කාඩ්පතක් තෝරාගන්න.
L4 සහ සමාන cloud GPU සංසන්දනය
| GPU | එක් GPU එකක VRAM | FP32 compute | Power limit | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | විස්තර බලන්න → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | විස්තර බලන්න → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | විස්තර බලන්න → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | විස්තර බලන්න → |
L4 cloud GPU: නිතර අසන ප්‍රශ්න
පැයක පදනම මත L4 cloud GPU කුලියට ගන්න
Template එකක් තෝරා, live configuration එකක් තෝරාගෙන SSH හෝ browser terminal හරහා සම්බන්ධ වන්න. ඔබ GPU එක delete කළ සැණින් බිල්පත් අයකිරීම නතර වේ.