Վարձեք NVIDIA L4 GPU 22 GB VRAM-ով
Վարձակալեք L4 ամպային GPU սերվերներ ժամավճարով Cloudj-ում՝ 22 GB VRAM, Ada Lovelace ճարտարապետություն և մոտ 24.2 TFLOPS FP32 ընդամենը 72 W էներգասպառմամբ: Հիանալի լուծում է ծրագրավորողների համար, ովքեր աշխատեցնում են արդյունավետ ինֆերենս (inference), տրանսկրիպցիա, embeddings և վիդեո փայփլայններ ու ցանկանում են ավելի շատ հիշողություն, քան 8–16 GB քարտերում՝ առանց ֆլագմանների համար ավել վճարելու: Գործարկեք PyTorch, vLLM կամ Ollama պատրաստի շաբլոնից և միացեք SSH-ով:
L4-ի տեխնիկական բնութագրերը
VRAM յուրաքանչյուր GPU-ի համար
22 GB
Ճարտարապետություն
NVIDIA Ada Lovelace
Հաշվողական հնարավորություն
8.9
FP32 հաշվարկներ
≈ 24.2 TFLOPS
Հիշողության թողունակություն
≈ 221 GB/s
Էներգասպառման սահմանաչափ
72 W
Ներկայացված մեքենաների համար ենթակառուցվածքի մատակարարի նշած արժեքները. իրական արտադրողականությունը կարող է տարբերվել ըստ մեքենայի:
Առկա L4 կոնֆիգուրացիաներ և գներ
Առկայություն և գներ իրական ժամանակում՝ մշտական թարմացմամբ: Վերջնական արժեքը հաստատվում է պատվիրելուց առաջ:
Վարձակալել հիմաԻնչ կարող եք գործարկել L4 ամպային GPU-ով
7B–8B LLM-ներ 16-bit-ով
22 GB-ը տեղավորում է 8B մոդել 16-bit-ով կամ քվանտավորված 13B–14B մոդել չատբոտերի, AI գործակալների և ներքին API-ների համար:
Խոսքի ճանաչում (speech-to-text) և embeddings
Շուրջօրյա աշխատեցրեք Whisper տիպի տրանսկրիպցիա, rerankers և embedding մոդելներ ցածր էներգասպառմամբ քարտի վրա:
SDXL պատկերների գեներացիա
ComfyUI-ն SDXL-ով և Flux-ը FP8 կամ GGUF ֆորմատով հեշտությամբ տեղավորվում են 22 GB-ի մեջ:
Մշտապես ակտիվ (always-on) ինֆերենս էնդփոյնթեր
72 W էներգիայի սահմանաչափը L4-ը դարձնում է խելամիտ քարտ փոքր սերվիսների համար, որոնք պետք է մշտապես հասանելի լինեն, այլ ոչ թե աշխատեն պիկային ծանրաբեռնվածությամբ:
Արդյո՞ք L4-ը ճիշտ GPU է ձեր ծանրաբեռնվածության համար
Ընտրեք L4-ը, երբ ձեզ անհրաժեշտ է 22 GB VRAM և Ada Lovelace compute capability 8.9՝ ինֆերենսի կամ չափավոր training ծանրաբեռնվածությունների համար: Անցեք ավելի հզոր datacenter GPU-ի, եթե ձեր մոդելները գերազանցում են 22 GB-ը կամ պահանջում են ավելի քան մոտ 221 GB/s հիշողության թողունակություն, կամ ընտրեք ավելի փոքր քարտ բազային մշակման առաջադրանքների համար, որոնք ավելի քիչ հիշողություն են պահանջում:
L4-ն ընդդեմ նմանատիպ ամպային GPU-ների
| GPU | VRAM յուրաքանչյուր GPU-ի համար | FP32 հաշվարկներ | Էներգասպառման սահմանաչափ | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Մանրամասներ → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Մանրամասներ → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Մանրամասներ → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Մանրամասներ → |
L4 ամպային GPU. հաճախ տրվող հարցեր
Վարձակալեք L4 ամպային GPU-ն ժամավճարով
Ընտրեք ձևանմուշը, ընտրեք հասանելի կոնֆիգուրացիան և միացեք SSH-ի կամ բրաուզերի տերմինալի միջոցով: Գանձումը դադարում է GPU-ն ջնջելու պահից: