Najemite GPU NVIDIA L4 z 22 GB VRAM
Najemite L4 GPU strežnike v oblaku na uro pri Cloudj: 22 GB VRAM, arhitektura Ada Lovelace in približno 24.2 TFLOPS FP32 pri porabi le 72 W. Odlična izbira za razvijalce, ki poganjajo učinkovito sklepanje (inference), transkripcijo, vdelave in video procesne verige ter želijo več pomnilnika kot pri 8–16 GB kartici, ne da bi plačevali za najdražje modele. Začnite s predlogo za PyTorch, vLLM ali Ollama in se povežite prek SSH.
Specifikacije za L4
VRAM na GPU
22 GB
Arhitektura
NVIDIA Ada Lovelace
Računska zmogljivost
8.9
Zmogljivost FP32
≈ 24.2 TFLOPS
Prepustnost pomnilnika
≈ 221 GB/s
Omejitev porabe
72 W
Vrednosti, ki jih navaja ponudnik infrastrukture za trenutno navedene strežnike; dejanska zmogljivost se lahko razlikuje glede na sistem.
Aktivne konfiguracije in cene za L4
Zaloga in cene v živo, ki se nenehno posodabljajo. Končna cena je potrjena pred naročilom.
Najemite zdajKaj lahko poganjate na oblačnem GPU-ju L4
7B–8B LLM-ji v 16-bitni natančnosti
22 GB zadostuje za 8B model v 16-bitni natančnosti ali kvantiziran 13B–14B model za klepetalne bote, agente in interne API-je.
Pretvorba govora v besedilo in vdelave
Poganjajte transkripcijo v slogu Whisper, modele za prerazvrščanje in vdelovalne modele 24 ur na dan na kartici z nizko porabo energije.
Generiranje slik z SDXL
ComfyUI z SDXL in Flux v obliki FP8 ali GGUF se brez težav prilega v 22 GB.
Vedno aktivne končne točke za sklepanje
Omejitev porabe na 72 W dela L4 zelo smiselno kartico za manjše storitve, ki morajo delovati neprekinjeno in ne le v sunkih.
Je L4 pravi GPU za vaše delovne obremenitve?
Izberite L4, ko potrebujete 22 GB VRAM in računsko zmogljivost Ada Lovelace 8.9 za sklepanje ali zmerne obremenitve pri učenju modelov. Preidite na večji podatkovnocentrični GPU, če vaši modeli presegajo 22 GB ali zahtevajo več kot približno 221 GB/s pasovne širine pomnilnika, ali pa izberite manjšo kartico za osnovne razvojne naloge, ki zahtevajo manj pomnilnika.
L4 v primerjavi s podobnimi oblačnimi GPU-ji
| GPU | VRAM na GPU | Zmogljivost FP32 | Omejitev porabe | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Podrobnosti → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Podrobnosti → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Podrobnosti → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Podrobnosti → |
Oblačni GPU L4: pogosta vprašanja
Najemite oblačni GPU L4 na uro
Izberite predlogo, izberite aktivno konfiguracijo in se povežite prek SSH ali terminala v brskalniku. Obračunavanje se ustavi, ko izbrišete GPU.