Īrē NVIDIA L4 GPU ar 22 GB VRAM
Nomājiet L4 mākoņa GPU serverus ar stundas apmaksu platformā Cloudj: 22 GB VRAM, Ada Lovelace arhitektūra un aptuveni 24.2 TFLOPS FP32 veiktspēja ar tikai 72 W jaudas limitu. Tas ir lieliski piemērots izstrādātājiem, kuri nodrošina efektīvu inferenci, transkripciju, iegulšanu (embeddings) un video apstrādes plūsmas un vēlas lielāku atmiņu nekā 8–16 GB kartēm, nepārmaksājot par vadošajiem modeļiem. Sāciet darbu no PyTorch, vLLM vai Ollama veidnes un pieslēdzieties, izmantojot SSH.
L4 specifikācijas
VRAM katrai GPU
22 GB
Arhitektūra
NVIDIA Ada Lovelace
Skaitļošanas spēja
8.9
FP32 veiktspēja
≈ 24.2 TFLOPS
Atmiņas joslas platums
≈ 221 GB/s
Jaudas limits
72 W
Vērtības, ko infrastruktūras nodrošinātājs norādījis pašlaik sarakstā esošajām iekārtām; faktiskā veiktspēja var atšķirties atkarībā no mašīnas.
Aktuālās L4 konfigurācijas un cenas
Pieejamība un cenas reāllaikā, tiek atjauninātas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Iznomāt tūlītKo var darbināt uz L4 mākoņa GPU
7B–8B LLM modeļi 16 bitos
22 GB nodrošina vietu 8B modelim 16 bitos vai kvantētam 13B–14B modelim tērzēšanas robotiem, aģentiem un iekšējiem API.
Balss pārvēršana tekstā un iegulšana (embeddings)
Darbiniet Whisper stila transkripciju, pārrindotājus un iegulšanas modeļus visu diennakti uz zema enerģijas patēriņa kartes.
SDXL attēlu ģenerēšana
ComfyUI ar SDXL un Flux FP8 vai GGUF formātā brīvi ietilpst 22 GB atmiņā.
Pastāvīgi aktīvi inferences galapunkti
72 W enerģijas patēriņa limits padara L4 par racionālu izvēli nelieliem pakalpojumiem, kuriem nepieciešama nepārtraukta darbība, nevis īslaicīgi jaudas uzplūdi.
Vai L4 ir piemērotākais GPU jūsu darba slodzei?
Izvēlieties L4, ja nepieciešama 22 GB VRAM un Ada Lovelace skaitļošanas jauda 8.9 inferencei vai mērenām trenēšanas slodzēm. Pārejiet uz lielāku datu centra GPU, ja jūsu modeļi pārsniedz 22 GB vai tiem nepieciešams lielāks atmiņas joslas platums par aptuveni 221 GB/s, vai izvēlieties mazāku karti pamata izstrādes uzdevumiem ar mazākām atmiņas prasībām.
L4 salīdzinājumā ar līdzīgiem mākoņa GPU
L4 mākoņa GPU: biežāk uzdotie jautājumi
Nomājiet L4 mākoņa GPU pa stundām
Izvēlieties sagatavi, atlasiet pieejamo konfigurāciju un pieslēdzieties caur SSH vai pārlūka termināli. Apmaksa tiek apturēta, kad izdzēšat GPU.