Merrni me qira GPU NVIDIA L4 me 22 GB VRAM
Merrni me qira serverë cloud GPU L4 me orë në Cloudj: 22 GB VRAM, arkitekturë Ada Lovelace dhe rreth 24.2 TFLOPS FP32 me një kufi konsumi prej vetëm 72 W. Është ideale për zhvilluesit që ekzekutojnë inferencë efikase, transkriptim, embeddings dhe pipelines video që duan më shumë memorie se një kartë 8–16 GB pa paguar për një model kryesor. Filloni me një shabllon PyTorch, vLLM ose Ollama dhe lidhuni përmes SSH.
Specifikimet e L4
VRAM për GPU
22 GB
Arkitektura
NVIDIA Ada Lovelace
Aftësia llogaritëse (Compute capability)
8.9
Llogaritje FP32
≈ 24.2 TFLOPS
Gjerësia e bandës së memories
≈ 221 GB/s
Kufiri i konsumit të energjisë
72 W
Vlerat raportohen nga ofruesi i infrastrukturës për makinat aktualisht të listuara; performanca reale ndryshon sipas makinës.
Konfigurimet live të L4 dhe çmimet
Gjendja dhe çmimet në kohë reale, të përditësuara vazhdimisht. Çmimi përfundimtar konfirmohet para porosisë tuaj.
Merr me qira taniÇfarë mund të ekzekutoni në GPU-në cloud L4
LLM 7B–8B në 16-bit
22 GB mban një model 8B në 16-bit ose një model të kuantizuar 13B–14B për chatbot-e, agjentë dhe API të brendshme.
Speech-to-text dhe embeddings
Ekzekutoni transkriptim të stilit Whisper, rerankers dhe modele embeddings 24/7 në një kartë me konsum të ulët energjie.
Gjenerim imazhesh me SDXL
ComfyUI me SDXL dhe Flux në format FP8 ose GGUF përshtatet lehtësisht në 22 GB.
Endpoints inference gjithmonë aktive
Kufiri i konsumit prej 72 W e bën L4 një kartë ideale për shërbime të vogla që duhet të qëndrojnë vazhdimisht aktive dhe jo vetëm me ngarkesa të menjëhershme.
A është L4 GPU-ja e duhur për ngarkesën tuaj të punës?
Zgjidhni L4 kur keni nevojë për 22 GB VRAM dhe aftësi llogaritëse Ada Lovelace 8.9 për inferencë ose ngarkesa mesatare trajnimi. Kaloni në një GPU më të madhe datacenter-i nëse modelet tuaja kalojnë 22 GB ose kërkojnë më shumë se rreth 221 GB/s gjerësi brezi memorieje, ose zgjidhni një kartë më të vogël për detyra bazë zhvillimi që kërkojnë më pak memorie.
L4 kundrejt GPU-ve të ngjashme cloud
GPU cloud L4: pyetjet më të shpeshta
Merrni me qira GPU-në cloud L4 me orë
Zgjidhni një shabllon, zgjidhni një konfigurim live dhe lidhuni përmes SSH ose terminalit të shfletuesit. Faturimi ndërpritet kur fshini GPU-në.