Er L4 hurtig nok til LLM-chat?

Til 7B–14B-modeller, ja. Dens hukommelsesbåndbredde på 221 GB/s begrænser tokens pr. sekund sammenlignet med en RTX 4090 eller A100, så den egner sig bedre til let samtidighed og batch-arbejde frem for servering ved høj trafik.

L4 vs RTX 4090: Hvilken bør jeg leje?

RTX 4090 er angivet med 24 GB, 81.4 TFLOPS og 879 GB/s, så den er meget hurtigere. L4 er datacenter- og lavstrømsløsningen (72 W) med 22 GB, som er velegnet, når kravene til gennemstrømning er moderate.

Kan L4 køre Stable Diffusion og Flux?

Ja. SD 1.5 og SDXL kører fint, og Flux kører i FP8- eller kvantiseret GGUF-format. Forvent langsommere billedgenerering end på high-end Ada-kort, da FP32 ligger på cirka 24.2 TFLOPS.

Hvordan afregner Cloudj en L4-server?

Pr. time, mens den kører, via din kontosaldo, eller på månedsbasis eller længere cyklusser med eventuelle rabatter vist før betaling. En stoppet timeafregnet server faktureres udelukkende for sin disk.

GPU Cloud · NVIDIA · Ada Lovelace

Lej en NVIDIA L4 GPU med 22 GB VRAM

Lej L4 cloud GPU-servere på timebasis hos Cloudj: 22 GB VRAM, Ada Lovelace-arkitektur og cirka 24.2 TFLOPS FP32 ved en strømgrænse på blot 72 W. Den er ideel til udviklere, der kører effektiv inferens, transskribering, embeddings og video-pipelines, og som ønsker mere hukommelse end et 8–16 GB-kort uden at betale for en flagskibsmodel. Start ud fra en PyTorch-, vLLM- eller Ollama-skabelon, og opret forbindelse via SSH.

Lej L4 Alle GPU'er

L4-specifikationer

VRAM pr. GPU

22 GB

Arkitektur

NVIDIA Ada Lovelace

Compute capability

8.9

FP32-ydelse

≈ 24.2 TFLOPS

Hukommelsesbåndbredde

≈ 221 GB/s

Effektgrænse

72 W

Værdier oplyst af infrastrukturudbyderen for aktuelt listede maskiner; den faktiske ydeevne kan variere fra maskine til maskine.

Live L4-konfigurationer og priser

Live lagerstatus og priser, opdateres løbende. Den endelige pris bekræftes, inden du bestiller.

Lej nu

Hvad du kan køre på L4 cloud-GPU'en

7B–8B LLM'er i 16-bit

22 GB har plads til en 8B-model i 16-bit eller en kvantiseret 13B–14B-model til chatbots, agenter og interne API'er.

Tale-til-tekst og embeddings

Kør Whisper-lignende transskribering, rerankere og embedding-modeller døgnet rundt på et strømbesparende kort.

SDXL-billedgenerering

ComfyUI med SDXL og Flux i FP8- eller GGUF-format passer uden problemer i 22 GB.

Always-on inferens-endpoints

En strømgrænse på 72 W gør L4 til et fornuftigt kort til mindre tjenester, der skal køre stabilt frem for i korte spidsbelastninger.

Er L4 den rette GPU til dit workload?

Vælg L4, når du har brug for 22 GB VRAM og Ada Lovelace compute capability 8.9 til inferens eller moderate træningsopgaver. Skift til en større datacenter-GPU, hvis dine modeller overstiger 22 GB eller kræver mere end cirka 221 GB/s hukommelsesbåndbredde, eller vælg et mindre kort til grundlæggende udviklingsopgaver, der kræver mindre hukommelse.

L4 vs. lignende cloud-GPU'er

GPU	VRAM pr. GPU	FP32-ydelse	Effektgrænse
NVIDIA L4	22 GB	≈ 24.2 TFLOPS	72 W
NVIDIA Tesla P40	24 GB	≈ 9.4 TFLOPS	250 W	Se detaljer →
NVIDIA Tesla V100	16 GB	≈ 12.5 TFLOPS	300 W	Se detaljer →
NVIDIA A100 PCIE	40 GB	≈ 15.6 TFLOPS	250 W	Se detaljer →
NVIDIA A100 SXM4	40 GB	≈ 15.6 TFLOPS	400 W	Se detaljer →

L4 cloud-GPU: Ofte stillede spørgsmål

Lej L4 cloud-GPU på timebasis

Vælg en skabelon, vælg en live-konfiguration, og opret forbindelse via SSH eller browserterminalen. Afregningen stopper, når du sletter din GPU.

Lej L4 Alle GPU'er