Rendi NVIDIA L4 GPU 22 GB VRAM-iga
Rendi L4 GPU pilveservereid tunnitasuga platvormil Cloudj: 22 GB VRAM-i, Ada Lovelace arhitektuur ja ligikaudu 24.2 TFLOPS FP32 jõudlust kõigest 72 W võimsuspiirangu juures. See sobib suurepäraselt arendajatele tõhusaks inferentsiks, transkriptsiooniks, sängitusteks ja videotöötluseks, kes vajavad 8–16 GB kaardist enamat mälu ilma tippklassi mudeli eest üle maksmata. Alusta PyTorch, vLLM või Ollama mallist ja loo ühendus üle SSH.
L4 tehnilised andmed
VRAM GPU kohta
22 GB
Arhitektuur
NVIDIA Ada Lovelace
Arvutusvõimekus (compute capability)
8.9
FP32 arvutusjõudlus
≈ 24.2 TFLOPS
Mälu ribalaius
≈ 221 GB/s
Võimsuspiirang
72 W
Väärtused põhinevad taristupakkuja andmetel hetkel nimekirjas olevate masinate kohta; tegelik jõudlus võib masinati erineda.
Reaalajas L4 konfiguratsioonid ja hinnad
Reaalajas saadavus ja hinnad uuenevad pidevalt. Lõplikku hinda kinnitatakse enne tellimuse esitamist.
Rendi koheMida saab käitada L4 pilve-GPU-l
7B–8B LLM-id 16-bitisena
22 GB mahutab 8B mudeli 16-bitisena või kvanditud 13B–14B mudeli vestlusrobotite, agentide ja sise-API-de jaoks.
Kõnetuvastus ja sängitused
Käita Whisper-tüüpi transkriptsiooni, ümberjärjestajaid ja sängitusmudeleid ööpäevaringselt madala energiatarbega kaardil.
SDXL pildiloome
ComfyUI koos SDXL-i ja Fluxiga FP8 või GGUF formaadis mahub mugavalt 22 GB sisse.
Pidevalt töös inferentsi lõpp-punktid
72 W võimsuspiirang teeb L4-st mõistliku kaardi väiketeenustele, mis peavad olema pidevalt kättesaadavad, mitte lühiajaliselt koormatud.
Kas L4 on sinu töökoormusele õige GPU?
Vali L4, kui vajad 22 GB VRAM-i ja Ada Lovelace arvutusvõimekust 8.9 inferentsiks või mõõdukaks treeningkoormuseks. Liigu suurema andmekeskuse GPU juurde, kui mudelid ületavad 22 GB või vajavad suuremat mäluribalaiust kui umbes 221 GB/s, või vali väiksem kaart lihtsateks arendustöödeks, mis nõuavad vähem mälu.
L4 vs sarnased pilve-GPU-d
| GPU | VRAM GPU kohta | FP32 arvutusjõudlus | Võimsuspiirang | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Vaata lähemalt → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Vaata lähemalt → |
L4 pilve-GPU: korduma kippuvad küsimused
Rendi L4 pilve-GPU tunnikaupa
Vali mall, vali reaalajas konfiguratsioon ja ühendu SSH või brauseriterminali kaudu. Arveldus peatub, kui GPU kustutad.