Siirry sisältöön
Cloudj
GPU Cloud · NVIDIA · Ada Lovelace

Vuokraa NVIDIA L4 GPU 22 GB VRAM -muistilla

Vuokraa L4-pilvi-GPU-palvelimia tuntihinnalla palvelussa Cloudj: 22 GB VRAM-muistia, Ada Lovelace -arkkitehtuuri ja noin 24.2 TFLOPS FP32 -tehoa vain 72 W tehonkulutuksella. Se sopii kehittäjille, jotka ajavat tehokasta päättelyä, puheentunnistusta, upotuksia ja videoputkia ja tarvitsevat enemmän muistia kuin 8–16 GB näytönohjaimesta maksamatta lippulaivamallin hintaa. Aloita valmiista PyTorch-, vLLM- tai Ollama-mallipohjasta ja muodosta yhteys SSH:lla.

L4 – tekniset tiedot

VRAM per GPU

22 GB

Arkkitehtuuri

NVIDIA Ada Lovelace

Laskentakyky

8.9

FP32-laskentateho

≈ 24.2 TFLOPS

Muistikaistanleveys

≈ 221 GB/s

Tehonkulutusraja

72 W

Infrastruktuuritoimittajan ilmoittamat arvot listatuille koneille; todellinen suorituskyky vaihtelee laitekohtaisesti.

Reaaliaikaiset L4-kokoonpanot ja hinnat

Reaaliaikainen varastotilanne ja jatkuvasti päivittyvät hinnat. Lopullinen hinta vahvistetaan ennen tilausta.

Vuokraa heti

Mitä voit ajaa L4-pilvi-GPU:lla

7B–8B LLM-mallit 16-bittisenä

22 GB riittää 8B-mallille 16-bittisenä tai kvantisoidulle 13B–14B-mallille chatbotteihin, agentteihin ja sisäisiin API-rajapintoihin.

Puheentunnistus ja upotukset

Aja Whisper-tyylistä transkriptiota, uudelleenjärjestelijöitä ja embedding-malleja vuorokauden ympäri vähävirtaisella näytönohjaimella.

SDXL-kuvanluonti

ComfyUI yhdessä SDXL:n ja Fluxin kanssa FP8- tai GGUF-muodossa mahtuu vaivattomasti 22 GB muistiin.

Jatkuvasti käynnissä olevat päättelypäätepisteet

72 W tehoraja tekee L4:stä järkevän näytönohjaimen pienille palveluille, joiden täytyy pysyä jatkuvasti käynnissä piikkikuormituksen sijaan.

Onko L4 oikea GPU työkuormallesi?

Valitse L4, kun tarvitset 22 GB VRAM-muistia ja Ada Lovelace -arkkitehtuurin laskentakykyä 8.9 päättelyyn tai kohtuullisiin koulutuskuormiin. Siirry suurempaan konesali-GPU:hun, jos mallisi ylittävät 22 GB tai vaativat yli noin 221 GB/s muistikaistaa, tai valitse pienempi näytönohjain peruskehitystehtäviin, jotka vaativat vähemmän muistia.

L4 vs. vastaavat pilvi-GPU:t

GPUVRAM per GPUFP32-laskentatehoTehonkulutusraja
NVIDIA L422 GB≈ 24.2 TFLOPS72 W
NVIDIA Tesla P4024 GB≈ 9.4 TFLOPS250 WTarkemmat tiedot →
NVIDIA Tesla V10016 GB≈ 12.5 TFLOPS300 WTarkemmat tiedot →
NVIDIA A100 PCIE40 GB≈ 15.6 TFLOPS250 WTarkemmat tiedot →
NVIDIA A100 SXM440 GB≈ 15.6 TFLOPS400 WTarkemmat tiedot →

L4-pilvi-GPU: usein kysytyt kysymykset

Vuokraa L4-pilvi-GPU tuntiveloituksella

Valitse valmispohja, valitse reaaliaikainen kokoonpano ja ota yhteys SSH:lla tai selainterminaalilla. Laskutus päättyy heti, kun poistat GPU:n.