22 GB VRAM bilen NVIDIA L4 GPU kärendesine alyň
Cloudj platformasynda sagatlaýyn L4 bulut GPU serwerlerini kärendesine alyň: 22 GB VRAM, Ada Lovelace arhitekturasy we bary-ýogy 72 W energiýa sarp edişinde takmynan 24.2 TFLOPS FP32. Bu, flagman kartlar üçin artykmaç çykdajy etmezden 8–16 GB kartlardan has köp ýat isleýän hem-de netijeli inferens, transkripsiýa, embedding we wideo ugurlaryny işledýän programmaçylar üçin amatlydyr. PyTorch, vLLM ýa-da Ollama şablonyndan başlaň we SSH arkaly birigiň.
L4 tehniki aýratynlyklary
Her GPU üçin VRAM
22 GB
Arhitektura
NVIDIA Ada Lovelace
Hasaplama ukyby
8.9
FP32 hasaplamasy
≈ 24.2 TFLOPS
Ýat geçirijiligi
≈ 221 GB/s
Kuwwat çägi
72 W
Bahalar häzirki sanawdaky maşynlar üçin infrastruktura üpjün edijisi tarapyndan görkezilendir; hakyky öndürijilik maşyna görä üýtgäp biler.
Elýeterli L4 konfigurasiýalary we bahalary
Hakyky wagt ätiýajy we bahalar yzygiderli täzelenýär. Gutarnykly baha sargyt etmezden öň tassyklanylýar.
Häzir kärendesine alyňL4 bulut GPU-synda nämeleri işledip bilersiňiz
16-bit formatda 7B–8B LLM-ler
22 GB ýat çat-botlar, agentler we içerki API-ler üçin 16-bit formatdaky 8B modelini ýa-da kwantlanan 13B–14B modelini kemsiz ýerleşdirýär.
Sesi tekste öwürmek we embeddingler
Az energiýa sarp edýän kartda gije-gündizleýin Whisper kysymly transkripsiýany, rerankerleri we embedding modellerini işlediň.
SDXL şekil döretmek
FP8 ýa-da GGUF formatyndaky SDXL we Flux bilen ComfyUI 22 GB ýada doly we amatly sypýar.
Üznüksiz işleýän inferens nokatlary
72 W güýç çäklendirmesi L4-i gysga wagtlyk güýçlenmelerden has möhüm bolan, hemişe işjeň durmaly kiçi hyzmatlar üçin amatly karta öwürýär.
L4 siziň iş ýüküňiz üçin dogry GPU-my?
Inferens ýa-da orta derejeli okuw ýükleri üçin 22 GB VRAM we Ada Lovelace 8.9 hasaplama ukyby gerek bolanda L4-i saýlaň. Eger modelleriňiz 22 GB-dan geçýän bolsa ýa-da takmynan 221 GB/s-den ýokary ýat geçirijiligini talap edýän bolsa, has uly maglumat merkeziniň GPU-syna geçiň, ýa-da az ýat talap edýän esasy işläp düzüş meseleleri üçin has kiçi karty saýlaň.
L4 meňzeş bulut GPU-laryna garşy
| GPU | Her GPU üçin VRAM | FP32 hasaplamasy | Kuwwat çägi | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Jikme-jiklikler → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Jikme-jiklikler → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Jikme-jiklikler → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Jikme-jiklikler → |
L4 bulut GPU: köp berilýän soraglar
L4 bulut GPU-syny sagatlaýyn kärendesine alyň
Şablon saýlaň, elýeterli konfigurasiýany saýlaň we SSH ýa-da brauzer terminaly arkaly birigiň. GPU-ny pozanyňyzda töleg duruzylýar.