22 GB VRAM бар NVIDIA L4 GPU жалға алу
Cloudj платформасында сағатына L4 бұлтты GPU серверлерін жалға алыңыз: бар болғаны 72 W қуат шегімен 22 GB VRAM, Ada Lovelace архитектурасы және шамамен 24.2 TFLOPS FP32. Бұл флагмандық карта үшін артық төлемей, 8–16 GB картадан көбірек жады қажет ететін және тиімді инференс, транскрипция, эмбеддингтер мен видео өңдеу құбырларын жүргізетін әзірлеушілерге өте қолайлы. PyTorch, vLLM немесе Ollama үлгісінен іске қосып, SSH арқылы қосылыңыз.
L4 техникалық сипаттамалары
Әр GPU-дағы VRAM
22 GB
Архитектурасы
NVIDIA Ada Lovelace
Есептеу қабілеті (Compute capability)
8.9
FP32 өнімділігі
≈ 24.2 TFLOPS
Жад өткізу қабілеті
≈ 221 GB/s
Қуат шегі
72 W
Мәндер қазіргі уақытта ұсынылған машиналар үшін инфрақұрылым провайдері берген деректерден алынған; нақты өнімділік машинаға байланысты өзгеруі мүмкін.
Өзекті L4 конфигурациялары мен бағалары
Қолжетімді орындар мен бағалар үнемі нақты уақытта жаңартылып отырады. Түпкілікті баға тапсырыс бермес бұрын расталады.
Қазір жалға алуL4 бұлтты GPU-де нені іске қосуға болады
16-биттік 7B–8B LLM үлгілері
22 GB жады чат-боттар, агенттер және ішкі API үшін 16-биттік 8B моделін немесе квантталған 13B–14B моделін еркін сыйғызады.
Сөйлеуді мәтінге айналдыру және эмбеддингтер
Энергияны аз тұтынатын картада Whisper үлгісіндегі транскрипцияны, реранкерлерді және эмбеддинг модельдерін тәулік бойы тоқтаусыз іске қосыңыз.
SDXL көмегімен кескін жасау
SDXL және FP8 немесе GGUF форматындағы Flux қосылған ComfyUI 22 GB жадына еш қиындықсыз сияды.
Үздіксіз жұмыс істейтін инференс эндпойнттары
72 W қуат шегі L4 картасын қысқа мерзімді жүктемелерге қарағанда, үнемі жұмыс істеп тұруды қажет ететін шағын сервистер үшін оңтайлы шешім етеді.
L4 сіздің жұмыс жүктемеңізге сай келе ме?
Инференс немесе орташа деңгейдегі оқыту тапсырмалары үшін 22 GB VRAM және 8.9 Ada Lovelace есептеу мүмкіндігі қажет болғанда L4 таңдаңыз. Егер модельдеріңіз 22 GB-тан асып кетсе немесе жады өткізу қабілеті шамамен 221 GB/s-тен жоғары болуды талап етсе, қуаттырақ деректер орталығының GPU-іне көшіңіз, ал жадыны азырақ қажет ететін қарапайым әзірлеу тапсырмалары үшін кішірек картаны таңдаңыз.
L4 және ұқсас бұлтты GPU-лерді салыстыру
| GPU | Әр GPU-дағы VRAM | FP32 өнімділігі | Қуат шегі | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Толығырақ → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Толығырақ → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Толығырақ → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Толығырақ → |
L4 бұлтты GPU: жиі қойылатын сұрақтар
L4 бұлтты GPU-ін сағатына жалға алыңыз
Үлгіні таңдаңыз, өзекті конфигурацияны белгілеп, SSH немесе браузер терминалы арқылы қосылыңыз. Төлем GPU жойылған кезде тоқтайды.