Изнајмите NVIDIA L4 GPU са 22 GB VRAM
Изнајмите L4 cloud GPU сервере на сат на Cloudj: 22 GB VRAM-а, Ada Lovelace архитектура и око 24.2 TFLOPS FP32 уз потрошњу од свега 72 W. Идеалан је за програмере који покрећу ефикасан инференцинг, транскрипцију, ембединге и видео обраду, а потребно им је више меморије од 8–16 GB картице без плаћања водећих модела. Покрените са PyTorch, vLLM или Ollama шаблона и повежите се путем SSH-а.
L4 спецификације
VRAM по GPU-у
22 GB
Архитектура
NVIDIA Ada Lovelace
Рачунарска способност
8.9
FP32 перформансе
≈ 24.2 TFLOPS
Пропусни опсег меморије
≈ 221 GB/s
Лимит потрошње
72 W
Вредности које наводи провајдер инфраструктуре за тренутно излистане машине; стварне перформансе варирају од машине до машине.
Актуелне L4 конфигурације и цене
Доступност и цене уживо, континуирано се ажурирају. Коначна цена се потврђује пре наручивања.
Изнајмите одмахШта можете покретати на L4 cloud GPU-у
7B–8B LLM модели у 16-bit
22 GB подржава 8B модел у 16-bit или квантизовани 13B–14B модел за четботове, агенте и интерне API-је.
Претварање говора у текст и ембединзи
Покрећите Whisper транскрипцију, reranker и embedding моделе 24/7 на картици ниске потрошње.
Генерисање слика уз SDXL
ComfyUI са SDXL и Flux у FP8 или GGUF формату без проблема стаје у 22 GB.
Стално активне крајње тачке за инференцинг
Лимит потрошње од 72 W чини L4 разумним избором за мање сервисе који морају стално бити доступни уместо рада са вршним оптерећењима.
Да ли је L4 прави GPU за ваше радно оптерећење?
Изаберите L4 када вам је потребно 22 GB VRAM-а и Ada Lovelace рачунарска способност 8.9 за инференцинг или умерена радна оптерећења тренинга. Пређите на већи датацентар GPU уколико ваши модели премашују 22 GB или захтевају већи меморијски проток од око 221 GB/s, или одаберите мању картицу за основне развојне задатке којима је потребно мање меморије.
L4 у поређењу са сличним cloud GPU-овима
L4 cloud GPU: често постављана питања
Изнајмите L4 cloud GPU на сат
Изаберите шаблон, одаберите активну конфигурацију и повежите се путем SSH-а или терминала у прегледачу. Наплата престаје када обришете GPU.