Иҷораи GPU-и NVIDIA L4 бо 22 GB VRAM
Иҷораи соатбайъи серверҳои абрии GPU-и L4 дар Cloudj: 22 GB VRAM, меъмории Ada Lovelace ва тақрибан 24.2 TFLOPS FP32 бо масрафи нерӯи ҳамагӣ 72 W. Ин интихоби муносиб барои барномасозоне мебошад, ки инференси самарнок, транскрипсия, эмбеддингҳо ва пайплайнҳои видеоиро иҷро мекунанд ва хоҳони хотираи бештар аз кортҳои 8–16 GB бидуни пардохти изофӣ барои моделҳои флагманӣ ҳастанд. Корро аз қолаби PyTorch, vLLM ё Ollama оғоз намоед ва тавассути SSH пайваст шавед.
Мушаххасоти техникии L4
VRAM барои ҳар як GPU
22 GB
Меъморӣ
NVIDIA Ada Lovelace
Иқтидори ҳисоббарорӣ
8.9
Ҳисоббарории FP32
≈ 24.2 TFLOPS
Фарохмаҷрои хотира
≈ 221 GB/s
Ҳадди истеъмоли нерӯ
72 W
Нишондиҳандаҳо аз ҷониби провайдери инфрасохтор барои мошинҳои ҳоло дар рӯйхат буда пешниҳод шудаанд; маҳсулнокии воқеӣ метавонад вобаста ба мошин фарқ кунад.
Конфигуратсияҳо ва нархҳои ҷории L4
Захираи мавҷуда ва нархҳои зинда, пайваста нав мешаванд. Нархи ниҳоӣ пеш аз фармоиш тасдиқ карда мешавад.
Ҳозир иҷора гиредДар GPU-и абрии L4 чиро роҳандозӣ кардан мумкин аст
LLM-ҳои 7B–8B дар 16-bit
22 GB як модели 8B-ро дар 16-bit ё модели квантизатсияшудаи 13B–14B-ро барои чатботҳо, агентҳо ва API-ҳои дохилӣ нигоҳ медорад.
Табдили нутқ ба матн ва эмбеддингҳо
Транскрипсияи навъи Whisper, реранкерҳо ва моделҳои эмбеддингро шабонарӯзӣ дар корти камасраф иҷро кунед.
Тавлиди тасвир бо SDXL
ComfyUI бо SDXL ва Flux дар формати FP8 ё GGUF ба осонӣ дар 22 GB ҷой мегирад.
Эндпоинтҳои доимо фаъоли инференс
Маҳдудияти нерӯи 72 W корти L4-ро барои хидматҳои хурде, ки ба ҷои сарбориҳои шадиди кӯтоҳмуддат ба кори доимӣ ниёз доранд, ба як корти оқилона табдил медиҳад.
Оё L4 барои сарбории кории шумо GPU-и мувофиқ аст?
L4-ро замоне интихоб кунед, ки ба 22 GB VRAM ва иқтидори ҳисоббарории Ada Lovelace 8.9 барои инференс ё сарбориҳои мӯътадили омӯзиш ниёз доред. Агар моделҳои шумо аз 22 GB зиёд бошанд ё ба паҳнои бахши хотираи бештар аз тақрибан 221 GB/s ниёз дошта бошанд, ба GPU-и калонтари дата-сентр гузаред, ё барои вазифаҳои асосии таҳия, ки хотираи камтар мехоҳанд, корти хурдтарро интихоб намоед.
L4 дар муқоиса бо GPU-ҳои абрии монанд
| GPU | VRAM барои ҳар як GPU | Ҳисоббарории FP32 | Ҳадди истеъмоли нерӯ | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Тафсилот → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | Тафсилот → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Тафсилот → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Тафсилот → |
GPU-и абрии L4: саволҳои маъмул
GPU-и абрии L4-ро ба таври соатбайъ ба иҷора гиред
Шаблонро интихоб кунед, конфигуратсияи дастрасро муайян намоед ва тавассути SSH ё терминали браузер пайваст шавед. Ҳангоми нест кардани GPU пардохт қатъ мегардад.