Иҷораи GPU-и NVIDIA CMP 170HX бо 64 GB VRAM
Иҷораи соатбайъи серверҳои абрии GPU-и CMP 170HX дар Cloudj: 64 GB VRAM, меъмории Ampere ва тақрибан 1516 GB/s паҳнои басомади хотира барои ҳисоббарориҳои ба хотира вобаста. Ин корти ҳисоббарории бе баромади видео (headless) барои таҳиягароне мебошад, ки ба паҳнои басомад ва ғунҷоиш назар ба суръати FP32 бештар таваҷҷуҳ доранд (12.1 TFLOPS, 250 W, қобилияти ҳисоббарории 8.0). Аввал санҷиши кӯтоҳро дар қолаби PyTorch ё Ollama иҷро кунед, сипас ҳаҷми вазифаро васеъ намоед.
Мушаххасоти техникии CMP 170HX
VRAM барои ҳар як GPU
64 GB
Меъморӣ
NVIDIA Ampere
Иқтидори ҳисоббарорӣ
8
Ҳисоббарории FP32
≈ 12.1 TFLOPS
Фарохмаҷрои хотира
≈ 1516 GB/s
Ҳадди истеъмоли нерӯ
250 W
Нишондиҳандаҳо аз ҷониби провайдери инфрасохтор барои мошинҳои ҳоло дар рӯйхат буда пешниҳод шудаанд; маҳсулнокии воқеӣ метавонад вобаста ба мошин фарқ кунад.
Конфигуратсияҳо ва нархҳои ҷории CMP 170HX
Захираи мавҷуда ва нархҳои зинда, пайваста нав мешаванд. Нархи ниҳоӣ пеш аз фармоиш тасдиқ карда мешавад.
Ҳозир иҷора гиредДар GPU-и абрии CMP 170HX чиро роҳандозӣ кардан мумкин аст
Инференси вобаста ба паҳнои басомади хотира
Тавлиди токенҳои LLM асосан аз ҳисоби паҳнои басомади хотира маҳдуд мешавад ва 1516 GB/s дар як сатҳ бо кортҳои класси A100 қарор дорад.
Хостинги LLM-ҳои квантизатсияшуда
Моделҳои квантизатсияшударо дар Ollama ё llama.cpp бор кунед ва барои санҷиш ё абзорҳои дохилӣ онҳоро тавассути API пешниҳод намоед.
Озмоишҳои CUDA kernel
Пеш аз гузаштан ба таҷҳизоти калонтар, кернелҳои серталаби хотираро дар корти Ampere бо қобилияти ҳисоббарории 8.0 таҳлил ва санҷиш намоед.
Коркарди дастаҷамъии додаҳо
Массивҳои калонро барои табдилдиҳӣ, хэшкунӣ ё таҳлили додаҳо, ки ба суръати дастрасӣ ба хотира вобастаанд, тавассути хотираи GPU ҷараён диҳед.
Оё CMP 170HX барои сарбории кории шумо GPU-и мувофиқ аст?
CMP 170HX-ро он гоҳ интихоб кунед, ки агар кори шумо на аз ҳисоби суръати ҳисоббарории яккарата (single-precision), балки аз сабаби ғунҷоиш ва паҳнои басомади хотира маҳдуд шавад. Агар ба такрори тезтари омӯзиши моделҳо ниёз дошта бошед, GPU-ро бо қудрати ҳисоббарории баландтар интихоб кунед, ё агар моделҳои шумо ба 64 GB VRAM ниёз надошта бошанд, корти хурдтари истеъмолиро баргузинед.
CMP 170HX дар муқоиса бо GPU-ҳои абрии монанд
| GPU | VRAM барои ҳар як GPU | Ҳисоббарории FP32 | Ҳадди истеъмоли нерӯ | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Тафсилот → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Тафсилот → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | Тафсилот → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | Тафсилот → |
GPU-и абрии CMP 170HX: саволҳои маъмул
GPU-и абрии CMP 170HX-ро ба таври соатбайъ ба иҷора гиред
Шаблонро интихоб кунед, конфигуратсияи дастрасро муайян намоед ва тавассути SSH ё терминали браузер пайваст шавед. Ҳангоми нест кардани GPU пардохт қатъ мегардад.