Ці падыходзіць CMP 170HX для навучання?

Ён лепш падыходзіць для інферэнсу і задач, якія ўпіраюцца ў хуткасць памяці. З 12.1 TFLOPS FP32 ён саступае ў рэсурсаёмістым навучанні такім картам, як A40 ці RTX 3090, таму пратэстуйце сваю нагрузку перад планаваннем працяглага запуску.

Чаму варта спачатку пратэставаць нагрузку?

CMP 170HX прызначаны выключна для вылічэнняў, і некаторыя праграмныя сцэнарыі выконваюцца на ім інакш, чым на звычайных GPU. Кароткая пагадзінная сесія дапаможа пераканацца, што ваш фрэймворк, драйверы і мадэль працуюць належным чынам.

Якая самая моцная характарыстыка CMP 170HX?

Прапускная здольнасць памяці: каля 1516 GB/s, што вышэй за заяўленыя 1313 GB/s у A100 PCIE. Гэта паскарае любыя нагрузкі, дзе асноўны час сыходзіць на чаканне даных з памяці, а не на матэматычныя разлікі.

Колькі часу трэба трымаць сервер з CMP 170HX на Cloudj?

Столькі, колькі вам неабходна. Пры пагадзіннай тарыфікацыі аплата спісваецца за кожную гадзіну працы сервера, і вы можаце выдаліць яго адразу ж, як толькі завершыцца тэст ці праца.

GPU Cloud · NVIDIA · Ampere

Арэнда GPU NVIDIA CMP 170HX з 64 GB VRAM

Арандуйце хмарныя GPU-серверы CMP 170HX з пагадзіннай аплатай на Cloudj: 64 GB VRAM, архітэктура Ampere і прапускная здольнасць памяці каля 1516 GB/s для задач з упорам на памяць. Гэта вылічальная карта без відэавыхадаў (headless) для распрацоўшчыкаў, якім прапускная здольнасць і аб'ём памяці больш важныя за хуткасць FP32 (12.1 TFLOPS, 250 W, compute capability 8.0). Запусціце кароткі тэст на шаблоне PyTorch або Ollama, а затым маштабуйце нагрузку.

Арандаваць CMP 170HX Усе GPU

Характарыстыкі CMP 170HX

VRAM на GPU

64 GB

Архітэктура

NVIDIA Ampere

Вылічальная здольнасць

Вылічэнні FP32

≈ 12.1 TFLOPS

Прапускная здольнасць памяці

≈ 1516 GB/s

Ліміт магутнасці

250 W

Значэнні прадстаўлены пастаўшчыком інфраструктуры для даступных у каталогу машын; рэальная прадукцыйнасць залежыць ад канкрэтнага сервера.

Актуальныя канфігурацыі і цэны на CMP 170HX

Актуальная наяўнасць і цэны абнаўляюцца ў рэжыме рэальнага часу. Канчатковы кошт пацвярджаецца перад замовай.

Арандаваць

Што можна запускаць на хмарным GPU CMP 170HX

Інферэнс, абмежаваны прапускной здольнасцю

Генерацыя токенаў у LLM абмяжоўваецца галоўным чынам прапускной здольнасцю памяці, а 1516 GB/s — гэта той жа ўзровень, што і ў карт класа A100.

Хостынг квантызаваных LLM

Загружайце квантызаваныя мадэлі ў Ollama ці llama.cpp і разгортвайце іх праз API для тэставання або ўнутраных інструментаў.

Эксперыменты з ядрамі CUDA

Прафілюйце памяцеёмістыя ядры на карце Ampere з compute capability 8.0 перад пераносам на больш магутнае абсталяванне.

Пакетная апрацоўка даных

Прапускайце вялікія масівы праз памяць GPU для трансфармацый, хэшавання ці аналітычных задач, абмежаваных хуткасцю доступу да памяці.

Ці падыходзіць CMP 170HX для вашых задач?

Выбірайце CMP 170HX, калі вузкім месцам вашай нагрузкі з'яўляюцца аб'ём і прапускная здольнасць памяці, а не чыстая прадукцыйнасць вылічэнняў адзінарнай дакладнасці. Аддайце перавагу GPU з больш высокай вылічальнай магутнасцю, калі вам патрэбны хутчэйшыя ітэрацыі навучання, або абярыце меншую спажывецкую карту, калі вашым мадэлям не патрабуецца 64 GB VRAM.

CMP 170HX супраць падобных хмарных GPU

GPU	VRAM на GPU	Вылічэнні FP32	Ліміт магутнасці
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Падрабязней →
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Падрабязней →
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W	Падрабязней →
NVIDIA A40	45 GB	≈ 29.9 TFLOPS	300 W	Падрабязней →

Хмарны GPU CMP 170HX: частыя пытанні

Арандуйце хмарны GPU CMP 170HX пагадзінна

Абярыце шаблон, абярыце даступную канфігурацыю і падключайцеся праз SSH або тэрмінал у браўзеры. Аплата спыняецца, калі вы выдаляеце GPU.

Арандаваць CMP 170HX Усе GPU