Վարձեք NVIDIA CMP 170HX GPU 64 GB VRAM-ով
Վարձակալեք CMP 170HX ամպային GPU սերվերներ ժամավճարով Cloudj-ում՝ 64 GB VRAM, Ampere ճարտարապետություն և շուրջ 1516 GB/s հիշողության թողունակություն հիշողությունից կախված հաշվարկների համար: Սա headless հաշվարկային քարտ է այն ծրագրավորողների համար, ում համար թողունակությունն ու ծավալն ավելի կարևոր են, քան FP32 արագությունը (12.1 TFLOPS, 250 W, compute capability 8.0): Նախ փորձարկեք կարճ թեստ PyTorch կամ Ollama ձևանմուշով, ապա ընդլայնեք առաջադրանքի ծավալը:
CMP 170HX-ի տեխնիկական բնութագրերը
VRAM յուրաքանչյուր GPU-ի համար
64 GB
Ճարտարապետություն
NVIDIA Ampere
Հաշվողական հնարավորություն
8
FP32 հաշվարկներ
≈ 12.1 TFLOPS
Հիշողության թողունակություն
≈ 1516 GB/s
Էներգասպառման սահմանաչափ
250 W
Ներկայացված մեքենաների համար ենթակառուցվածքի մատակարարի նշած արժեքները. իրական արտադրողականությունը կարող է տարբերվել ըստ մեքենայի:
Առկա CMP 170HX կոնֆիգուրացիաներ և գներ
Առկայություն և գներ իրական ժամանակում՝ մշտական թարմացմամբ: Վերջնական արժեքը հաստատվում է պատվիրելուց առաջ:
Վարձակալել հիմաԻնչ կարող եք գործարկել CMP 170HX ամպային GPU-ով
Թողունակությունից կախված ինֆերենս
LLM թոքենների գեներացումը հիմնականում սահմանափակվում է հիշողության թողունակությամբ, իսկ 1516 GB/s-ը նույն մակարդակի վրա է, ինչ A100 դասի քարտերինը:
Քվանտավորված LLM-ների հոսթինգ
Բեռնեք քվանտավորված մոդելները Ollama-ում կամ llama.cpp-ում և գործարկեք դրանք API-ի միջոցով՝ թեստավորման կամ ներքին գործիքների համար:
CUDA kernel-ների փորձարկումներ
Պրոֆայլավորեք մեծ հիշողություն պահանջող kernel-ները 8.0 compute capability ունեցող Ampere քարտի վրա՝ նախքան դրանք ավելի հզոր սարքակազմ տեղափոխելը:
Տվյալների փաթեթային մշակում
Հոսքով փոխանցեք մեծ զանգվածները GPU հիշողության միջով՝ ձևափոխությունների, հեշավորման կամ վերլուծական այն առաջադրանքների համար, որոնք կախված են հիշողության հասանելիությունից:
Արդյո՞ք CMP 170HX-ը ճիշտ GPU է ձեր ծանրաբեռնվածության համար
Ընտրեք CMP 170HX-ը, երբ ձեր ծանրաբեռնվածությունը սահմանափակվում է հիշողության ծավալով և թողունակությամբ, ոչ թե զուտ միակի ճշգրտության հաշվարկներով: Ընտրեք ավելի բարձր հաշվարկային արտադրողականությամբ GPU, եթե պահանջվում են մոդելի ուսուցման ավելի արագ իտերացիաներ, կամ ընտրեք ավելի փոքր սպառողական քարտ, եթե ձեր մոդելներին պետք չէ 64 GB VRAM:
CMP 170HX-ն ընդդեմ նմանատիպ ամպային GPU-ների
| GPU | VRAM յուրաքանչյուր GPU-ի համար | FP32 հաշվարկներ | Էներգասպառման սահմանաչափ | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Մանրամասներ → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Մանրամասներ → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | Մանրամասներ → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | Մանրամասներ → |
CMP 170HX ամպային GPU. հաճախ տրվող հարցեր
Վարձակալեք CMP 170HX ամպային GPU-ն ժամավճարով
Ընտրեք ձևանմուշը, ընտրեք հասանելի կոնֆիգուրացիան և միացեք SSH-ի կամ բրաուզերի տերմինալի միջոցով: Գանձումը դադարում է GPU-ն ջնջելու պահից: