64 GB VRAM ilə NVIDIA CMP 170HX GPU icarəyə götürün
Cloudj üzərində saatlıq CMP 170HX bulud GPU serverləri icarəyə götürün: yaddaş tutumu tələb edən hesablamalar üçün qeyd olunan 64 GB VRAM, Ampere arxitekturası və təxminən 1516 GB/s yaddaş buraxılış zolağı. Bu, FP32 sürətindən daha çox buraxılış zolağı və yaddaş tutumuna önəm verən tərtibatçılar üçün displeysiz (headless) hesablama kartıdır (12.1 TFLOPS, 250 W, hesablama qabiliyyəti 8.0). Əvvəlcə PyTorch və ya Ollama şablonunda qısa sınaq aparın, sonra isə tapşırığı miqyaslandırın.
CMP 170HX texniki xüsusiyyətləri
Hər GPU üçün VRAM
64 GB
Arxitektura
NVIDIA Ampere
Hesablama qabiliyyəti
8
FP32 hesablaması
≈ 12.1 TFLOPS
Yaddaş bant genişliyi
≈ 1516 GB/s
Güc həddi
250 W
Hazırda siyahıda olan maşınlar üçün infrastruktur təminatçısı tərəfindən bildirilən dəyərlər; real məhsuldarlıq maşına görə dəyişə bilər.
Aktual CMP 170HX konfiqurasiyaları və qiymətləri
Daim yenilənən canlı inventar və qiymətlər. Yekun qiymət sifarişinizdən əvvəl təsdiqlənir.
İndi icarəyə götürCMP 170HX bulud GPU-da nələri işə sala bilərsiniz
Buraxılış zolağından asılı olan inferens
LLM token generasiyası əsasən yaddaş buraxılış zolağı ilə məhdudlaşır və 1516 GB/s A100 sinifli kartlarla eyni səviyyədədir.
Kvantlaşdırılmış LLM hostinqi
Kvantlaşdırılmış modelləri Ollama və ya llama.cpp-də yükləyin və test və ya daxili alətlər üçün onları API vasitəsilə təqdim edin.
CUDA kernel təcrübələri
Yaddaşı intensiv istifadə edən kernelləri daha böyük avadanlığa köçürməzdən əvvəl 8.0 hesablama qabiliyyətinə malik Ampere kartında profilləşdirin.
Paket məlumat emalı
Yaddaş müraciətindən asılı olan transformasiya, heşləmə və ya analitika tapşırıqları üçün böyük massivləri GPU yaddaşından axınla keçirin.
CMP 170HX iş yükünüz üçün doğru GPU-durmu?
İş yükünüz xam tək dəqiqlikli hesablamadan daha çox yaddaş tutumu və buraxılış zolağında darboğazla qarşılaşdıqda CMP 170HX seçin. Daha sürətli təlim iterasiyaları tələb olunursa, daha yüksək hesablama qabiliyyətinə malik GPU-ya üstünlük verin və ya modelləriniz üçün 64 GB VRAM lazım deyilsə, daha kiçik istehlakçı kartı seçin.
CMP 170HX və oxşar bulud GPU-larının müqayisəsi
CMP 170HX bulud GPU: tez-tez verilən suallar
CMP 170HX bulud GPU-nu saatlıq icarəyə götürün
Şablon seçin, aktual konfiqurasiyanı seçin və SSH və ya brauzer terminalı vasitəsilə qoşulun. GPU-nu sildikdə ödəniş dayanır.