Sari la conținut
Cloudj
GPU Cloud · NVIDIA · Ampere

Închiriază GPU NVIDIA CMP 170HX cu 64 GB VRAM

Închiriază servere cloud GPU CMP 170HX cu plată pe oră pe Cloudj: 64 GB VRAM specificați, arhitectură Ampere și o lățime de bandă a memoriei de aproximativ 1516 GB/s pentru sarcini de calcul limitate de memorie. Este o placă de calcul headless pentru dezvoltatorii care pun accent pe lățimea de bandă și capacitate mai mult decât pe viteza FP32 (12.1 TFLOPS, 250 W, compute capability 8.0). Rulează mai întâi un test rapid pe un șablon PyTorch sau Ollama, apoi scalează sarcina de lucru.

Specificații CMP 170HX

VRAM per GPU

64 GB

Arhitectură

NVIDIA Ampere

Capacitate de calcul (Compute Capability)

8

Performanță FP32

≈ 12.1 TFLOPS

Lățime de bandă memorie

≈ 1516 GB/s

Limită de putere (TDP)

250 W

Valori raportate de furnizorul de infrastructură pentru serverele listate în prezent; performanța reală poate varia în funcție de mașină.

Configurații și prețuri live pentru CMP 170HX

Stoc și prețuri în timp real, actualizate constant. Prețul final este confirmat înainte de finalizarea comenzii.

Închiriază acum

Ce poți rula pe GPU-ul cloud CMP 170HX

Inferență limitată de lățimea de bandă

Generarea de tokeni în LLM este limitată în principal de lățimea de bandă a memoriei, iar 1516 GB/s se află în aceeași categorie cu plăcile din clasa A100.

Găzduire de modele LLM cuantificate

Încarcă modele cuantificate în Ollama sau llama.cpp și servește-le prin API pentru teste sau instrumente interne.

Experimente cu kernel-uri CUDA

Profilează kernel-uri care solicită intens memoria pe o placă Ampere cu compute capability 8.0 înainte de a le migra pe hardware mai mare.

Procesare de date în loturi (batch)

Transmite seturi mari de date prin memoria GPU pentru transformări, hashing sau analize de date limitate de accesul la memorie.

Este CMP 170HX GPU-ul potrivit pentru sarcinile tale de lucru?

Alege CMP 170HX atunci când volumul tău de lucru este limitat de capacitatea și lățimea de bandă a memoriei, mai degrabă decât de puterea brută de calcul în precizie simplă. Optează pentru un GPU cu o putere de calcul mai mare dacă ai nevoie de iterații de antrenare mai rapide sau alege o placă consumer mai mică dacă modelele tale nu necesită 64 GB de VRAM.

CMP 170HX vs GPU-uri cloud similare

GPUVRAM per GPUPerformanță FP32Limită de putere (TDP)
NVIDIA CMP 170HX64 GB≈ 12.1 TFLOPS250 W
NVIDIA A800 PCIE80 GB≈ 15.6 TFLOPS300 WDetalii →
NVIDIA H100 PCIE80 GB≈ 41 TFLOPS350 WDetalii →
NVIDIA H100 SXM80 GB≈ 53.5 TFLOPS700 WDetalii →
NVIDIA A4045 GB≈ 29.9 TFLOPS300 WDetalii →

GPU cloud CMP 170HX: întrebări frecvente

Închiriază GPU-ul cloud CMP 170HX cu plata pe oră

Alege un șablon, selectează o configurație live și conectează-te prin SSH sau terminalul din browser. Facturarea se oprește când ștergi GPU-ul.