Er CMP 170HX god til træning?

Det egner sig bedre til inferens og hukommelseskrævende jobs. Med 12.1 TFLOPS FP32 er det langsommere til beregningstung træning end kort som A40 eller RTX 3090, så test din arbejdsbyrde, før du planlægger en lang kørsel.

Hvorfor teste min arbejdsbyrde først?

CMP 170HX er et rent compute-kort, og visse softwarestier opfører sig anderledes på det end på traditionelle GPU'er. En kort timebaseret session viser dig, om dit framework, dine drivere og din model fungerer som forventet.

Hvad er CMP 170HX's stærkeste specifikation?

Hukommelsesbåndbredde: ca. 1516 GB/s, hvilket er højere end A100 PCIE's angivne 1313 GB/s, og det gavner enhver arbejdsbyrde, der venter mere på hukommelse end på beregninger.

Hvor længe skal jeg beholde en CMP 170HX-server hos Cloudj?

Lige så længe du har brug for det. Timeafregning koster pr. time, mens serveren kører, og du kan slette den, så snart testen eller jobbet er færdigt.

GPU Cloud · NVIDIA · Ampere

Lej en NVIDIA CMP 170HX GPU med 64 GB VRAM

Lej CMP 170HX cloud-GPU-servere på timebasis hos Cloudj: 64 GB VRAM angivet, Ampere-arkitektur og ca. 1516 GB/s hukommelsesbåndbredde til hukommelseskrævende beregninger. Det er et headless compute-kort til udviklere, der prioriterer båndbredde og kapacitet højere end FP32-hastighed (12.1 TFLOPS, 250 W, compute capability 8.0). Kør en hurtig test på en PyTorch- eller Ollama-skabelon først, og opskaler derefter dit job.

Lej CMP 170HX Alle GPU'er

CMP 170HX-specifikationer

VRAM pr. GPU

64 GB

Arkitektur

NVIDIA Ampere

Compute capability

FP32-ydelse

≈ 12.1 TFLOPS

Hukommelsesbåndbredde

≈ 1516 GB/s

Effektgrænse

250 W

Værdier oplyst af infrastrukturudbyderen for aktuelt listede maskiner; den faktiske ydeevne kan variere fra maskine til maskine.

Live CMP 170HX-konfigurationer og priser

Live lagerstatus og priser, opdateres løbende. Den endelige pris bekræftes, inden du bestiller.

Lej nu

Hvad du kan køre på CMP 170HX cloud-GPU'en

Båndbreddebegrænset inferens

LLM-tokengenerering begrænses primært af hukommelsesbåndbredde, og 1516 GB/s ligger på niveau med kort i A100-klassen.

Hosting af kvantiserede LLM'er

Indlæs kvantiserede modeller i Ollama eller llama.cpp, og kør dem over et API til test eller interne værktøjer.

CUDA-kernel-eksperimenter

Profilér hukommelsestunge kernels på et Ampere-kort med compute capability 8.0, før du flytter dem til større hardware.

Batch-databehandling

Stream store arrays gennem GPU-hukommelsen til transformationer, hashing eller analysejobs, der er begrænset af hukommelsestilgang.

Er CMP 170HX den rette GPU til dit workload?

Vælg CMP 170HX, når din arbejdsbyrde er begrænset af hukommelseskapacitet og båndbredde frem for rå single-precision-beregning. Vælg en GPU med højere beregningsydelse, hvis du har brug for hurtigere træningsiterationer, eller vælg et mindre forbrugerkort, hvis dine modeller ikke kræver 64 GB VRAM.

CMP 170HX vs. lignende cloud-GPU'er

GPU	VRAM pr. GPU	FP32-ydelse	Effektgrænse
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Se detaljer →
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Se detaljer →
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W	Se detaljer →
NVIDIA A40	45 GB	≈ 29.9 TFLOPS	300 W	Se detaljer →

CMP 170HX cloud-GPU: Ofte stillede spørgsmål

Lej CMP 170HX cloud-GPU på timebasis

Vælg en skabelon, vælg en live-konfiguration, og opret forbindelse via SSH eller browserterminalen. Afregningen stopper, når du sletter din GPU.

Lej CMP 170HX Alle GPU'er