Er CMP 170HX bra for trening?

Det er bedre egnet til inferens og minnebundne oppgaver. Med 12.1 TFLOPS FP32 er det tregere til beregningstung trening enn kort som A40 eller RTX 3090, så test arbeidsbelastningen din før du planlegger en lang kjøring.

Hvorfor bør jeg teste arbeidsbelastningen først?

CMP 170HX er et rent beregningskort, og enkelte programvarebaner oppfører seg annerledes på det enn på vanlige GPU-er. En kort timebasert økt viser deg om rammeverket, driverne og modellen din fungerer som forventet.

Hva er CMP 170HXs sterkeste spesifikasjon?

Minnebåndbredden: omtrent 1516 GB/s, som er høyere enn A100 PCIEs oppgitte 1313 GB/s. Dette er en fordel for enhver arbeidsbelastning som venter mer på minnet enn på regnekraft.

Hvor lenge må jeg beholde en CMP 170HX-server hos Cloudj?

Så lenge du har behov for det. Timebasert fakturering belastes per time mens serveren kjører, og du kan slette den så snart testen eller jobben er fullført.

GPU Cloud · NVIDIA · Ampere

Lei en NVIDIA CMP 170HX GPU med 64 GB VRAM

Lei CMP 170HX sky-GPU-servere på timebasis hos Cloudj: 64 GB VRAM oppgitt, Ampere-arkitektur og omtrent 1516 GB/s minnebåndbredde for minnebundet databehandling. Det er et headless beregningskort for utviklere som bryr seg mer om båndbredde og kapasitet enn FP32-hastighet (12.1 TFLOPS, 250 W, compute capability 8.0). Kjør en kort test på en PyTorch- eller Ollama-mal først, og skaler deretter opp jobben.

Lei CMP 170HX Alle GPU-er

CMP 170HX-spesifikasjoner

VRAM per GPU

64 GB

Arkitektur

NVIDIA Ampere

Compute capability

FP32-ytelse

≈ 12.1 TFLOPS

Minnebåndbredde

≈ 1516 GB/s

Effektgrense (TDP)

250 W

Verdier oppgitt av infrastrukturleverandøren for maskiner som for øyeblikket er tilgjengelige; faktisk ytelse varierer fra maskin til maskin.

Tilgjengelige CMP 170HX-konfigurasjoner og priser

Lagerstatus og priser i sanntid, oppdateres fortløpende. Endelig pris bekreftes før du bestiller.

Lei nå

Hva du kan kjøre på CMP 170HX cloud GPU

Båndbreddebundet inferens

LLM-tokengenerering begrenses hovedsakelig av minnebåndbredde, og 1516 GB/s er i samme klasse som A100-kort.

Hosting av kvantiserte LLM-er

Last inn kvantiserte modeller i Ollama eller llama.cpp og lever dem over et API for testing eller interne verktøy.

Eksperimenter med CUDA-kjerner

Profiler minnekrevende kjerner på et Ampere-kort med compute capability 8.0 før du flytter dem til kraftigere maskinvare.

Batch-databehandling

Strøm store matriser gjennom GPU-minnet for transformasjoner, hashing eller analysejobber som begrenses av minnetilgang.

Er CMP 170HX riktig GPU for din arbeidsbelastning?

Velg CMP 170HX når arbeidsbelastningen din hemmes av minnekapasitet og båndbredde fremfor rå beregningskraft med enkel presisjon. Gå for en GPU med høyere beregningsytelse hvis du trenger raskere treningsiterasjoner, eller velg et mindre forbrukerkort dersom modellene dine ikke krever 64 GB VRAM.

CMP 170HX vs. lignende cloud-GPU-er

GPU	VRAM per GPU	FP32-ytelse	Effektgrense (TDP)
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Detaljer →
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Detaljer →
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W	Detaljer →
NVIDIA A40	45 GB	≈ 29.9 TFLOPS	300 W	Detaljer →

CMP 170HX cloud GPU: ofte stilte spørsmål

Lei CMP 170HX cloud GPU per time

Velg en mal, velg en tilgjengelig konfigurasjon og koble til via SSH eller terminalen i nettleseren. Faktureringen stopper når du sletter GPU-en.

Lei CMP 170HX Alle GPU-er