Af hverju ætti að velja H100 SXM fram yfir H100 PCIE?

H100 SXM er tilgreint með 53.5 TFLOPS FP32 og 2869 GB/s samanborið við 41 TFLOPS og 1760 GB/s fyrir PCIE-kortið, með 700 W mörkum í stað 350 W. Fyrir hvert verkefni klárar það vinnsluna yfirleitt hraðar.

Hvort er H100 SXM eða H200 NVL betra fyrir mállíkön (LLM)?

H200 NVL er með 140 GB og 3884 GB/s, svo það hentar betur fyrir mjög stór líkön og langt samhengi. H100 SXM hefur meiri FP32-reiknigetu (53.5 á móti 48.3 TFLOPS) og hentar vel fyrir þjálfunarverkefni sem rúmast innan 80 GB.

Get ég fínstillt 70B líkan á einu H100 SXM?

Með QLoRA, já: 4-bita 70B vigrar taka um 35–40 GB, sem skilur eftir pláss fyrir millistykki (adapters), virkjanir og stöðu bestunaraðila. Full 16-bita fínstilling á 70B krefst margra GPU-korta.

Hvað greiði ég þegar H100 SXM þjónninn er stöðvaður á Cloudj?

Í tímagjaldi er aðeins greitt fyrir diskpláss þegar þjónn er stöðvaður. Eyddu þjóninum þegar þú hefur afritað vörðurnar þínar (checkpoints) og þá hættirðu greiðslum að fullu.

GPU Cloud · NVIDIA · Hopper

Leigðu NVIDIA H100 SXM GPU með 80 GB VRAM

Leigðu H100 SXM GPU-skýjaþjóna í tímaleigu á Cloudj: 80 GB VRAM, NVIDIA Hopper, um 53.5 TFLOPS FP32 og 2869 GB/s minnisbandbreidd. Með 700 W aflmörkum er þetta rétti H100 kosturinn fyrir teymi sem þjálfa, fínstilla og keyra stór líkön og vilja hraðvirkustu Hopper-eininguna í úrvalinu hvað varðar reiknigetu. Ræstu PyTorch-, vLLM- eða Unsloth-sniðmát og tengstu með SSH í örfáum skrefum.

Leigja H100 SXM Öll GPU

Tæknilýsing fyrir H100 SXM

VRAM á hvert GPU

80 GB

Arkitektúr

NVIDIA Hopper

Reiknigeta

FP32-reiknigeta

≈ 53.5 TFLOPS

Bandvídd minnis

≈ 2869 GB/s

Aflmörk

700 W

Gildi gefin upp af innviðaveitanda fyrir vélar sem nú eru á skrá; raunveruleg afköst eru breytileg eftir vélum.

Virkar H100 SXM uppsetningar og verð

Rauntímabirgðir og verð, uppfært stöðugt. Lokaverð er staðfest áður en þú pantar.

Leigja núna

Hvað þú getur keyrt á H100 SXM skýja-GPU

Reiknifrek þjálfun

53.5 TFLOPS FP32 og 700 W aflmörk veita H100 SXM mestu reiknigetu allra Hopper-korta sem talin eru upp hér.

Hraðvirk LLM-ályktun

2869 GB/s bandbreidd flýtir fyrir token-myndun fyrir 13B–34B líkön í 16-bita eða kvantuð 70B líkön.

Full fínstilling á 7B–13B líkönum

80 GB gefa svigrúm fyrir fínstillingu allra stika (full-parameter) í smærri mállíkönum, ekki bara millistykkjum (adapters), með réttum stillingum á bestara.

Þjálfun diffusion- og myndbandalíkana

Þjálfaðu eða fínstilltu mynd- og myndbandalíkön þar sem bæði minni og reiknigeta ráða því hversu langan tíma keyrslan tekur.

Er H100 SXM rétta GPU-kortið fyrir þitt vinnuálag?

Veldu H100 SXM þegar þjálfunar- eða ályktunarálag krefst 80 GB af háhraðaminni fyrir gagnaver og eiginleika Hopper-arkitektúrsins. Minni vinnustöðvar- eða neytenda-GPU er hagkvæmari kostur fyrir léttari þróun eða smá líkön, en nýrri eða öflugri gagnavers-GPU hentar betur ef stök vél rúmar ekki allt líkanið innan 80 GB af VRAM.

H100 SXM samanborið við svipuð skýja-GPU

GPU	VRAM á hvert GPU	FP32-reiknigeta	Aflmörk
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Skoða nánar →
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Skoða nánar →
NVIDIA H100 NVL	94 GB	≈ 48.3 TFLOPS	400 W	Skoða nánar →
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W	Skoða nánar →

H100 SXM skýja-GPU: Algengar spurningar

Leigðu H100 SXM skýja-GPU á klukkustund

Veldu sniðmát, veldu virka uppsetningu og tengstu með SSH eða skipanalínu í vafra. Gjaldtaka stöðvast þegar þú eyðir GPU-kortinu.

Leigja H100 SXM Öll GPU