Preskočiť na obsah
Cloudj
GPU Cloud · NVIDIA · Hopper

Prenájom GPU NVIDIA H100 PCIE s 80 GB VRAM

Prenajmite si GPU H100 PCIE s hodinovou tarifikáciou na Cloudj: 80 GB VRAM na architektúre NVIDIA Hopper, približne 41 TFLOPS FP32 a pamäťová priepustnosť 1760 GB/s na trénovanie aj inferenciu LLM. Predstavuje vstupnú bránu k architektúre Hopper pre AI tímy, ktoré chcú 80 GB na jedinej karte pri príkone 350 W. Vyberte si šablónu PyTorch, vLLM alebo Unsloth, potvrďte dostupnú konfiguráciu H100 PCIE a pripojte sa cez SSH.

Špecifikácie H100 PCIE

VRAM na GPU

80 GB

Architektúra

NVIDIA Hopper

Výpočtová kapacita (Compute capability)

9

Výkon v FP32

≈ 41 TFLOPS

Priepustnosť pamäte

≈ 1760 GB/s

Príkon (TDP)

350 W

Hodnoty uvádzané poskytovateľom infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže medzi jednotlivými strojmi líšiť.

Aktuálne konfigurácie a ceny H100 PCIE

Aktuálna dostupnosť a ceny v reálnom čase. Konečnú cenu potvrdíte pred odoslaním objednávky.

Prenajať ihneď

Čo môžete spustiť na cloudovom GPU H100 PCIE

Fine-tuning 13B–34B modelov

80 GB bez problémov pojme LoRA pre modely triedy 30B v BF16 aj QLoRA pre modely triedy 70B s Unsloth.

Prevádzka kvantizovaných 70B modelov

Prevádzkujte 4-bitový 70B model cez vLLM alebo SGLang na jednom GPU a vyhnite sa shardingu naprieč viacerými GPU počas prototypovania.

Trénovanie so zmiešanou presnosťou

Trénujte transformery a difúzne modely od základov alebo pokračujte v predtrénovaní na architektúre Hopper s compute capability 9.0.

Výskum obrazových a video modelov

Spúšťajte v ComfyUI veľké difúzne modely a generátory videa, ktoré vyžadujú viac pamäte, než ponúka akákoľvek bežná spotrebiteľská karta.

Je H100 PCIE to správne GPU pre vašu záťaž?

Zvoľte H100 PCIE, ak vaše úlohy vyžadujú 80 GB VRAM, dátacentrovú priepustnosť pamäte a funkcie Hopper compute capability 9.0. Pre menej náročnú inferenciu alebo menšie modely je ekonomickejšou voľbou pracovná stanica či spotrebiteľské GPU s menšou VRAM, zatiaľ čo požiadavky na extrémny výkon a priepustnosť si môžu vyžiadať dátacentrový variant SXM.

H100 PCIE vs. podobné cloudové GPU

GPUVRAM na GPUVýkon v FP32Príkon (TDP)
NVIDIA H100 PCIE80 GB≈ 41 TFLOPS350 W
NVIDIA H100 SXM80 GB≈ 53.5 TFLOPS700 WPodrobnosti →
NVIDIA A800 PCIE80 GB≈ 15.6 TFLOPS300 WPodrobnosti →
NVIDIA H100 NVL94 GB≈ 48.3 TFLOPS400 WPodrobnosti →
NVIDIA CMP 170HX64 GB≈ 12.1 TFLOPS250 WPodrobnosti →

Cloudové GPU H100 PCIE: často kladené otázky

Prenajmite si cloudové GPU H100 PCIE na hodinu

Vyberte si šablónu, zvoľte aktuálnu konfiguráciu a pripojte sa cez SSH alebo terminál v prehliadači. Účtovanie sa zastaví vo chvíli, keď GPU zmažete.