Direct naar inhoud
Cloudj
GPU Cloud · NVIDIA · Hopper

Huur een NVIDIA H100 NVL GPU met 94 GB VRAM

Huur H100 NVL cloud GPU-servers per uur op Cloudj: 94 GB VRAM, NVIDIA Hopper en circa 3381 GB/s geheugenbandbreedte voor large-model inference. Gebouwd voor LLM-teams die meer geheugen nodig hebben dan een 80 GB H100 en aanzienlijk snellere decoding wensen; levert 48.3 TFLOPS FP32 bij een vermogenslimiet van 400 W. Start een vLLM- of SGLang-template, kies een live H100 NVL-configuratie en maak verbinding via SSH.

H100 NVL specificaties

VRAM per GPU

94 GB

Architectuur

NVIDIA Hopper

Compute capability

9

FP32-rekenkracht

≈ 48.3 TFLOPS

Geheugenbandbreedte

≈ 3381 GB/s

Vermogenslimiet

400 W

Waarden gerapporteerd door de infrastructuurprovider voor momenteel getoonde machines; werkelijke prestaties kunnen per machine variëren.

Actuele H100 NVL-configuraties en prijzen

Actuele voorraad en prijzen, continu bijgewerkt. De definitieve prijs wordt bevestigd voordat je bestelt.

Nu huren

Wat je kunt draaien op de H100 NVL cloud-GPU

High-throughput LLM-serving

3381 GB/s aan bandbreedte versnelt tokengeneratie, en dankzij 94 GB past een gekwantiseerd 70B-model inclusief grote KV-cache op één enkele GPU.

Long-context- en RAG-pipelines

De extra 14 GB ten opzichte van een 80 GB-kaart kan direct worden ingezet voor contextlengte en gelijktijdige verzoeken.

Fine-tuning van 30B–70B-modellen

Draai LoRA op 30B-klasse modellen in BF16 of QLoRA op 70B-klasse modellen met Unsloth op één enkele Hopper-GPU.

Modelevaluatie op schaal

Voer snel benchmark-suites en A/B-evaluaties uit over verschillende checkpoints en verwijder de server zodra de scores binnen zijn.

Is de H100 NVL de juiste GPU voor jouw workload?

Kies voor de H100 NVL wanneer je AI- of compute-workloads meer geheugen vereisen dan standaard datacenterkaarten bieden, tot wel 94 GB aan VRAM. Een kleinere workstation- of consumenten-GPU is een betere keuze voor lichte inference en development, terwijl een multi-GPU-setup of een configuratie met meer geheugen vereist is als je modellen groter zijn dan 94 GB.

H100 NVL vs. vergelijkbare cloud-GPU's

GPUVRAM per GPUFP32-rekenkrachtVermogenslimiet
NVIDIA H100 NVL94 GB≈ 48.3 TFLOPS400 W
NVIDIA H100 SXM80 GB≈ 53.5 TFLOPS700 WDetails →
NVIDIA H100 PCIE80 GB≈ 41 TFLOPS350 WDetails →
NVIDIA A800 PCIE80 GB≈ 15.6 TFLOPS300 WDetails →
NVIDIA CMP 170HX64 GB≈ 12.1 TFLOPS250 WDetails →

H100 NVL cloud-GPU: veelgestelde vragen

Huur de H100 NVL cloud-GPU per uur

Kies een template, selecteer een actuele configuratie en maak direct verbinding via SSH of de browserterminal. De facturering stopt zodra je de GPU verwijdert.