Īrē NVIDIA H100 PCIE GPU ar 80 GB VRAM
Nomājiet H100 PCIE GPU ar stundas maksu platformā Cloudj: 80 GB VRAM uz NVIDIA Hopper arhitektūras, aptuveni 41 TFLOPS FP32 un 1760 GB/s atmiņas caurlaidspēja modeļu trenēšanai un LLM secināšanai (inference). Tas ir optimāls sākumpunkts Hopper arhitektūrai MI komandām, kurām nepieciešami 80 GB vienā kartē ar 350 W jaudas limitu. Izvēlieties PyTorch, vLLM vai Unsloth veidni, apstipriniet pieejamo H100 PCIE konfigurāciju un pieslēdzieties caur SSH.
H100 PCIE specifikācijas
VRAM katrai GPU
80 GB
Arhitektūra
NVIDIA Hopper
Skaitļošanas spēja
9
FP32 veiktspēja
≈ 41 TFLOPS
Atmiņas joslas platums
≈ 1760 GB/s
Jaudas limits
350 W
Vērtības, ko infrastruktūras nodrošinātājs norādījis pašlaik sarakstā esošajām iekārtām; faktiskā veiktspēja var atšķirties atkarībā no mašīnas.
Aktuālās H100 PCIE konfigurācijas un cenas
Pieejamība un cenas reāllaikā, tiek atjauninātas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Iznomāt tūlītKo var darbināt uz H100 PCIE mākoņa GPU
13B–34B modeļu pielāgošana (fine-tuning)
80 GB nodrošina pietiekamu vietu LoRA pielāgošanai 30B klases modeļiem BF16 formātā un QLoRA 70B klases modeļiem ar Unsloth.
Kvantizētu 70B modeļu darbināšana
Darbiniekiet 4-bitu 70B modeli ar vLLM vai SGLang vienā GPU, izvairoties no multi-GPU sadalīšanas (sharding) prototipēšanas posmā.
Jauktas precizitātes trenēšana
Trenējiet transformatoru un difūzijas modeļus no nulles vai turpiniet iepriekšēju apmācību uz Hopper ar 9.0 skaitļošanas spēju (compute capability).
Video un attēlu modeļu pētniecība
Darbiniet lielus difūzijas un video ģenerēšanas modeļus vidē ComfyUI, kam nepieciešams lielāks atmiņas apjoms nekā jebkurai patērētāju klases kartei.
Vai H100 PCIE ir piemērotākais GPU jūsu darba slodzei?
Izvēlieties H100 PCIE, ja jūsu darba slodzēm nepieciešami 80 GB VRAM, datu centru līmeņa atmiņas caurlaidspēja un Hopper 9.0 skaitļošanas spējas iespējas. Vieglākai secināšanai vai mazākiem modeļiem ekonomiskāka būs darbstaciju vai patērētāju GPU ar mazāku VRAM apjomu, savukārt īpaši augstām caurlaidspējas prasībām piemērotāks būs uz SXM balstīts datu centru variants.
H100 PCIE salīdzinājumā ar līdzīgiem mākoņa GPU
H100 PCIE mākoņa GPU: biežāk uzdotie jautājumi
Nomājiet H100 PCIE mākoņa GPU pa stundām
Izvēlieties sagatavi, atlasiet pieejamo konfigurāciju un pieslēdzieties caur SSH vai pārlūka termināli. Apmaksa tiek apturēta, kad izdzēšat GPU.