Merrni me qira GPU NVIDIA H100 PCIE me 80 GB VRAM
Merrni me qira GPU H100 PCIE me orë në Cloudj: 80 GB VRAM në NVIDIA Hopper, rreth 41 TFLOPS FP32 dhe brez kalimi të memories prej 1760 GB/s për trajnim dhe inferencë LLM. Është pika hyrëse në Hopper për ekipet e AI që kërkojnë 80 GB në një kartë të vetme me kufi konsumi prej 350 W. Zgjidhni një shabllon PyTorch, vLLM ose Unsloth, konfirmoni një konfigurim aktiv H100 PCIE dhe lidhuni përmes SSH.
Specifikimet e H100 PCIE
VRAM për GPU
80 GB
Arkitektura
NVIDIA Hopper
Aftësia llogaritëse (Compute capability)
9
Llogaritje FP32
≈ 41 TFLOPS
Gjerësia e bandës së memories
≈ 1760 GB/s
Kufiri i konsumit të energjisë
350 W
Vlerat raportohen nga ofruesi i infrastrukturës për makinat aktualisht të listuara; performanca reale ndryshon sipas makinës.
Konfigurimet live të H100 PCIE dhe çmimet
Gjendja dhe çmimet në kohë reale, të përditësuara vazhdimisht. Çmimi përfundimtar konfirmohet para porosisë tuaj.
Merr me qira taniÇfarë mund të ekzekutoni në GPU-në cloud H100 PCIE
Fine-tuning i modeleve 13B–34B
80 GB mjaftojnë për LoRA në modelet e klasës 30B në BF16 dhe QLoRA në modelet e klasës 70B me Unsloth.
Ofrimi i modeleve të kuantizuara 70B
Hostoni një model 70B 4-bit me vLLM ose SGLang në një GPU të vetme, duke shmangur ndarjen (sharding) në shumë GPU gjatë krijimit të prototipit.
Trajnim me saktësi të përzier (mixed-precision)
Trajnoni modele transformer dhe difuzioni nga e para ose vazhdoni para-trajnimin në Hopper me aftësi llogaritëse 9.0.
Kërkim për modelet e videove dhe imazheve
Ekzekutoni modele të mëdha difuzioni dhe gjenerimi video në ComfyUI që kërkojnë më shumë memorie se çdo kartë e zakonshme konsumatori.
A është H100 PCIE GPU-ja e duhur për ngarkesën tuaj të punës?
Zgjidhni H100 PCIE kur ngarkesat tuaja të punës kërkojnë 80 GB VRAM, brez kalimi memorie të nivelit datacenter dhe veçoritë e arkitekturës Hopper me aftësi llogaritëse 9.0. Për inferencë më të lehtë ose modele më të vogla, një GPU për workstation ose konsumatorë me më pak VRAM është më ekonomike, ndërsa kërkesat ekstreme për rendiment mund të kërkojnë variantin datacenter të bazuar në SXM.
H100 PCIE kundrejt GPU-ve të ngjashme cloud
GPU cloud H100 PCIE: pyetjet më të shpeshta
Merrni me qira GPU-në cloud H100 PCIE me orë
Zgjidhni një shabllon, zgjidhni një konfigurim live dhe lidhuni përmes SSH ose terminalit të shfletuesit. Faturimi ndërpritet kur fshini GPU-në.