Prečo uprednostniť H100 SXM pred H100 PCIE?

H100 SXM ponúka 53,5 TFLOPS FP32 a 2869 GB/s v porovnaní so 41 TFLOPS a 1760 GB/s pri verzii PCIE, navyše so 700 W limitom namiesto 350 W. V praxi tak jednotlivé výpočtové úlohy dokončí spravidla rýchlejšie.

Je pre LLM vhodnejšia H100 SXM alebo H200 NVL?

H200 NVL disponuje kapacitou 140 GB a priepustnosťou 3884 GB/s, takže víťazí pri extrémne veľkých modeloch a dlhých kontextoch. H100 SXM zas ponúka vyšší výpočtový výkon FP32 (53,5 vs. 48,3 TFLOPS) a ideálne sa hodí na trénovacie úlohy, ktoré sa zmestia do 80 GB.

Dá sa 70B model vyladiť na jedinej H100 SXM?

Pri použití QLoRA áno: 4-bitové váhy 70B modelu zaberú zhruba 35–40 GB, čo ponecháva priestor na adaptéry, aktivácie aj stav optimalizátora. Plný 16-bitový fine-tuning 70B modelu už vyžaduje viacero GPU.

Čo platím na Cloudj, keď je server s H100 SXM zastavený?

Pri hodinovej fakturácii platíte za zastavený server iba využitý diskový priestor. Akonáhle skopírujete svoje checkpointy a server zmažete, neplatíte už vôbec nič.

GPU Cloud · NVIDIA · Hopper

Prenájom GPU NVIDIA H100 SXM s 80 GB VRAM

Prenajmite si cloudové GPU servery H100 SXM s hodinovou tarifikáciou na Cloudj: 80 GB VRAM, NVIDIA Hopper, približne 53,5 TFLOPS FP32 a pamäťová priepustnosť 2869 GB/s. Vďaka 700 W power limitu ide o model H100 pre tímy, ktoré trénujú, ladia (fine-tuning) a nasadzujú veľké modely a vyžadujú najrýchlejší výpočtový modul architektúry Hopper v ponuke. Spusťte šablónu s PyTorch, vLLM alebo Unsloth a pripojte sa cez SSH v priebehu pár krokov.

Prenajať H100 SXM Všetky GPU

Špecifikácie H100 SXM

VRAM na GPU

80 GB

Architektúra

NVIDIA Hopper

Výpočtová kapacita (Compute capability)

Výkon v FP32

≈ 53.5 TFLOPS

Priepustnosť pamäte

≈ 2869 GB/s

Príkon (TDP)

700 W

Hodnoty uvádzané poskytovateľom infraštruktúry pre aktuálne ponúkané stroje; skutočný výkon sa môže medzi jednotlivými strojmi líšiť.

Aktuálne konfigurácie a ceny H100 SXM

Aktuálna dostupnosť a ceny v reálnom čase. Konečnú cenu potvrdíte pred odoslaním objednávky.

Prenajať ihneď

Čo môžete spustiť na cloudovom GPU H100 SXM

Výpočtovo náročné trénovanie

Výkon 53,5 TFLOPS FP32 a 700 W limit spotreby prinášajú H100 SXM najvyšší výpočtový výkon spomedzi všetkých tu uvedených kariet radu Hopper.

Rýchla inferencia LLM

Priepustnosť 2869 GB/s výrazne zrýchľuje generovanie tokenov pre 13B–34B modely v 16-bitoch alebo kvantizované 70B modely.

Kompletný fine-tuning 7B–13B modelov

80 GB pamäte poskytuje pri správnom nastavení optimalizátora dostatok priestoru na full-parameter ladenie menších LLM, nielen adaptérov.

Trénovanie difúznych a video modelov

Trénujte alebo dolaďujte obrazové a video modely, kde celkový čas behu určuje kombinácia kapacity pamäte a výpočtovej sily.

Je H100 SXM to správne GPU pre vašu záťaž?

Zvoľte H100 SXM, ak vaše trénovacie alebo inferenčné úlohy vyžadujú 80 GB vysokorýchlostnej dátacentrovej pamäte a pokročilé funkcie architektúry Hopper. Pre nenáročný vývoj alebo menšie modely predstavuje praktickejšiu voľbu menšie pracovné stanice alebo spotrebiteľské GPU, zatiaľ čo novšie či kapacitne väčšie dátacentrové GPU sú vhodnejšie vtedy, ak sa váš kompletný model nezmestí do 80 GB VRAM jednej inštancie.

H100 SXM vs. podobné cloudové GPU

GPU	VRAM na GPU	Výkon v FP32	Príkon (TDP)
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Podrobnosti →
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Podrobnosti →
NVIDIA H100 NVL	94 GB	≈ 48.3 TFLOPS	400 W	Podrobnosti →
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W	Podrobnosti →

Cloudové GPU H100 SXM: často kladené otázky

Prenajmite si cloudové GPU H100 SXM na hodinu

Vyberte si šablónu, zvoľte aktuálnu konfiguráciu a pripojte sa cez SSH alebo terminál v prehliadači. Účtovanie sa zastaví vo chvíli, keď GPU zmažete.

Prenajať H100 SXM Všetky GPU