Merrni me qira GPU NVIDIA H100 SXM me 80 GB VRAM
Merrni me qira serverë cloud GPU H100 SXM me orë në Cloudj: 80 GB VRAM, NVIDIA Hopper, rreth 53.5 TFLOPS FP32 dhe 2869 GB/s brez memorieje. Me një kufi energjie prej 700 W, ky është H100 për ekipet që trajnojnë, bëjnë fine-tuning dhe shërbejnë modele të mëdha dhe kërkojnë modulin më të shpejtë Hopper në linjë për fuqi llogaritëse. Nisni një shabllon PyTorch, vLLM ose Unsloth dhe lidhuni me SSH në vetëm pak hapa.
Specifikimet e H100 SXM
VRAM për GPU
80 GB
Arkitektura
NVIDIA Hopper
Aftësia llogaritëse (Compute capability)
9
Llogaritje FP32
≈ 53.5 TFLOPS
Gjerësia e bandës së memories
≈ 2869 GB/s
Kufiri i konsumit të energjisë
700 W
Vlerat raportohen nga ofruesi i infrastrukturës për makinat aktualisht të listuara; performanca reale ndryshon sipas makinës.
Konfigurimet live të H100 SXM dhe çmimet
Gjendja dhe çmimet në kohë reale, të përditësuara vazhdimisht. Çmimi përfundimtar konfirmohet para porosisë tuaj.
Merr me qira taniÇfarë mund të ekzekutoni në GPU-në cloud H100 SXM
Trajnim me ngarkesë të lartë llogaritëse
53.5 TFLOPS FP32 dhe një kufi energjie prej 700 W i japin H100 SXM fuqinë më të lartë llogaritëse nga çdo kartë Hopper e listuar këtu.
Inferencë e shpejtë për LLM
2869 GB/s brez memorieje përshpejton gjenerimin e token-ëve për modelet 13B–34B në 16-bit ose modelet e kuantizuara 70B.
Fine-tuning i plotë i modeleve 7B–13B
80 GB lë hapësirë për fine-tuning me parametra të plotë të modeleve më të vogla LLM, jo vetëm adaptorë, me konfigurimet e duhura të optimizuesit.
Trajnim i modeleve të difuzionit dhe videove
Trajnoni ose bëni fine-tuning për modele imazhesh dhe videosh ku si memoria ashtu edhe fuqia llogaritëse përcaktojnë kohëzgjatjen e procesit.
A është H100 SXM GPU-ja e duhur për ngarkesën tuaj të punës?
Zgjidhni H100 SXM kur ngarkesat tuaja të punës për trajnim ose inferencë kërkojnë 80 GB memorie datacenter me brez të gjerë dhe veçoritë e arkitekturës Hopper. Një GPU më e vogël për stacione pune ose konsumatorë është zgjedhje më praktike për zhvillim të lehtë ose modele të vogla, ndërsa një GPU datacenter më e re ose me kapacitet më të lartë është e preferueshme nëse një instancë e vetme nuk mund të mbajë të gjithë modelin tuaj në 80 GB VRAM.
H100 SXM kundrejt GPU-ve të ngjashme cloud
GPU cloud H100 SXM: pyetjet më të shpeshta
Merrni me qira GPU-në cloud H100 SXM me orë
Zgjidhni një shabllon, zgjidhni një konfigurim live dhe lidhuni përmes SSH ose terminalit të shfletuesit. Faturimi ndërpritet kur fshini GPU-në.