Näme üçin H100 PCIE ýerine H100 SXM saýlamaly?

H100 SXM 350 W ýerine 700 W çäk bilen, PCIE kartynyň 41 TFLOPS we 1760 GB/s görkezijilerine garanyňda 53.5 TFLOPS FP32 we 2869 GB/s bilen bellenendir. Her bir ýumuş boýunça ol adatça has çalt tamamlaýar.

LLM-ler üçin H100 SXM gowumy ýa-da H200 NVL?

H200 NVL 140 GB we 3884 GB/s parametrlerine eýe, şonuň üçin ol örän uly modeller we uzyn kontekstler üçin öňe saýlanýar. H100 SXM has köp FP32 hasaplama kuwwatyna (53.5 vs 48.3 TFLOPS) eýedir we 80 GB sygymyna sygýan türgenleşik işlerine laýyk gelýär.

Bir sany H100 SXM-de 70B modelini sazlap (fine-tune) bolarmy?

QLoRA bilen, hawa: 4-bit 70B agramlary takmynan 35–40 GB eýeleýär we adapterler, aktiwasiýalar hem-de optimizator ýagdaýy üçin ýer galdyrýar. 70B modeliniň doly 16-bit sazlanmagy üçin birnäçe GPU gerek bolýar.

Cloudj-de H100 SXM serweri duruzylanda men näme töleýärin?

Sagatlaýyn hasaplaşykda, duruzylan serwer üçin diňe disk tölegi alynýar. Barlag nokatlaryňyzy (checkpoints) göçürip alanyňyzdan soň serweri pozuň we töleg tölemegi doly bes ediň.

GPU Cloud · NVIDIA · Hopper

80 GB VRAM bilen NVIDIA H100 SXM GPU kärendesine alyň

Cloudj-de H100 SXM bulut GPU serwerlerini sagatlaýyn kireýine alyň: 80 GB VRAM, NVIDIA Hopper, takmynan 53.5 TFLOPS FP32 we 2869 GB/s ýat geçirijilik ukyby. 700 W güýç çägi bilen bu uly modelleri türgenleşdirýän, sazlaýan we hyzmat edýän hem-de hasaplama üçin hataryň iň çalt Hopper modulyny isleýän toparlar üçin niýetlenen H100-dir. PyTorch, vLLM ýa-da Unsloth şablonyny işlediň we birnäçe ädimde SSH arkaly birigiň.

H100 SXM kärendesine alyň Ähli GPU-lar

H100 SXM tehniki aýratynlyklary

Her GPU üçin VRAM

80 GB

Arhitektura

NVIDIA Hopper

Hasaplama ukyby

FP32 hasaplamasy

≈ 53.5 TFLOPS

Ýat geçirijiligi

≈ 2869 GB/s

Kuwwat çägi

700 W

Bahalar häzirki sanawdaky maşynlar üçin infrastruktura üpjün edijisi tarapyndan görkezilendir; hakyky öndürijilik maşyna görä üýtgäp biler.

Elýeterli H100 SXM konfigurasiýalary we bahalary

Hakyky wagt ätiýajy we bahalar yzygiderli täzelenýär. Gutarnykly baha sargyt etmezden öň tassyklanylýar.

Häzir kärendesine alyň

H100 SXM bulut GPU-synda nämeleri işledip bilersiňiz

Ýokary hasaplamaly türgenleşik

53.5 TFLOPS FP32 we 700 W güýç çägi H100 SXM-e bu ýerde sanalan ähli Hopper kartlarynyň arasynda iň ýokary hasaplama kuwwatyny berýär.

Çalt LLM inferensi

2869 GB/s geçirijilik ukyby 16-bit 13B–34B modelleri ýa-da kwantlanan 70B modelleri üçin token döretmegi çaltlaşdyrýar.

7B–13B modellerini doly sazlamak (fine-tuning)

80 GB dogry optimizator sazlamalary bilen diňe bir adapterler däl, eýsem has kiçi LLM-leriň hem doly parametrli sazlanmagy üçin ýer galdyrýar.

Diffuziýa we wideo modelleriniň türgenleşigi

Işiň näçe wagt aljakdygyny hem ýadyň, hem hasaplamanyň kesgitleýän surat we wideo modellerini türgenleşdiriň ýa-da sazlaň.

H100 SXM siziň iş ýüküňiz üçin dogry GPU-my?

Türgenleşik ýa-da inferens iş ýükleriňiz 80 GB ýokary geçirijilikli maglumat merkezi ýadyny we Hopper arhitekturasynyň aýratynlyklaryny talap edýän bolsa, H100 SXM-i saýlaň. Ýeňil işläp düzmek ýa-da kiçi modeller üçin has kiçi iş stansiýasy ýa-da sarp ediji GPU-sy has amatly saýlawdyr; ýöne ýekeje instans 80 GB VRAM-da tutuş modeliňizi saklap bilmeýän bolsa, has täze ýa-da has ýokary sygymly maglumat merkezi GPU-syna artykmaçlyk berilýär.

H100 SXM meňzeş bulut GPU-laryna garşy

GPU	Her GPU üçin VRAM	FP32 hasaplamasy	Kuwwat çägi
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Jikme-jiklikler →
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Jikme-jiklikler →
NVIDIA H100 NVL	94 GB	≈ 48.3 TFLOPS	400 W	Jikme-jiklikler →
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W	Jikme-jiklikler →

H100 SXM bulut GPU: köp berilýän soraglar

H100 SXM bulut GPU-syny sagatlaýyn kärendesine alyň

Şablon saýlaň, elýeterli konfigurasiýany saýlaň we SSH ýa-da brauzer terminaly arkaly birigiň. GPU-ny pozanyňyzda töleg duruzylýar.

H100 SXM kärendesine alyň Ähli GPU-lar