80 GB VRAM бүхий NVIDIA H100 SXM GPU түрээслэх
Cloudj дээр H100 SXM клауд GPU серверийг цагаар түрээслээрэй: 80 GB VRAM, NVIDIA Hopper, ойролцоогоор 53.5 TFLOPS FP32 тооцоолох хүчин чадал болон 2869 GB/s санах ойн зурвасын өргөн. 700 W чадлын хязгаартай энэхүү H100 нь том загваруудыг сургах, fine-tune хийх болон ажиллуулах зориулалттай бөгөөд тооцоололд зориулсан цувралынхаа хамгийн хурдан Hopper модуль шаардлагатай багуудад зориулагдсан. PyTorch, vLLM эсвэл Unsloth бэлэн загварыг асаагаад хэдхэн алхмаар SSH-ээр холбогдоорой.
H100 SXM техникийн үзүүлэлтүүд
GPU тус бүрийн VRAM
80 GB
Архитектур
NVIDIA Hopper
Compute capability
9
FP32 тооцоолох чадвар
≈ 53.5 TFLOPS
Санах ойн зурвасын өргөн
≈ 2869 GB/s
Цахилгаан зарцуулалт (TDP)
700 W
Одоо бүртгэлтэй байгаа машинуудын дэд бүтцийн нийлүүлэгчээс өгсөн үзүүлэлтүүд; бодит гүйцэтгэл төхөөрөмжөөс хамаарч өөр байж болно.
H100 SXM-ийн бодит тохиргоо болон үнэ
Бодит нөөц болон үнэ байнга шинэчлэгдэнэ. Эцсийн үнэ захиалга хийхээс өмнө баталгаажна.
ТүрээслэхH100 SXM үүлэн GPU дээр юу ажиллуулах боломжтой вэ
Тооцоолол их шаардсан сургалт
53.5 TFLOPS FP32 болон 700 W чадлын хязгаар нь H100 SXM-ийг энд жагсаасан аль ч Hopper картуудаас хамгийн их тооцоолох чадвартай нь болгодог.
Хурдан LLM инференс
2869 GB/s зурвасын өргөн нь 16-bit форматтай 13B–34B загварууд эсвэл квантчилсан 70B загваруудын токен үүсгэх хурдыг нэмэгдүүлдэг.
7B–13B загваруудыг бүтэн fine-tune хийх
Оновчлогчийн зөв тохиргоотой үед 80 GB нь зөвхөн адаптер гэлтгүй харьцангуй жижиг LLM-үүдийн бүх параметрийг бүтэн fine-tune хийх хангалттай зай олгоно.
Диффуз болон видео загварын сургалт
Санах ой болон тооцоолох чадвар хоёулаа ажиллах хугацааг тодорхойлдог зураг болон видео загваруудыг сургах эсвэл fine-tune хийхэд тохиромжтой.
H100 SXM нь таны ажлын ачаалалд тохирох GPU мөн үү?
Таны сургалт эсвэл инференсийн ачаалалд 80 GB өндөр зурвасын өргөнтэй дата төвийн санах ой болон Hopper архитектурын боломжууд шаардлагатай үед H100 SXM-ийг сонгоорой. Хөнгөн хөгжүүлэлт эсвэл жижиг загваруудын хувьд жижиг ажлын станц эсвэл хэрэглэгчийн GPU нь илүү практик сонголт байдаг бол нэг инстанс таны загварыг бүхэлд нь 80 GB VRAM-д багтааж чадахгүй тохиолдолд илүү шинэ эсвэл илүү өндөр багтаамжтай дата төвийн GPU-г илүүд үзнэ.
H100 SXM болон төстэй үүлэн GPU-үүдийн харьцуулалт
| GPU | GPU тус бүрийн VRAM | FP32 тооцоолох чадвар | Цахилгаан зарцуулалт (TDP) | |
|---|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Дэлгэрэнгүй → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Дэлгэрэнгүй → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | Дэлгэрэнгүй → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | Дэлгэрэнгүй → |
H100 SXM үүлэн GPU: түгээмэл асуулт, хариулт
H100 SXM үүлэн GPU-г цагаар түрээслээрэй
Бэлэн загвар болон тохиргоогоо сонгоод SSH эсвэл хөтчийн терминалаар шууд холбогдоорой. GPU-г устгахад төлбөр тооцоо шууд зогсоно.