ເຊົ່າ GPU NVIDIA H100 SXM ພ້ອມ 80 GB VRAM
ເຊົ່າເຊີບເວີ GPU cloud ແບບ H100 SXM ລາຍຊົ່ວໂມງເທິງ Cloudj: 80 GB VRAM, NVIDIA Hopper, ປະມານ 53.5 TFLOPS FP32 ແລະ memory bandwidth ສູງເຖິງ 2869 GB/s. ດ້ວຍຂີດຈຳກັດພະລັງງານ 700 W, ນີ້ແມ່ນ H100 ສຳລັບທີມງານທີ່ train, fine-tune ແລະ serve ໂມເດວຂະໜາດໃຫຍ່ ແລະ ຕ້ອງການໂມດູນ Hopper ທີ່ໄວທີ່ສຸດໃນລຸ້ນສຳລັບການປະມວນຜົນ. ເປີດໃຊ້ template PyTorch, vLLM ຫຼື Unsloth ແລ້ວເຊື່ອມຕໍ່ຜ່ານ SSH ໄດ້ງ່າຍໆໃນບໍ່ເທົ່າໃດຂັ້ນຕອນ.
ຂໍ້ມູນສະເພາະຂອງ H100 SXM
VRAM ຕໍ່ GPU
80 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Hopper
Compute capability
9
ພະລັງປະມວນຜົນ FP32
≈ 53.5 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 2869 GB/s
ຂີດຈຳກັດພະລັງງານ
700 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ H100 SXM ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU H100 SXM
ການ train ທີ່ເນັ້ນການປະມວນຜົນໜັກ
53.5 TFLOPS FP32 ແລະ ຂີດຈຳກັດພະລັງງານ 700 W ເຮັດໃຫ້ H100 SXM ມີພະລັງການປະມວນຜົນສູງສຸດໃນບັນດາກາດ Hopper ທີ່ລະບຸຢູ່ນີ້.
ການ inference ສຳລັບ LLM ຢ່າງວ່ອງໄວ
Bandwidth ຂະໜາດ 2869 GB/s ຊ່ວຍເລັ່ງການສ້າງ token ສຳລັບໂມເດວຂະໜາດ 13B–34B ໃນຮູບແບບ 16-bit ຫຼື ໂມເດວ 70B ແບບ quantized.
ການ full fine-tuning ໂມເດວ 7B–13B
80 GB ໃຫ້ພື້ນທີ່ພຽງພໍສຳລັບການ fine-tuning ແບບ full-parameter ຂອງ LLM ຂະໜາດນ້ອຍ, ບໍ່ແມ່ນພຽງແຕ່ adapters ເທົ່ານັ້ນ, ເມື່ອຕັ້ງຄ່າ optimizer ຢ່າງຖືກຕ້ອງ.
ການ train ໂມເດວ diffusion ແລະ ວິດີໂອ
Train ຫຼື fine-tune ໂມເດວຮູບພາບ ແລະ ວິດີໂອ ບ່ອນທີ່ທັງໜ່ວຍຄວາມຈຳ ແລະ ພະລັງການປະມວນຜົນເປັນຕົວຕັດສິນວ່າການຣັນຈະໃຊ້ເວລາດົນປານໃດ.
H100 SXM ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກ H100 SXM ເມື່ອວຽກ training ຫຼື inference ຂອງທ່ານຕ້ອງການໜ່ວຍຄວາມຈຳ datacenter ຄວາມໄວສູງຂະໜາດ 80 GB ແລະ ຄຸນສົມບັດສະຖາປັດຕະຍະກຳ Hopper. GPU ສຳລັບ workstation ຂະໜາດນ້ອຍ ຫຼື GPU ລະດັບ consumer ເປັນທາງເລືອກທີ່ເໝາະສົມກວ່າສຳລັບການພັດທະນາແບບບໍ່ໜັກ ຫຼື ໂມເດວຂະໜາດນ້ອຍ, ໃນຂະນະທີ່ GPU datacenter ລຸ້ນໃໝ່ກວ່າ ຫຼື ມີຄວາມຈຸສູງກວ່າຈະເໝາະກວ່າ ຖ້າຫາກ instance ດຽວບໍ່ສາມາດຮອງຮັບທັງໝົດຂອງໂມເດວຂອງທ່ານໃນ 80 GB VRAM.
H100 SXM ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | ລາຍລະອຽດ → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | ລາຍລະອຽດ → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | ລາຍລະອຽດ → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | ລາຍລະອຽດ → |
Cloud GPU H100 SXM: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU H100 SXM ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.