ເຊົ່າ GPU NVIDIA H100 PCIE ພ້ອມ 80 GB VRAM
ເຊົ່າ GPU H100 PCIE ລາຍຊົ່ວໂມງເທິງ Cloudj: VRAM ຂະໜາດ 80 GB ເທິງ NVIDIA Hopper, ປະມານ 41 TFLOPS FP32 ແລະ ແບນວິດຫນ່ວຍຄວາມຈຳ 1760 GB/s ສຳລັບການຝຶກອົບຮົມ ແລະ ການປະມວນຜົນ LLM inference. ນີ້ແມ່ນຈຸດເລີ່ມຕົ້ນສູ່ Hopper ສຳລັບທີມງານ AI ທີ່ຕ້ອງການ 80 GB ເທິງກາດດຽວ ທີ່ຂີດຈຳກັດການໃຊ້ໄຟ 350 W. ເລືອກເທມເພລດ PyTorch, vLLM ຫຼື Unsloth, ຢືນຢັນການຕັ້ງຄ່າ H100 PCIE ແບບສົດໆ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ໄດ້ທັນທີ.
ຂໍ້ມູນສະເພາະຂອງ H100 PCIE
VRAM ຕໍ່ GPU
80 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Hopper
Compute capability
9
ພະລັງປະມວນຜົນ FP32
≈ 41 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 1760 GB/s
ຂີດຈຳກັດພະລັງງານ
350 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ H100 PCIE ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU H100 PCIE
ການປັບແຕ່ງ (Fine-tuning) ໂມເດວຂະໜາດ 13B–34B
80 GB ຮອງຮັບ LoRA ສຳລັບໂມເດວລະດັບ 30B ໃນຮູບແບບ BF16 ແລະ QLoRA ສຳລັບໂມເດວລະດັບ 70B ດ້ວຍ Unsloth ໄດ້ຢ່າງສະບາຍ.
ການໃຫ້ບໍລິການ (Serving) ໂມເດວ 70B ແບບ quantized
ໂຮສຕ໌ໂມເດວ 70B ແບບ 4-bit ດ້ວຍ vLLM ຫຼື SGLang ເທິງ GPU ດຽວ, ຊ່ວຍໃຫ້ທ່ານຫຼີກລ່ຽງການແບ່ງສ່ວນ (sharding) ຂ້າມຫຼາຍ GPU ໃນຊ່ວງການສ້າງຕົ້ນແບບ.
ການຝຶກອົບຮົມແບບ Mixed-precision
ຝຶກອົບຮົມໂມເດວ transformers ແລະ diffusion ຕັ້ງແຕ່ເລີ່ມຕົ້ນ ຫຼື ສືບຕໍ່ pre-training ເທິງ Hopper ດ້ວຍ compute capability 9.0.
ການວິໄຈໂມເດວວິດີໂອ ແລະ ຮູບພາບ
ຣັນໂມເດວ diffusion ຂະໜາດໃຫຍ່ ແລະ ໂມເດວສ້າງວິດີໂອໃນ ComfyUI ທີ່ຕ້ອງການຫນ່ວຍຄວາມຈຳສູງກວ່າກາດຈໍລະດັບທົ່ວໄປ.
H100 PCIE ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກ H100 PCIE ເມື່ອວຽກຂອງທ່ານຕ້ອງການ VRAM ຂະໜາດ 80 GB, ແບນວິດຫນ່ວຍຄວາມຈຳລະດັບດາຕ້າເຊັນເຕີ, ແລະ ຄຸນສົມບັດ Hopper compute capability 9.0. ສຳລັບການເຮັດ inference ທີ່ເບົາບາງກວ່າ ຫຼື ໂມເດວຂະໜາດນ້ອຍກວ່າ, ການໃຊ້ workstation ຫຼື consumer GPU ທີ່ມີ VRAM ໜ້ອຍກວ່າຈະປະຢັດຄ່າໃຊ້ຈ່າຍກວ່າ, ໃນຂະນະທີ່ຄວາມຕ້ອງການ throughput ລະດັບສູງສຸດອາດເໝາະສົມກັບລຸ້ນດາຕ້າເຊັນເຕີແບບ SXM ຫຼາຍກວ່າ.
H100 PCIE ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | ລາຍລະອຽດ → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | ລາຍລະອຽດ → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | ລາຍລະອຽດ → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | ລາຍລະອຽດ → |
Cloud GPU H100 PCIE: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU H100 PCIE ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.