ເຊົ່າ GPU NVIDIA CMP 170HX ພ້ອມ 64 GB VRAM
ເຊົ່າເຊີບເວີ cloud GPU CMP 170HX ແບບລາຍຊົ່ວໂມງເທິງ Cloudj: ມາພ້ອມ 64 GB VRAM, ສະຖາປັດຕະຍະກຳ Ampere ແລະ memory bandwidth ປະມານ 1516 GB/s ສຳລັບວຽກປະມວນຜົນ memory-bound. ນີ້ແມ່ນກາດປະມວນຜົນ headless ສຳລັບນັກພັດທະນາທີ່ເນັ້ນແບນວິດ ແລະ ຄວາມຈຸຫຼາຍກວ່າຄວາມໄວ FP32 (12.1 TFLOPS, 250 W, compute capability 8.0). ທົດລອງໃຊ້ງານໄລຍະສັ້ນເທິງ template ຂອງ PyTorch ຫຼື Ollama ກ່ອນ ແລ້ວຈຶ່ງຂະຫຍາຍຂະໜາດວຽກໄດ້ຕາມຕ້ອງການ.
ຂໍ້ມູນສະເພາະຂອງ CMP 170HX
VRAM ຕໍ່ GPU
64 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Ampere
Compute capability
8
ພະລັງປະມວນຜົນ FP32
≈ 12.1 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 1516 GB/s
ຂີດຈຳກັດພະລັງງານ
250 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ CMP 170HX ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU CMP 170HX
Inference ແບບ Bandwidth-bound
ການສ້າງ token ຂອງ LLM ຖືກຈຳກັດຫຼັກໆ ດ້ວຍ memory bandwidth, ແລະ 1516 GB/s ແມ່ນຢູ່ໃນລະດັບດຽວກັນກັບກາດລະດັບ A100.
ການໂຮສຕ໌ Quantized LLM
ໂຫຼດໂມເດວ quantized ໃນ Ollama ຫຼື llama.cpp ແລ້ວໃຫ້ບໍລິການຜ່ານ API ສຳລັບການທົດສອບ ຫຼື ເຄື່ອງມືພາຍໃນ.
ການທົດລອງ CUDA kernel
ວິເຄາະປະສິດທິພາບ memory-heavy kernels ເທິງກາດ Ampere ທີ່ມີ compute capability 8.0 ກ່ອນຍ້າຍໄປສູ່ຮາດແວຣ໌ຂະໜາດໃຫຍ່ກວ່າ.
ການປະມວນຜົນຂໍ້ມູນແບບ Batch
ສົ່ງ array ຂະໜາດໃຫຍ່ຜ່ານ GPU memory ສຳລັບວຽກ transform, hashing ຫຼື analytics ທີ່ຈຳກັດດ້ວຍການເຂົ້າເຖິງໜ່ວຍຄວາມຈຳ.
CMP 170HX ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກ CMP 170HX ເມື່ອວຽກຂອງທ່ານຕິດຄໍຂວດ (bottleneck) ດ້ານຄວາມຈຸໜ່ວຍຄວາມຈຳ ແລະ ແບນວິດ ຫຼາຍກວ່າການປະມວນຜົນ single-precision ແບບດິບ. ເລືອກ GPU ທີ່ມີ compute throughput ສູງກວ່າ ຖ້າທ່ານຕ້ອງການຮອບການ train ທີ່ໄວກວ່າ, ຫຼື ເລືອກກາດລະດັບ consumer ຂະໜາດນ້ອຍກວ່າ ຖ້າໂມເດວຂອງທ່ານບໍ່ຈຳເປັນຕ້ອງໃຊ້ 64 GB VRAM.
CMP 170HX ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | ລາຍລະອຽດ → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | ລາຍລະອຽດ → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | ລາຍລະອຽດ → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | ລາຍລະອຽດ → |
Cloud GPU CMP 170HX: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU CMP 170HX ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.