ເຊົ່າ GPU NVIDIA A800 PCIE ພ້ອມ 80 GB VRAM
ເຊົ່າ GPU A800 PCIE ລາຍຊົ່ວໂມງເທິງ Cloudj: VRAM ຂະໜາດ 80 GB ເທິງ NVIDIA Ampere ພ້ອມ memory bandwidth ປະມານ 1598 GB/s, ເຮັດໃຫ້ຮອງຮັບ LLM ລະດັບ 70B ໄດ້ເທິງກາດດຽວ. ອອກແບບມາສຳລັບທີມ AI ທີ່ຕ້ອງການໜ່ວຍຄວາມຈຳສູງກວ່າ A100 40 GB ເຖິງ 2 ເທົ່າ ເພື່ອໃຊ້ງານ serving, fine-tuning ແລະ ວຽກ long-context ດ້ວຍ 15.6 TFLOPS FP32 ແລະ ຂີດຈຳກັດການໃຊ້ໄຟ 300 W. ເລີ່ມຕົ້ນໃຊ້ງານໄດ້ທັນທີຈາກ template ຂອງ vLLM, SGLang ຫຼື Unsloth ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH.
ຂໍ້ມູນສະເພາະຂອງ A800 PCIE
VRAM ຕໍ່ GPU
80 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Ampere
Compute capability
8
ພະລັງປະມວນຜົນ FP32
≈ 15.6 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 1598 GB/s
ຂີດຈຳກັດພະລັງງານ
300 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ A800 PCIE ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU A800 PCIE
ຣັນ model ລະດັບ 70B ເທິງ GPU ດຽວ
Serve model 70B ແບບ 4-bit ພ້ອມພື້ນທີ່ເຫຼືອສຳລັບ KV cache, ຫຼື model 30B–34B ແບບ 16-bit ໂດຍໃຊ້ vLLM ຫຼື SGLang.
Inference ແບບ Long-context
80 GB ມີພື້ນທີ່ເຫຼືອພຽງພໍສຳລັບ prompt ທີ່ມີຄວາມຍາວ ແລະ ການປະມວນຜົນຫຼາຍ sequence ພ້ອມກັນ ເຊິ່ງຈະເກີນຂີດຈຳກັດຂອງກາດ 40 GB.
Fine-tuning LLM ຂະໜາດກາງ
ຣັນ LoRA ເທິງ model ຂະໜາດ 13B–34B ໃນຮູບແບບ BF16 ຫຼື QLoRA ເທິງ model ທີ່ໃຫຍ່ກວ່ານັ້ນດ້ວຍ Unsloth ໂດຍບໍ່ຈຳເປັນຕ້ອງ sharding ຂ້າມ GPU.
Data science ທີ່ໃຊ້ໜ່ວຍຄວາມຈຳສູງ
ເກັບ tensor ຂະໜາດໃຫຍ່, graph ຫຼື feature matrix ໄວ້ໃນໜ່ວຍຄວາມຈຳ GPU ສຳລັບການເຮັດວຽກຂອງ RAPIDS ຫຼື PyTorch.
A800 PCIE ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກໃຊ້ A800 PCIE ເມື່ອຄວາມຕ້ອງການຫຼັກຂອງທ່ານຄື ຄວາມຈຸໜ່ວຍຄວາມຈຳ 80 GB ສຳລັບ model AI ຂະໜາດໃຫຍ່ ຫຼາຍກວ່າພະລັງການປະມວນຜົນ single-precision ແບບດິບ. ຖ້າຫາກວຽກຂອງທ່ານໃຊ້ໜ່ວຍຄວາມຈຳໜ້ອຍກວ່ານີ້, workstation ຫຼື consumer GPU ທີ່ VRAM ຕ່ຳກວ່າຈະເໝາະສົມກວ່າ, ຂະນະທີ່ວຽກທີ່ເນັ້ນການປະມວນຜົນ (compute-bound) ອາດຈະໄດ້ຮັບປະໂຫຍດສູງກວ່າຈາກສະຖາປັດຕະຍະກຳ datacenter ລຸ້ນໃໝ່.
A800 PCIE ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | ລາຍລະອຽດ → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | ລາຍລະອຽດ → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | ລາຍລະອຽດ → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | ລາຍລະອຽດ → |
Cloud GPU A800 PCIE: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU A800 PCIE ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.