ເຊົ່າ GPU NVIDIA A100 PCIE ພ້ອມ 40 GB VRAM
ເຊົ່າເຊີບເວີ cloud GPU A100 PCIE ລາຍຊົ່ວໂມງເທິງ Cloudj: 40 GB VRAM, ສະຖາປັດຕະຍະກຳ Ampere ແລະ ແບນວິດຫນ່ວຍຄວາມຈຳປະມານ 1313 GB/s ສຳລັບວຽກ LLM ແລະ ການຝຶກອົບຮົມໂມເດວ. ນີ້ແມ່ນບາດກ້າວສູ່ດາຕ້າເຊັນເຕີຕົວຈິງສຳລັບວິສະວະກອນ ML ທີ່ໂມເດວບໍ່ສາມາດລົງໃນກາດຈໍເກມໄດ້ອີກຕໍ່ໄປ, ພ້ອມດ້ວຍ 15.6 TFLOPS FP32, ຂີດຈຳກັດການໃຊ້ໄຟ 250 W ແລະ compute capability 8.0. ເລີ່ມຕົ້ນຈາກ template PyTorch, vLLM ຫຼື Unsloth, ເລືອກການກຳນົດຄ່າຕົວຈິງ ແລ້ວເຊື່ອມຕໍ່ຜ່ານ SSH ໄດ້ທັນທີ.
ຂໍ້ມູນສະເພາະຂອງ A100 PCIE
VRAM ຕໍ່ GPU
40 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Ampere
Compute capability
8
ພະລັງປະມວນຜົນ FP32
≈ 15.6 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 1313 GB/s
ຂີດຈຳກັດພະລັງງານ
250 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ A100 PCIE ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU A100 PCIE
ໃຫ້ບໍລິການໂມເດວ 13B–34B ດ້ວຍ vLLM
40 GB ຮອງຮັບໂມເດວ 13B ແບບ 16-bit ຫຼື ໂມເດວລະດັບ 30B ທີ່ຖືກ quantized, ແລະ 1313 GB/s ຊ່ວຍໃຫ້ການສ້າງ token ດຳເນີນໄປຢ່າງຕໍ່ເນື່ອງພາຍໃຕ້ຄຳຮ້ອງຂໍພ້ອມໆກັນ.
ການ fine-tune ດ້ວຍ LoRA ແລະ QLoRA
Fine-tune ໂມເດວພາສາ 7B–13B ດ້ວຍຂໍ້ມູນຂອງທ່ານເອງໂດຍໃຊ້ Unsloth ຫຼື PyTorch ທຳມະດາໃນແບບ BF16 ໂດຍບໍ່ຈຳເປັນຕ້ອງບີບຂະໜາດ batch size ໃຫ້ພໍດີ.
ການຝຶກອົບຮົມແບບ mixed-precision
ຝຶກອົບຮົມໂມເດວ vision, speech ຫຼື tabular ໃນແບບ BF16 ເທິງກາດດາຕ້າເຊັນເຕີທີ່ມີຄວາມສະຖຽນ ແທນທີ່ຈະຕ້ອງເຊົ່າ node ແບບ multi-GPU ເຕັມຮູບແບບ.
Embeddings ແລະ batch inference
ປະມວນຜົນຊຸດເອກະສານຂະໜາດໃຫຍ່ຜ່ານໂມເດວ embedding ຫຼື classification ຂ້າມຄືນ ແລະ ລຶບເຊີບເວີຖິ້ມເມື່ອການປະມວນຜົນ batch ສຳເລັດ.
A100 PCIE ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກ A100 PCIE 40 GB ເມື່ອວຽກຂອງທ່ານເກີນຂີດຈຳກັດຫນ່ວຍຄວາມຈຳຂອງ GPU ທົ່ວໄປ ແລະ ຕ້ອງການຮາດແວລະດັບດາຕ້າເຊັນເຕີທີ່ມີແບນວິດສູງ. ເລືອກໃຊ້ GPU ທົ່ວໄປຂະໜາດນ້ອຍກວ່າສຳລັບ inference ແບບເບົາບາງ, ຫຼື ອັບເກຣດໄປໃຊ້ໂມເດວດາຕ້າເຊັນເຕີທີ່ມີ VRAM ສູງກວ່າ ຫາກໂມເດວທີ່ບໍ່ໄດ້ quantized ຫຼື ຂະໜາດ batch size ຂອງທ່ານເກີນ 40 GB.
A100 PCIE ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | ລາຍລະອຽດ → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | ລາຍລະອຽດ → |
| NVIDIA L40S | 45 GB | ≈ 73.3 TFLOPS | 350 W | ລາຍລະອຽດ → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | ລາຍລະອຽດ → |
Cloud GPU A100 PCIE: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU A100 PCIE ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.