ເຊົ່າ GPU NVIDIA RTX 2080 Ti ພ້ອມ VRAM 11 GB
ເຊົ່າເຊີບເວີ cloud GPU RTX 2080 Ti ລາຍຊົ່ວໂມງເທິງ Cloudj: 11 GB VRAM, ສະຖາປັດຕະຍະກຳ NVIDIA Turing ແລະ ປະມານ 14.6 TFLOPS FP32 ພ້ອມແບນວິດຫນ່ວຍຄວາມຈຳ 501 GB/s. ເປັນກາດຈໍລະດັບຜູ້ບໍລິໂພກລຸ້ນທັອບຂອງ Turing, ທາງເລືອກທີ່ຄຸ້ມຄ່າສຳລັບນັກພັດທະນາທີ່ຣັນ LLM ຂະໜາດ 13B ແບບ 4-bit, SD 1.5 ແລະ SDXL, ລວມທັງການເທຣນ FP16 ພາຍໃຕ້ຂີດຈຳກັດພະລັງງານ 250 W. ເລືອກແທັມເພຼັດ ComfyUI, Ollama ຫຼື PyTorch ແລ້ວເຊື່ອມຕໍ່ຜ່ານ SSH ໄດ້ທັນທີ.
ຂໍ້ມູນສະເພາະຂອງ RTX 2080 Ti
VRAM ຕໍ່ GPU
11 GB
ສະຖາປັດຕະຍະກຳ
NVIDIA Turing
Compute capability
7.5
ພະລັງປະມວນຜົນ FP32
≈ 14.6 TFLOPS
ແບນວິດໜ່ວຍຄວາມຈຳ
≈ 501 GB/s
ຂີດຈຳກັດພະລັງງານ
250 W
ຄ່າທີ່ສະແດງແມ່ນລາຍງານຈາກຜູ້ໃຫ້ບໍລິການໂຄງສ້າງພື້ນຖານສຳລັບເຄື່ອງທີ່ມີໃນລາຍການປັດຈຸບັນ; ປະສິດທິພາບຕົວຈິງອາດແຕກຕ່າງກັນໄປຕາມແຕ່ລະເຄື່ອງ.
ການກຳນົດຄ່າ ແລະ ລາຄາ RTX 2080 Ti ແບບສົດໆ
ສະຕັອກ ແລະ ລາຄາຕົວຈິງ ອັບເດດຢ່າງຕໍ່ເນື່ອງ. ລະບົບຈະຢືນຢັນລາຄາສຸດທ້າຍກ່ອນທີ່ທ່ານຈະສັ່ງຊື້.
ເຊົ່າເລີຍສິ່ງທີ່ທ່ານສາມາດຣັນໄດ້ເທິງ Cloud GPU RTX 2080 Ti
ໂມເດວ 13B ແບບ 4-bit
11 GB ຮອງຮັບໂມເດວ 13B ແບບ 4-bit ຫຼື ໂມເດວ 7B ແບບ 8-bit ໄດ້ຢ່າງສະບາຍ, ແລະ ຄວາມໄວ 501 GB/s ຊ່ວຍໃຫ້ການຕອບສະໜອງວ່ອງໄວ.
SDXL ພ້ອມການປັບແຕ່ງຫນ່ວຍຄວາມຈຳ
ຣັນ SDXL ໃນ ComfyUI ດ້ວຍ FP16 ພ້ອມຊຸດ add-on ພື້ນຖານ.
ການເທຣນ FP16
Turing Tensor Cores ແລະ 14.6 TFLOPS FP32 ເຮັດໃຫ້ເປັນກາດຈໍທີ່ມີປະສິດທິພາບສຳລັບການເທຣນຂະໜາດນ້ອຍຫາປານກາງ.
ການທົດສອບປະສິດທິພາບ Inference
ປຽບທຽບ engine ເຊັ່ນ vLLM, llama.cpp ແລະ TensorRT ເທິງມາດຕະຖານ Turing ທີ່ຄຸ້ນເຄີຍ.
RTX 2080 Ti ແມ່ນ GPU ທີ່ເໝາະສົມສຳລັບໜ້າວຽກຂອງທ່ານບໍ່?
ເລືອກ RTX 2080 Ti ສຳລັບການພັດທະນາ, ການເຮັດ inference ກັບໂມເດວຂະໜາດນ້ອຍ, ແລະ ວຽກເທຣນລະດັບປານກາງທີ່ພໍດີກັບ 11 GB VRAM. ເລືອກ GPU ທີ່ມີຫນ່ວຍຄວາມຈຳຫຼາຍກວ່າ ແລະ ສະຖາປັດຕະຍະກຳໃໝ່ກວ່າສຳລັບການເທຣນຂະໜາດໃຫຍ່ ຫຼື ໂມເດວແບບ unquantized, ຫຼື ປ່ຽນໄປໃຊ້ກາດຈໍລະດັບຜູ້ບໍລິໂພກຂະໜາດນ້ອຍກວ່າສຳລັບການດີບັກຂັ້ນພື້ນຖານ.
RTX 2080 Ti ທຽບກັບ Cloud GPU ອື່ນໆ ທີ່ຄ້າຍຄືກັນ
| GPU | VRAM ຕໍ່ GPU | ພະລັງປະມວນຜົນ FP32 | ຂີດຈຳກັດພະລັງງານ | |
|---|---|---|---|---|
| NVIDIA RTX 2080 Ti | 11 GB | ≈ 14.6 TFLOPS | 250 W | |
| NVIDIA GTX 1080 Ti | 11 GB | ≈ 11 TFLOPS | 250 W | ລາຍລະອຽດ → |
| NVIDIA RTX 3060 laptop | 12 GB | ≈ 12.9 TFLOPS | 80 W | ລາຍລະອຽດ → |
| NVIDIA RTX 3060 | 12 GB | ≈ 12 TFLOPS | 170 W | ລາຍລະອຽດ → |
| NVIDIA Titan Xp | 12 GB | ≈ 11.7 TFLOPS | 160 W | ລາຍລະອຽດ → |
Cloud GPU RTX 2080 Ti: ຄຳຖາມທີ່ພົບເລື້ອຍ
ເຊົ່າ Cloud GPU RTX 2080 Ti ແບບລາຍຊົ່ວໂມງ
ເລືອກ Template, ເລືອກການກຳນົດຄ່າພ້ອມໃຊ້ງານ ແລະ ເຊື່ອມຕໍ່ຜ່ານ SSH ຫຼື Terminal ເທິງບຣາວເຊີ. ການຄິດໄລ່ເງິນຈະຢຸດລົງເມື່ອທ່ານລຶບ GPU.