16 GB VRAM бүхий NVIDIA Tesla V100 GPU түрээслэх
Cloudj дээр Tesla V100 клауд GPU серверүүдийг цагаар түрээслээрэй: 16 GB VRAM, NVIDIA Volta болон ойролцоогоор 780 GB/s санах ойн зурвасын өргөн, 12.5 TFLOPS FP32 хүчин чадалтай. V100 нь анх Tensor Cores-ийг нэвтрүүлсэн бөгөөд 300 W чадлын хязгаартайгаар FP16 mixed-precision сургалт, судалгааны үр дүнг давтан турших болон дунд хэмжээний inference ажиллуулахад дата төвийн найдвартай карт хэвээр байна. PyTorch темплэйт сонгоод, CUDA-ийн шаардлагыг нь шалгаж, SSH-ээр холбогдоорой.
Tesla V100 техникийн үзүүлэлтүүд
GPU тус бүрийн VRAM
16 GB
Архитектур
NVIDIA Volta
Compute capability
7
FP32 тооцоолох чадвар
≈ 12.5 TFLOPS
Санах ойн зурвасын өргөн
≈ 780 GB/s
Цахилгаан зарцуулалт (TDP)
300 W
Одоо бүртгэлтэй байгаа машинуудын дэд бүтцийн нийлүүлэгчээс өгсөн үзүүлэлтүүд; бодит гүйцэтгэл төхөөрөмжөөс хамаарч өөр байж болно.
Tesla V100-ийн бодит тохиргоо болон үнэ
Бодит нөөц болон үнэ байнга шинэчлэгдэнэ. Эцсийн үнэ захиалга хийхээс өмнө баталгаажна.
ТүрээслэхTesla V100 үүлэн GPU дээр юу ажиллуулах боломжтой вэ
FP16 mixed-precision сургалт
Volta Tensor Cores нь CNN, жижиг transformer болон яриа таних загваруудын FP16 сургалтыг хурдасгадаг.
Нийтлэгдсэн үр дүнг давтан турших
Олон судалгааны өгүүлэл, суурь загваруудыг V100 дээр сургасан байдаг тул харьцуулах боломжтой үзүүлэлт гаргахын тулд ижил архитектур дээр нь дахин ажиллуулаарай.
Квантчилсан 7B LLM-үүд
16 GB нь 7B–8B загваруудыг 8-bit-ээр, эсвэл 13B ангиллын загваруудыг 4-bit-ээр турших болон хөнгөн serving хийхэд хангалттай ажиллана.
HPC болон шинжлэх ухааны тооцоолол
780 GB/s санах ойн зурвасын өргөн нь симуляци, тооцоологч софтвер (solvers) болон санах ойноос хамааралтай шинжлэх ухааны кодуудыг хурдан ажиллуулахад тусалдаг.
Tesla V100 нь таны ажлын ачаалалд тохирох GPU мөн үү?
16 GB Tesla V100 нь шинэ үеийн дата төвийн техник хангамжид илүү мөнгө төлөхгүйгээр, жижиг болон дунд хэмжээний загварууд болон шинжлэх ухааны ачааллуудад санах ойн өндөр зурвасын өргөн шаардлагатай судлаачид, хөгжүүлэгчдэд нэн тохиромжтой. Санах ойн бага хэрэгцээтэй суурь хөгжүүлэлтэд илүү жижиг хэрэглэгчийн GPU сонгох, эсвэл загварууд тань 16 GB-аас хэтэрсэн эсвэл compute capability 7.0-оос хойших шинэ архитектурын боломжуудыг шаардаж байвал том VRAM бүхий шинэ үеийн GPU рүү шилжээрэй.
Tesla V100 болон төстэй үүлэн GPU-үүдийн харьцуулалт
| GPU | GPU тус бүрийн VRAM | FP32 тооцоолох чадвар | Цахилгаан зарцуулалт (TDP) | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Дэлгэрэнгүй → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Дэлгэрэнгүй → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Дэлгэрэнгүй → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Дэлгэрэнгүй → |
Tesla V100 үүлэн GPU: түгээмэл асуулт, хариулт
Tesla V100 үүлэн GPU-г цагаар түрээслээрэй
Бэлэн загвар болон тохиргоогоо сонгоод SSH эсвэл хөтчийн терминалаар шууд холбогдоорой. GPU-г устгахад төлбөр тооцоо шууд зогсоно.