Háyà NVIDIA Tesla V100 GPU pẹ̀lú 16 GB VRAM
Yá àwọn sáfà GPU àwọsánmọ̀ Tesla V100 ní wákàtí-wákàtí lórí Cloudj: 16 GB VRAM, NVIDIA Volta àti ìwọ̀n bandwidth ìrántí tó tó 780 GB/s pẹ̀lú 12.5 TFLOPS FP32. V100 ló mú Tensor Cores wọlé, ó sì ṣì jẹ́ káàdì datacenter tó lágbára fún ìdánilẹ́kọ̀ọ́ FP16 mixed-precision, àtúntò àwọn àbájáde ìwádìí, àti ìgbéjáde àwọn àwòṣe aláwọ̀-àárín ní agbára iná tó mọ mọ 300 W. Yan àpẹẹrẹ àkànsí PyTorch kan, ṣàyẹ̀wò ohun tí CUDA ń fẹ́, kí o sì sopọ̀ nípasẹ̀ SSH.
Àwọn ànímọ́ ẹ̀rọ Tesla V100
VRAM fún GPU kọ̀ọ̀kan
16 GB
Àgbékalẹ̀
NVIDIA Volta
Agbára ìṣirò
7
Ìṣirò FP32
≈ 12.5 TFLOPS
Ìwọ̀n ìgbéjáde ìrántí
≈ 780 GB/s
Ààlà agbára iná
300 W
Àwọn iye tí olùpèsè àwọn ohun-èlò kọ̀mpútà jábọ̀ fún àwọn ẹ̀rọ tí ó wà lórí àtòjọ báyìí; iṣẹ́ gidi máa ń yàtọ̀ nípasẹ̀ ẹ̀rọ kọ̀ọ̀kan.
Àwọn ìṣètò Tesla V100 lọ́wọ́lọ́wọ́ àti àwọn iye owó wọn
Ọjà àti iye owó tààrà, tí a ń sọ dọ̀tun ní gbogbo ìgbà. A ó fìdí iye owó ìkẹyìn múlẹ̀ kí o tó béèrè.
Gbà á láyà báyìíÀwọn ohun tí o lè gbé ṣiṣẹ́ lórí cloud GPU Tesla V100
Ìdánilẹ́kọ̀ọ́ FP16 mixed-precision
Volta Tensor Cores ń mú kí ìdánilẹ́kọ̀ọ́ FP16 yára kánkán fún àwọn CNN, àwọn transformer kéékèèké, àti àwọn àwòṣe ohùn.
Tún àwọn àbájáde tí a tẹ̀jáde ṣe
Orí V100s ni a ti kọ́ ọ̀pọ̀lọpọ̀ àwọn ìwé ìwádìí àti ìpìlẹ̀ àkọ́kọ́; tún wọn sá lórí ẹ̀rọ kan náà láti rí àwọn nọ́mbà tó ṣe é fi wéra.
Àwọn LLM 7B tí a sọ di quantized
16 GB ń gbé àwọn àwòṣe 7B–8B ní 8-bit tàbí àwọn àwòṣe ìsọ̀rí 13B ní 4-bit fún àyẹ̀wò àti iṣẹ́ ìpèsè fífúyẹ́.
HPC àti ìṣirò ìmọ̀-ìjìnlẹ̀
Ìwọ̀n bandwidth 780 GB/s ń ran àwọn simulation, solvers, àti àwọn koodu ìmọ̀-ìjìnlẹ̀ tí ń lo ìrántí púpọ̀ lọ́wọ́.
Ǹjẹ́ Tesla V100 ni GPU tí ó tọ́ fún irú iṣẹ́ rẹ?
Tesla V100 16 GB dára gan-an fún àwọn olùwádìí àti àwọn olùgbédàgbà tí wọ́n nílò bandwidth ìrántí gíga fún àwọn àwòṣe kéékèèké sí aláwọ̀-àárín àti àwọn iṣẹ́ ìmọ̀-ìjìnlẹ̀ láìsanwó fún àwọn ohun-èèlò datacenter tuntun. Yan GPU oníbàárà tó kéré fún ìgbédàgbà ìpìlẹ̀ pẹ̀lú àìní ìrántí tó kéré, tàbí gbé e ga sí GPU ìran tuntun tí ó ní VRAM tóbijù tí àwọn àwòṣe rẹ bá ju 16 GB lọ tàbí tí wọ́n bá ń béèrè àwọn àbùdá ẹ̀rọ tuntun tí ó kọjá compute capability 7.0.
Tesla V100 ní àfiwé pẹ̀lú àwọn cloud GPU tó jọra
| GPU | VRAM fún GPU kọ̀ọ̀kan | Ìṣirò FP32 | Ààlà agbára iná | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Àwọn ẹ̀kúnrẹ́rẹ́ → |
Cloud GPU Tesla V100: àwọn ìbéèrè tí a ń béèrè lemọ́lemọ́
Yá cloud GPU Tesla V100 ní wákàtí kọ̀ọ̀kan
Yan àkójọ àpẹẹrẹ kan, yan ìṣètò tó wà lójú ẹsẹ̀, kí o sì sopọ̀ nípasẹ̀ SSH tàbí terminal aṣàwárí rẹ. Ìṣirò owó yóò dáwọ́ dúró ní kété tí o bá pa GPU náà rẹ́.