Manofa GPU NVIDIA Tesla V100 misy 16 GB VRAM
Manofa mpizara GPU cloud Tesla V100 isan'ora ao amin'ny Cloudj: 16 GB VRAM, NVIDIA Volta ary memory bandwidth manodidina ny 780 GB/s miaraka amin'ny 12.5 TFLOPS FP32. Ny V100 no nampiditra voalohany ny Tensor Cores ary mbola karatra datacenter matanjaka tsara ho an'ny fampiofanana FP16 mixed-precision, famerenana fikarohana ara-tsiansa ary inference salantsalany amin'ny fetran'aratra 300 W. Mifidiana template PyTorch, hamarino ny fepetra takin'ny CUDA ary mifandraisa avy hatrany amin'ny alalan'ny SSH.
Toetoetra ara-teknikan'ny Tesla V100
VRAM isaky ny GPU
16 GB
Maritrano
NVIDIA Volta
Fahaiza-mikajy (Compute capability)
7
Kajy FP32
≈ 12.5 TFLOPS
Bandwidth'ny fitadidiana
≈ 780 GB/s
Fetra herinaratra (TDP)
300 W
Sanda nambaran'ny mpamatsy fotodrafitrasa ho an'ny milina voatanisa ankehitriny; miovaova arakaraka ny milina ny fahaiza-miasa tena izy.
Fikirakirana sy vidin'ny Tesla V100 misy ankehitriny
Tahiry sy vidiny mivantana, havaozina hatrany. Hamafisina alohan'ny hanafatra ny vidiny farany.
Manofà dieny izaoIzay azonao alefa amin'ny cloud GPU Tesla V100
Fampiofanana FP16 mixed-precision
Mampitombo haingana ny fampiofanana FP16 ho an'ny CNN, transformer kely ary maodely feo ny Volta Tensor Cores.
Avereno ny vokatra navoaka
Maro ny fikarohana sy baseline nampiofanina tamin'ny V100; avereno alefa amin'ny maritrano mitovy mba hahazoana tarehimarika azo ampitahaina.
LLM 7B quantized
Mahazaka maodely 7B–8B amin'ny 8-bit na maodely sokajy 13B amin'ny 4-bit ny 16 GB ho an'ny fitsapana sy fampiasana maivana.
HPC sy kajy ara-tsiansa
Manampy ny simulation, solvers ary kaody ara-tsiansa miankina amin'ny fitadidiana ny bandwidth 780 GB/s.
Moa ve ny Tesla V100 no GPU sahaza indrindra ho an'ny asanao?
Mety tsara ho an'ny mpikaroka sy ny mpamorona mila memory bandwidth ambony ho an'ny maodely kely ka hatramin'ny salantsalany sy ny asa ara-tsiansa ny Tesla V100 16 GB, nefa tsy mila mandoa vola be amin'ny fitaovana datacenter vaovao kokoa. Mifidiana GPU ho an'ny mpanjifa tsotra ho an'ny fampandrosoana fototra mila fitadidiana kely kokoa, na miakara amin'ny GPU taranaka vaovao manana VRAM lehibe kokoa raha mihoatra ny 16 GB ny maodelinao na mila endri-maritrano vaovao mihoatra ny compute capability 7.0.
Tesla V100 ampitahaina amin'ireo cloud GPU mitovitovy aminy
| GPU | VRAM isaky ny GPU | Kajy FP32 | Fetra herinaratra (TDP) | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Antsipiriany → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Antsipiriany → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Antsipiriany → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Antsipiriany → |
Cloud GPU Tesla V100: Fanontaniana matetika apetraka
Manofà cloud GPU Tesla V100 aloa isan'ora
Misafidiana modely, fidio ny fikirakirana tianao, ary mifandraisa amin'ny alalan'ny SSH na ny terminal anaty navigateur. Mijanona avy hatrany ny fandoavam-bola rehefa voafafanao ilay GPU.