Ikri GPU NVIDIA Tesla V100 b'16 GB VRAM
Ikri servers cloud GPU Tesla V100 bis-siegħa fuq Cloudj: 16 GB VRAM, NVIDIA Volta u madwar 780 GB/s memory bandwidth bi 12.5 TFLOPS FP32. Il-V100 introduċa t-Tensor Cores u jibqa' karta tad-datacenter soda għal taħriġ mixed-precision FP16, riproduzzjoni ta' riċerka u inference ta' daqs medju b'limitu ta' qawwa ta' 300 W. Agħżel template ta' PyTorch, iċċekkja r-rekwiżit tal-CUDA tiegħu u qabbad permezz ta' SSH.
Speċifikazzjonijiet ta' Tesla V100
VRAM għal kull GPU
16 GB
Arkitettura
NVIDIA Volta
Kapaċità ta' komputazzjoni
7
Komputazzjoni FP32
≈ 12.5 TFLOPS
Bandwidth tal-memorja
≈ 780 GB/s
Limitu tal-enerġija
300 W
Valuri rrappurtati mill-fornitur tal-infrastruttura għall-magni elenkati bħalissa; il-prestazzjoni reali tista' tvarja skont il-magna.
Konfigurazzjonijiet u prezzijiet f'ħin reali ta' Tesla V100
Stokk u prezzijiet diretti, aġġornati kontinwament. Il-prezz finali jiġi kkonfermat qabel tordna.
Ikri issaX'tista' tħaddem fuq il-cloud GPU Tesla V100
Taħriġ mixed-precision FP16
It-Tensor Cores ta' Volta jaċċelleraw it-taħriġ FP16 għal CNNs, transformers żgħar u mudelli tad-diskors.
Irriproduċi riżultati ppubblikati
Ħafna studji u linji bażi ġew imħarrġa fuq il-V100s; erġa' ħaddimhom fuq l-istess arkitettura għal numri komparabbli.
LLMs ta' 7B kkwantizzati
16 GB iħaddem mudelli ta' 7B–8B fi 8-bit jew mudelli tal-klassi 13B f'4-bit għal ittestjar u serving ħafif.
HPC u komputazzjoni xjentifika
780 GB/s ta' bandwidth jgħinu simulazzjonijiet, solvers u kodiċi xjentifiku li jiddependi ħafna mill-memorja.
Il-Tesla V100 hija l-GPU t-tajba għall-workload tiegħek?
It-Tesla V100 ta' 16 GB jixraq lil riċerkaturi u żviluppaturi li jeħtieġu memory bandwidth għolja għal mudelli żgħar sa medji u xogħlijiet xjentifiċi mingħajr ma jħallsu għal hardware ġdid tad-datacenter. Agħżel GPU tal-konsumatur iżgħar għal żvilupp bażiku bi ħtiġijiet ta' memorja aktar baxxi, jew għaddi għal GPU ta' ġenerazzjoni aktar ġdida b'VRAM akbar jekk il-mudelli tiegħek jaqbżu s-16 GB jew jeħtieġu karatteristiċi arkitettoniċi aktar ġodda lil hinn minn compute capability 7.0.
Tesla V100 vs cloud GPUs simili
| GPU | VRAM għal kull GPU | Komputazzjoni FP32 | Limitu tal-enerġija | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Dettalji → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Dettalji → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Dettalji → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Dettalji → |
Cloud GPU Tesla V100: mistoqsijiet frekwenti
Kri l-cloud GPU Tesla V100 bis-siegħa
Agħżel template, agħżel konfigurazzjoni f'ħin reali u kkonnettja permezz ta' SSH jew it-terminal tal-browser. Il-fatturazzjoni tieqaf meta tħassar il-GPU.