Īrē NVIDIA Tesla V100 GPU ar 16 GB VRAM
Nomājiet Tesla V100 mākoņa GPU serverus ar stundas apmaksu platformā Cloudj: 16 GB VRAM, NVIDIA Volta un aptuveni 780 GB/s atmiņas caurlaidspēja ar 12.5 TFLOPS FP32. V100 ieviesa Tensor Cores un joprojām ir uzticama datu centru videokarte FP16 jauktās precizitātes apmācībai, pētījumu reproducēšanai un vidēja mēroga secināšanai (inference) ar 300 W jaudas limitu. Izvēlieties PyTorch sagatavi, pārbaudiet tās CUDA prasības un pieslēdzieties caur SSH.
Tesla V100 specifikācijas
VRAM katrai GPU
16 GB
Arhitektūra
NVIDIA Volta
Skaitļošanas spēja
7
FP32 veiktspēja
≈ 12.5 TFLOPS
Atmiņas joslas platums
≈ 780 GB/s
Jaudas limits
300 W
Vērtības, ko infrastruktūras nodrošinātājs norādījis pašlaik sarakstā esošajām iekārtām; faktiskā veiktspēja var atšķirties atkarībā no mašīnas.
Aktuālās Tesla V100 konfigurācijas un cenas
Pieejamība un cenas reāllaikā, tiek atjauninātas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Iznomāt tūlītKo var darbināt uz Tesla V100 mākoņa GPU
FP16 jauktās precizitātes apmācība
Volta Tensor Cores paātrina FP16 apmācību CNN, nelieliem transformatoru un runas modeļiem.
Publicēto rezultātu reproducēšana
Daudzi zinātniskie raksti un bāzes modeļi tika apmācīti uz V100; palaidiet tos atkārtoti uz tās pašas arhitektūras, lai iegūtu salīdzināmus rādītājus.
Kvantizēti 7B LLM modeļi
16 GB nodrošina 7B–8B modeļu darbināšanu 8-bit vai 13B klases modeļu darbināšanu 4-bit režīmā testēšanai un nelielai noslodzei.
HPC un zinātniskie aprēķini
780 GB/s caurlaidspēja palīdz simulācijām, vienādojumu risinātājiem un no atmiņas ātruma atkarīgiem zinātniskajiem kodiem.
Vai Tesla V100 ir piemērotākais GPU jūsu darba slodzei?
16 GB Tesla V100 ir piemērots pētniekiem un izstrādātājiem, kuriem nepieciešama liela atmiņas caurlaidspēja maziem un vidējiem modeļiem, kā arī zinātniskajām darba slodzēm, nepārmaksājot par jaunāku datu centru aparatūru. Izvēlieties mazāku patērētāju klases GPU vienkāršai izstrādei ar zemākām atmiņas prasībām vai pārejiet uz jaunākas paaudzes GPU ar lielāku VRAM, ja jūsu modeļi pārsniedz 16 GB vai tiem nepieciešamas jaunākas arhitektūras funkcijas, kas pārsniedz compute capability 7.0.
Tesla V100 salīdzinājumā ar līdzīgiem mākoņa GPU
Tesla V100 mākoņa GPU: biežāk uzdotie jautājumi
Nomājiet Tesla V100 mākoņa GPU pa stundām
Izvēlieties sagatavi, atlasiet pieejamo konfigurāciju un pieslēdzieties caur SSH vai pārlūka termināli. Apmaksa tiek apturēta, kad izdzēšat GPU.