Merr me qira një GPU NVIDIA Tesla V100 me 16 GB VRAM
Merrni me qira serverë cloud GPU Tesla V100 me orë në Cloudj: 16 GB VRAM, NVIDIA Volta dhe rreth 780 GB/s brez memorieje me 12.5 TFLOPS FP32. V100 prezantoi bërthamat Tensor Cores dhe mbetet një kartë e qëndrueshme datacenter për trajnim me saktësi të përzier FP16, riprodhim kërkimor dhe inferencë të madhësisë mesatare me një kufi konsumi prej 300 W. Zgjidhni një shabllon PyTorch, kontrolloni kërkesat e tij për CUDA dhe lidhuni përmes SSH.
Specifikimet e Tesla V100
VRAM për GPU
16 GB
Arkitektura
NVIDIA Volta
Aftësia llogaritëse (Compute capability)
7
Llogaritje FP32
≈ 12.5 TFLOPS
Gjerësia e bandës së memories
≈ 780 GB/s
Kufiri i konsumit të energjisë
300 W
Vlerat raportohen nga ofruesi i infrastrukturës për makinat aktualisht të listuara; performanca reale ndryshon sipas makinës.
Konfigurimet live të Tesla V100 dhe çmimet
Gjendja dhe çmimet në kohë reale, të përditësuara vazhdimisht. Çmimi përfundimtar konfirmohet para porosisë tuaj.
Merr me qira taniÇfarë mund të ekzekutoni në GPU-në cloud Tesla V100
Trajnim me saktësi të përzier FP16
Bërthamat Volta Tensor Cores përshpejtojnë trajnimin FP16 për CNN, modele të vogla transformatorësh dhe modele të të folurit.
Riprodhoni rezultatet e publikuara
Shumë punime dhe baza krahasuese janë trajnuar në V100; ekzekutojini ato sërish në të njëjtën arkitekturë për shifra të krahasueshme.
Modele LLM 7B të kuantizuara
16 GB ekzekuton modele 7B–8B në 8-bit ose modele të klasës 13B në 4-bit për testim dhe shërbim të lehtë.
HPC dhe llogaritje shkencore
Brezi prej 780 GB/s ndihmon simulimet, zgjidhësit dhe kodet shkencore të kufizuara nga memoria.
A është Tesla V100 GPU-ja e duhur për ngarkesën tuaj të punës?
Tesla V100 16 GB është ideale për studiuesit dhe zhvilluesit që kanë nevojë për brez të gjerë memorieje për ngarkesa shkencore dhe modele të vogla deri në të mesme, pa paguar për pajisje më të reja datacenter. Zgjidhni një GPU më të vogël për konsumatorë për zhvillim bazë me kërkesa më të ulëta memorieje, ose kaloni në një GPU të një gjenerate më të re me më shumë VRAM nëse modelet tuaja tejkalojnë 16 GB ose kërkojnë veçori më të reja arkitekturore përtej compute capability 7.0.
Tesla V100 kundrejt GPU-ve të ngjashme cloud
GPU cloud Tesla V100: pyetjet më të shpeshta
Merrni me qira GPU-në cloud Tesla V100 me orë
Zgjidhni një shabllon, zgjidhni një konfigurim live dhe lidhuni përmes SSH ose terminalit të shfletuesit. Faturimi ndërpritet kur fshini GPU-në.