Najem GPU NVIDIA Tesla V100 s 16 GB VRAM
Najemite oblačne strežnike GPU Tesla V100 na uro pri Cloudj: 16 GB VRAM, NVIDIA Volta in približno 780 GB/s pasovne širine pomnilnika z 12.5 TFLOPS FP32. Kartica V100 je uvedla jedra Tensor Cores in ostaja zanesljiva izbira za podatkovne centre pri treniranju z mešano natančnostjo FP16, reprodukciji raziskav ter srednje zahtevni inferenci pri porabi 300 W. Izberite predlogo PyTorch, preverite zahteve CUDA in se povežite prek SSH.
Specifikacije za Tesla V100
VRAM na GPU
16 GB
Arhitektura
NVIDIA Volta
Računska zmogljivost
7
Zmogljivost FP32
≈ 12.5 TFLOPS
Prepustnost pomnilnika
≈ 780 GB/s
Omejitev porabe
300 W
Vrednosti, ki jih navaja ponudnik infrastrukture za trenutno navedene strežnike; dejanska zmogljivost se lahko razlikuje glede na sistem.
Aktivne konfiguracije in cene za Tesla V100
Zaloga in cene v živo, ki se nenehno posodabljajo. Končna cena je potrjena pred naročilom.
Najemite zdajKaj lahko poganjate na oblačnem GPU-ju Tesla V100
Treniranje z mešano natančnostjo FP16
Jedra Tensor Cores arhitekture Volta pospešijo treniranje FP16 za modele CNN, manjše transformatorje in govorne modele.
Reprodukcija objavljenih rezultatov
Številne raziskave in referenčni modeli so bili trenirani na karticah V100; za primerljive rezultate jih ponovno zaženite na enaki arhitekturi.
Kvantizirani modeli LLM 7B
16 GB zadošča za poganjanje modelov 7B–8B v 8-bitni ali razreda 13B v 4-bitni kvantizaciji za testiranje in manj obremenjeno strežbo.
HPC in znanstveno računanje
Pasovna širina 780 GB/s koristi simulacijam, reševalcem in znanstvenim izračunom, omejenim s prepustnostjo pomnilnika.
Je Tesla V100 pravi GPU za vaše delovne obremenitve?
Kartica 16 GB Tesla V100 je odlična izbira za raziskovalce in razvijalce, ki potrebujejo visoko pasovno širino pomnilnika za manjše do srednje modele ter znanstvene delovne obremenitve, ne da bi plačevali za novejšo strojno opremo podatkovnih centrov. Izberite manjšo namensko uporabniško kartico GPU za osnovni razvoj z manjšimi potrebami po pomnilniku ali pa preidite na novejšo generacijo GPU z več VRAM-a, če vaši modeli presegajo 16 GB ali zahtevajo novejše arhitekturne funkcije nad raven compute capability 7.0.
Tesla V100 v primerjavi s podobnimi oblačnimi GPU-ji
| GPU | VRAM na GPU | Zmogljivost FP32 | Omejitev porabe | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Podrobnosti → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Podrobnosti → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Podrobnosti → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Podrobnosti → |
Oblačni GPU Tesla V100: pogosta vprašanja
Najemite oblačni GPU Tesla V100 na uro
Izberite predlogo, izberite aktivno konfiguracijo in se povežite prek SSH ali terminala v brskalniku. Obračunavanje se ustavi, ko izbrišete GPU.