Rendi NVIDIA Tesla V100 GPU 16 GB VRAM-iga
Rendi Tesla V100 pilve GPU-servereid tunnipõhiselt platvormil Cloudj: 16 GB VRAM, NVIDIA Volta ja ligikaudu 780 GB/s mäluriba laius koos 12.5 TFLOPS FP32 jõudlusega. V100 tõi turule Tensor Cores tuumad ning on jätkuvalt töökindel andmekeskuse kaart FP16 segatäpsusega treenimiseks, teadustööde reprodutseerimiseks ja keskmise mahuga järelduste tegemiseks 300 W võimsuspiiranguga. Vali PyTorch-mall, kontrolli selle CUDA nõudeid ja ühendu üle SSH.
Tesla V100 tehnilised andmed
VRAM GPU kohta
16 GB
Arhitektuur
NVIDIA Volta
Arvutusvõimekus (compute capability)
7
FP32 arvutusjõudlus
≈ 12.5 TFLOPS
Mälu ribalaius
≈ 780 GB/s
Võimsuspiirang
300 W
Väärtused põhinevad taristupakkuja andmetel hetkel nimekirjas olevate masinate kohta; tegelik jõudlus võib masinati erineda.
Reaalajas Tesla V100 konfiguratsioonid ja hinnad
Reaalajas saadavus ja hinnad uuenevad pidevalt. Lõplikku hinda kinnitatakse enne tellimuse esitamist.
Rendi koheMida saab käitada Tesla V100 pilve-GPU-l
FP16 segatäpsusega treenimine
Volta Tensor Cores kiirendavad FP16 treenimist CNN-ide, väikeste transformer-mudelite ja kõnemudelite jaoks.
Avaldatud tulemuste reprodutseerimine
Paljud teadustööd ja baasmudelid treeniti V100 graafikakaartidel; käivita need samal arhitektuuril võrreldavate tulemuste saamiseks.
Kvantiseeritud 7B LLM-id
16 GB jooksutab 7B–8B mudeleid 8-bitisena või 13B-klassi mudeleid 4-bitisena testimiseks ja kergeks teenindamiseks.
HPC ja teadusarvutused
780 GB/s mäluriba laius kiirendab simulatsioone, solvereid ja mälumahust sõltuvaid teaduskoodi arvutusi.
Kas Tesla V100 on sinu töökoormusele õige GPU?
16 GB Tesla V100 sobib teadlastele ja arendajatele, kes vajavad suurt mäluriba laiust väikeste kuni keskmiste mudelite ning teadustööde jaoks ilma uuema andmekeskuse riistvara eest üle maksmata. Vali madalamate mälunõuetega baasarenduseks väiksem tavakasutaja GPU või liigu edasi suurema VRAM-iga uuema põlvkonna GPU-le, kui sinu mudelid ületavad 16 GB või vajavad uuemaid arhitektuurseid funktsioone lisaks compute capability 7.0 tasemele.
Tesla V100 vs sarnased pilve-GPU-d
| GPU | VRAM GPU kohta | FP32 arvutusjõudlus | Võimsuspiirang | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Vaata lähemalt → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Vaata lähemalt → |
Tesla V100 pilve-GPU: korduma kippuvad küsimused
Rendi Tesla V100 pilve-GPU tunnikaupa
Vali mall, vali reaalajas konfiguratsioon ja ühendu SSH või brauseriterminali kaudu. Arveldus peatub, kui GPU kustutad.