Арэнда GPU NVIDIA Tesla V100 з 16 GB VRAM
Арандуйце воблачныя GPU-серверы Tesla V100 з пагадзіннай аплатай на Cloudj: 16 GB VRAM, NVIDIA Volta і прапускная здольнасць памяці каля 780 GB/s з 12.5 TFLOPS FP32. V100 упершыню прадставіла Tensor Cores і застаецца надзейнай картай для дата-цэнтраў для навучання са змяшанай дакладнасцю FP16, узнаўлення даследаванняў і інферэнсу сярэдняга маштабу пры ліміце магутнасці 300 W. Выберыце шаблон PyTorch, праверце патрабаванні да CUDA і падключайцеся праз SSH.
Характарыстыкі Tesla V100
VRAM на GPU
16 GB
Архітэктура
NVIDIA Volta
Вылічальная здольнасць
7
Вылічэнні FP32
≈ 12.5 TFLOPS
Прапускная здольнасць памяці
≈ 780 GB/s
Ліміт магутнасці
300 W
Значэнні прадстаўлены пастаўшчыком інфраструктуры для даступных у каталогу машын; рэальная прадукцыйнасць залежыць ад канкрэтнага сервера.
Актуальныя канфігурацыі і цэны на Tesla V100
Актуальная наяўнасць і цэны абнаўляюцца ў рэжыме рэальнага часу. Канчатковы кошт пацвярджаецца перад замовай.
АрандавацьШто можна запускаць на хмарным GPU Tesla V100
Навучанне са змяшанай дакладнасцю FP16
Tensor Cores у архітэктуры Volta паскараюць навучанне FP16 для CNN, невялікіх трансформераў і мадэлей маўлення.
Узнаўленне апублікаваных вынікаў
Многія навуковыя працы і бэйслайны навучаліся на V100; запускайце іх на той жа архітэктуры для атрымання супастаўных паказчыкаў.
Квантаваныя LLM на 7B
16 GB дазваляюць запускаць мадэлі 7B–8B у 8-bit або мадэлі класа 13B у 4-bit для тэсціравання і лёгкага сэрвінгу.
HPC і навуковыя вылічэнні
Прапускная здольнасць у 780 GB/s паскарае сімуляцыі, солверы і навуковыя алгарытмы з высокімі патрабаваннямі да памяці.
Ці падыходзіць Tesla V100 для вашых задач?
Tesla V100 на 16 GB ідэальна падыходзіць даследчыкам і распрацоўшчыкам, якім патрэбна высокая прапускная здольнасць памяці для мадэлей малога і сярэдняга памеру, а таксама навуковых задач без пераплат за больш новае абсталяванне дата-цэнтраў. Выбірайце больш просты спажывецкі GPU для базавай распрацоўкі з меншымі патрэбамі ў памяці альбо пераходзьце на GPU новага пакалення з большым аб'ёмам VRAM, калі вашы мадэлі перавышаюць 16 GB або патрабуюць новых архітэктурных магчымасцей вышэй за compute capability 7.0.
Tesla V100 супраць падобных хмарных GPU
| GPU | VRAM на GPU | Вылічэнні FP32 | Ліміт магутнасці | |
|---|---|---|---|---|
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | Падрабязней → |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | Падрабязней → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | Падрабязней → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | Падрабязней → |
Хмарны GPU Tesla V100: частыя пытанні
Арандуйце хмарны GPU Tesla V100 пагадзінна
Абярыце шаблон, абярыце даступную канфігурацыю і падключайцеся праз SSH або тэрмінал у браўзеры. Аплата спыняецца, калі вы выдаляеце GPU.