Арэнда GPU NVIDIA RTX 2080 Ti з 11 GB VRAM
Арандуйце хмарныя серверы з GPU RTX 2080 Ti з пагадзіннай аплатай на Cloudj: 11 GB VRAM, NVIDIA Turing і каля 14.6 TFLOPS FP32 з прапускной здольнасцю памяці 501 GB/s. Гэта топавая спажывецкая карта пакалення Turing — практычны выбар для распрацоўшчыкаў, якія запускаюць мадэлі 13B LLM у 4-bit, SD 1.5 і SDXL, а таксама выконваюць навучанне ў FP16 з лімітам магутнасці 250 W. Выбірайце гатовы шаблон ComfyUI, Ollama або PyTorch і падключайцеся праз SSH.
Характарыстыкі RTX 2080 Ti
VRAM на GPU
11 GB
Архітэктура
NVIDIA Turing
Вылічальная здольнасць
7.5
Вылічэнні FP32
≈ 14.6 TFLOPS
Прапускная здольнасць памяці
≈ 501 GB/s
Ліміт магутнасці
250 W
Значэнні прадстаўлены пастаўшчыком інфраструктуры для даступных у каталогу машын; рэальная прадукцыйнасць залежыць ад канкрэтнага сервера.
Актуальныя канфігурацыі і цэны на RTX 2080 Ti
Актуальная наяўнасць і цэны абнаўляюцца ў рэжыме рэальнага часу. Канчатковы кошт пацвярджаецца перад замовай.
АрандавацьШто можна запускаць на хмарным GPU RTX 2080 Ti
Мадэлі 13B у 4-bit
11 GB змяшчае мадэль 13B у 4-bit або 7B у 8-bit, а прапускная здольнасць 501 GB/s забяспечвае хуткія адказы.
SDXL з аптымізацыяй памяці
Запускайце SDXL у ComfyUI з FP16 і базавым наборам дапаўненняў.
Навучанне ў FP16
Тэнзарныя ядры Turing і 14.6 TFLOPS FP32 робяць яе эфектыўнай картай для невялікіх і сярэдніх задач навучання.
Бенчмаркінг інферэнсу
Параўноўвайце рухавікі накшталт vLLM, llama.cpp і TensorRT на праверанай архітэктуры Turing.
Ці падыходзіць RTX 2080 Ti для вашых задач?
Выбірайце RTX 2080 Ti для распрацоўкі, інферэнсу невялікіх мадэляў і ўмераных задач навучання, якія змяшчаюцца ў 11 GB VRAM. Для маштабнага навучання або неквантаваных мадэляў выберыце GPU з большым аб'ёмам памяці і навейшай архітэктурай, альбо спыніцеся на больш кампактнай спажывецкай карце для базавай адладкі.
RTX 2080 Ti супраць падобных хмарных GPU
| GPU | VRAM на GPU | Вылічэнні FP32 | Ліміт магутнасці | |
|---|---|---|---|---|
| NVIDIA RTX 2080 Ti | 11 GB | ≈ 14.6 TFLOPS | 250 W | |
| NVIDIA GTX 1080 Ti | 11 GB | ≈ 11 TFLOPS | 250 W | Падрабязней → |
| NVIDIA RTX 3060 laptop | 12 GB | ≈ 12.9 TFLOPS | 80 W | Падрабязней → |
| NVIDIA RTX 3060 | 12 GB | ≈ 12 TFLOPS | 170 W | Падрабязней → |
| NVIDIA Titan Xp | 12 GB | ≈ 11.7 TFLOPS | 160 W | Падрабязней → |
Хмарны GPU RTX 2080 Ti: частыя пытанні
Арандуйце хмарны GPU RTX 2080 Ti пагадзінна
Абярыце шаблон, абярыце даступную канфігурацыю і падключайцеся праз SSH або тэрмінал у браўзеры. Аплата спыняецца, калі вы выдаляеце GPU.