Изнајмите NVIDIA RTX 2080 Ti GPU са 11 GB VRAM
Изнајмите RTX 2080 Ti cloud GPU сервере на сат на платформи Cloudj: 11 GB VRAM, NVIDIA Turing и око 14.6 TFLOPS FP32 уз 501 GB/s меморијског протока. Ово је најбоља Turing потрошачка картица и практичан избор за програмере који покрећу 13B LLM моделе у 4-bit форматима, SD 1.5 и SDXL, као и FP16 тренинг уз лимит потрошње од 250 W. Изаберите ComfyUI, Ollama или PyTorch шаблон и повежите се путем SSH-а.
RTX 2080 Ti спецификације
VRAM по GPU-у
11 GB
Архитектура
NVIDIA Turing
Рачунарска способност
7.5
FP32 перформансе
≈ 14.6 TFLOPS
Пропусни опсег меморије
≈ 501 GB/s
Лимит потрошње
250 W
Вредности које наводи провајдер инфраструктуре за тренутно излистане машине; стварне перформансе варирају од машине до машине.
Актуелне RTX 2080 Ti конфигурације и цене
Доступност и цене уживо, континуирано се ажурирају. Коначна цена се потврђује пре наручивања.
Изнајмите одмахШта можете покретати на RTX 2080 Ti cloud GPU-у
13B модели у 4-bit формату
11 GB без проблема смешта 4-bit 13B модел или 8-bit 7B модел, док проток од 501 GB/s обезбеђује брзе одговоре.
SDXL уз оптимизацију меморије
Покрените SDXL у ComfyUI-ју уз FP16 и лаган скуп додатака.
FP16 тренинг
Turing Tensor језгра и 14.6 TFLOPS FP32 чине је веома способном картицом за мање и средње тренинг процесе.
Бенчмаркинг инференце
Упоредите енџине попут vLLM, llama.cpp и TensorRT на познатој Turing основи.
Да ли је RTX 2080 Ti прави GPU за ваше радно оптерећење?
Изаберите RTX 2080 Ti за развој, инференцу мањих модела и умерене тренинг задатке који стају у 11 GB VRAM-а. Изаберите GPU са више меморије и новијом архитектуром за велике тренинге или неквантизоване моделе, или пређите на мању потрошачку картицу за основно дебаговање.
RTX 2080 Ti у поређењу са сличним cloud GPU-овима
RTX 2080 Ti cloud GPU: често постављана питања
Изнајмите RTX 2080 Ti cloud GPU на сат
Изаберите шаблон, одаберите активну конфигурацију и повежите се путем SSH-а или терминала у прегледачу. Наплата престаје када обришете GPU.