Мазмұнға өту
Cloudj
GPU Cloud · NVIDIA · Turing

11 GB VRAM бар NVIDIA RTX 2080 Ti GPU жалға алу

Cloudj платформасында RTX 2080 Ti бұлтты GPU серверлерін сағаттап жалға алыңыз: 11 GB VRAM, NVIDIA Turing және 501 GB/s жад өткізу қабілетімен шамамен 14.6 TFLOPS FP32. Бұл — Turing желісіндегі үздік тұтынушылық видеокарта, 4-bit форматында 13B LLM, SD 1.5 пен SDXL іске қосатын әзірлеушілерге және 250 W қуат лимитінде FP16 оқыту жүргізетіндерге арналған тиімді таңдау. ComfyUI, Ollama немесе PyTorch үлгісін таңдап, SSH арқылы қосылыңыз.

RTX 2080 Ti техникалық сипаттамалары

Әр GPU-дағы VRAM

11 GB

Архитектурасы

NVIDIA Turing

Есептеу қабілеті (Compute capability)

7.5

FP32 өнімділігі

≈ 14.6 TFLOPS

Жад өткізу қабілеті

≈ 501 GB/s

Қуат шегі

250 W

Мәндер қазіргі уақытта ұсынылған машиналар үшін инфрақұрылым провайдері берген деректерден алынған; нақты өнімділік машинаға байланысты өзгеруі мүмкін.

Өзекті RTX 2080 Ti конфигурациялары мен бағалары

Қолжетімді орындар мен бағалар үнемі нақты уақытта жаңартылып отырады. Түпкілікті баға тапсырыс бермес бұрын расталады.

Қазір жалға алу

RTX 2080 Ti бұлтты GPU-де нені іске қосуға болады

4-bit форматындағы 13B модельдер

11 GB жады 4-bit 13B немесе 8-bit 7B моделін еркін сыйғызады, ал 501 GB/s жылдам жауап қайтаруды қамтамасыз етеді.

Жадты оңтайландырумен SDXL

ComfyUI ішінде FP16 және жеңіл қосымшалар жиынтығымен SDXL іске қосыңыз.

FP16 оқыту

Turing Tensor Cores және 14.6 TFLOPS FP32 оны шағын және орта көлемдегі оқыту процестері үшін қуатты карта етеді.

Инференс бенчмаркингі

Белгілі Turing базалық деңгейінде vLLM, llama.cpp және TensorRT сияқты қозғалтқыштарды салыстырыңыз.

RTX 2080 Ti сіздің жұмыс жүктемеңізге сай келе ме?

RTX 2080 Ti картасын әзірлеуге, шағын модельдер инференсіне және 11 GB VRAM көлеміне сыятын орташа оқыту тапсырмаларына таңдаңыз. Ауқымды оқыту немесе квантталмаған модельдер үшін жады көбірек әрі архитектурасы жаңалау GPU таңдаңыз, ал базалық тестілеу үшін қарапайым тұтынушылық картаға көшуге болады.

RTX 2080 Ti және ұқсас бұлтты GPU-лерді салыстыру

GPUӘр GPU-дағы VRAMFP32 өнімділігіҚуат шегі
NVIDIA RTX 2080 Ti11 GB≈ 14.6 TFLOPS250 W
NVIDIA GTX 1080 Ti11 GB≈ 11 TFLOPS250 WТолығырақ →
NVIDIA RTX 3060 laptop12 GB≈ 12.9 TFLOPS80 WТолығырақ →
NVIDIA RTX 306012 GB≈ 12 TFLOPS170 WТолығырақ →
NVIDIA Titan Xp12 GB≈ 11.7 TFLOPS160 WТолығырақ →

RTX 2080 Ti бұлтты GPU: жиі қойылатын сұрақтар

RTX 2080 Ti бұлтты GPU-ін сағатына жалға алыңыз

Үлгіні таңдаңыз, өзекті конфигурацияны белгілеп, SSH немесе браузер терминалы арқылы қосылыңыз. Төлем GPU жойылған кезде тоқтайды.