Īrējiet NVIDIA RTX 2080 Ti GPU ar 11 GB VRAM
Nomājiet RTX 2080 Ti mākoņa GPU serverus ar stundas maksu platformā Cloudj: 11 GB VRAM, NVIDIA Turing un ap 14.6 TFLOPS FP32 jauda ar 501 GB/s atmiņas joslas platumu. Tā ir jaudīgākā Turing patērētāju klases videokarte un praktiska izvēle izstrādātājiem, kuri darbina 13B LLM modeļus 4-bitu kvantēšanā, SD 1.5 un SDXL, kā arī veic FP16 apmācību ar 250 W jaudas limitu. Izvēlieties ComfyUI, Ollama vai PyTorch veidni un pieslēdzieties caur SSH.
RTX 2080 Ti specifikācijas
VRAM katrai GPU
11 GB
Arhitektūra
NVIDIA Turing
Skaitļošanas spēja
7.5
FP32 veiktspēja
≈ 14.6 TFLOPS
Atmiņas joslas platums
≈ 501 GB/s
Jaudas limits
250 W
Vērtības, ko infrastruktūras nodrošinātājs norādījis pašlaik sarakstā esošajām iekārtām; faktiskā veiktspēja var atšķirties atkarībā no mašīnas.
Aktuālās RTX 2080 Ti konfigurācijas un cenas
Pieejamība un cenas reāllaikā, tiek atjauninātas nepārtraukti. Galīgā cena tiek apstiprināta pirms pasūtīšanas.
Iznomāt tūlītKo var darbināt uz RTX 2080 Ti mākoņa GPU
13B modeļi 4-bitu režīmā
11 GB ietilpina 4-bitu 13B modeli vai 8-bitu 7B modeli, un 501 GB/s nodrošina ātru atbilžu ģenerēšanu.
SDXL ar atmiņas optimizāciju
Darbiniet SDXL sistēmā ComfyUI ar FP16 un vieglu paplašinājumu komplektu.
FP16 apmācība
Turing Tensor kodoli un 14.6 TFLOPS FP32 padara to par spējīgu karti maziem un vidējiem apmācības procesiem.
Secinājumu (inference) veiktspējas testi
Salīdziniet dzinējus, piemēram, vLLM, llama.cpp un TensorRT, uz pārbaudītas Turing bāzes.
Vai RTX 2080 Ti ir piemērotākais GPU jūsu darba slodzei?
Izvēlieties RTX 2080 Ti izstrādei, mazāku modeļu darbināšanai (inference) un mēreniem apmācības uzdevumiem, kas iekļaujas 11 GB VRAM robežās. Izvēlieties GPU ar lielāku atmiņu un jaunāku arhitektūru liela mēroga apmācībai vai nekvantētiem modeļiem, vai arī pārejiet uz mazāku patērētāju klases karti pamata atkļūdošanai.
RTX 2080 Ti salīdzinājumā ar līdzīgiem mākoņa GPU
RTX 2080 Ti mākoņa GPU: biežāk uzdotie jautājumi
Nomājiet RTX 2080 Ti mākoņa GPU pa stundām
Izvēlieties sagatavi, atlasiet pieejamo konfigurāciju un pieslēdzieties caur SSH vai pārlūka termināli. Apmaksa tiek apturēta, kad izdzēšat GPU.