Rendi NVIDIA RTX 2080 Ti GPU 11 GB VRAM-iga
Rendi RTX 2080 Ti GPU pilveservereid tunnitasuga platvormil Cloudj: 11 GB VRAM, NVIDIA Turing ja umbes 14.6 TFLOPS FP32 koos 501 GB/s mäluribalaiusega. Tegemist on Turingi tippklassi tarbijakaardiga ning praktilise valikuga arendajatele 4-bitiste 13B LLM-ide, SD 1.5 ja SDXL-i käitamiseks ning FP16 treenimiseks 250 W võimsuspiiranguga. Vali ComfyUI, Ollama või PyTorch mall ja ühendu üle SSH.
RTX 2080 Ti tehnilised andmed
VRAM GPU kohta
11 GB
Arhitektuur
NVIDIA Turing
Arvutusvõimekus (compute capability)
7.5
FP32 arvutusjõudlus
≈ 14.6 TFLOPS
Mälu ribalaius
≈ 501 GB/s
Võimsuspiirang
250 W
Väärtused põhinevad taristupakkuja andmetel hetkel nimekirjas olevate masinate kohta; tegelik jõudlus võib masinati erineda.
Reaalajas RTX 2080 Ti konfiguratsioonid ja hinnad
Reaalajas saadavus ja hinnad uuenevad pidevalt. Lõplikku hinda kinnitatakse enne tellimuse esitamist.
Rendi koheMida saab käitada RTX 2080 Ti pilve-GPU-l
13B mudelid 4-bitisena
11 GB mahutab 4-bitise 13B mudeli või 8-bitise 7B mudeli ning 501 GB/s hoiab vastused kiired.
SDXL mälukohandustega
Käita SDXL-i ComfyUI-s FP16-ga ja kerge lisandmoodulite komplektiga.
FP16 treenimine
Turing Tensor Cores ja 14.6 TFLOPS FP32 teevad sellest võimeka kaardi väiksemate ja keskmiste treeningtööde jaoks.
Inference jõudlustestid
Võrdle mootoreid nagu vLLM, llama.cpp ja TensorRT tuntud Turingi baastasemel.
Kas RTX 2080 Ti on sinu töökoormusele õige GPU?
Vali RTX 2080 Ti arenduseks, väiksemate mudelite inference'iks ja mõõdukateks treeningülesanneteks, mis mahuvad 11 GB VRAM-i sisse. Suuremahuliseks treenimiseks või kvantimata mudelite jaoks vali suurema mäluga ja uuema arhitektuuriga GPU või võta lihtsaks silumiseks väiksem tarbijakaart.
RTX 2080 Ti vs sarnased pilve-GPU-d
| GPU | VRAM GPU kohta | FP32 arvutusjõudlus | Võimsuspiirang | |
|---|---|---|---|---|
| NVIDIA RTX 2080 Ti | 11 GB | ≈ 14.6 TFLOPS | 250 W | |
| NVIDIA GTX 1080 Ti | 11 GB | ≈ 11 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA RTX 3060 laptop | 12 GB | ≈ 12.9 TFLOPS | 80 W | Vaata lähemalt → |
| NVIDIA RTX 3060 | 12 GB | ≈ 12 TFLOPS | 170 W | Vaata lähemalt → |
| NVIDIA Titan Xp | 12 GB | ≈ 11.7 TFLOPS | 160 W | Vaata lähemalt → |
RTX 2080 Ti pilve-GPU: korduma kippuvad küsimused
Rendi RTX 2080 Ti pilve-GPU tunnikaupa
Vali mall, vali reaalajas konfiguratsioon ja ühendu SSH või brauseriterminali kaudu. Arveldus peatub, kui GPU kustutad.