Lei en NVIDIA RTX 3090 GPU med 24 GB VRAM
Lei RTX 3090 sky-GPU-servere på timebasis hos Cloudj: 24 GB VRAM, NVIDIA Ampere og rundt 35.4 TFLOPS FP32 med 805 GB/s minnebåndbredde. Den er fortsatt et favorittkort med 24 GB for AI-utviklere: Flux og SDXL, 8B LLM-er i 16-bit, modeller i 30B-klassen i 4-bit og QLoRA-fintuning, med en strømgrense på 350 W. Velg en ComfyUI-, vLLM- eller Unsloth-mal, og koble til via SSH.
RTX 3090-spesifikasjoner
VRAM per GPU
24 GB
Arkitektur
NVIDIA Ampere
Compute capability
8.6
FP32-ytelse
≈ 35.4 TFLOPS
Minnebåndbredde
≈ 805 GB/s
Effektgrense (TDP)
350 W
Verdier oppgitt av infrastrukturleverandøren for maskiner som for øyeblikket er tilgjengelige; faktisk ytelse varierer fra maskin til maskin.
Tilgjengelige RTX 3090-konfigurasjoner og priser
Lagerstatus og priser i sanntid, oppdateres fortløpende. Endelig pris bekreftes før du bestiller.
Lei nåHva du kan kjøre på RTX 3090 cloud GPU
Flux og SDXL i ComfyUI
24 GB kjører Flux i FP8 eller nesten full presisjon, og SDXL med flere LoRA-er og ControlNet-er.
LLM-er i 30B-klassen i 4-bit
Få plass til en kvantisert 30B–34B-modell i Ollama eller vLLM, eller en 8B-modell i 16-bit.
QLoRA-fintuning
Fintun 7B–14B-språkmodeller med Unsloth i BF16 på et enkelt kort.
Testing av videogenerering
Test videomodeller i ComfyUI som krever 24 GB bare for å laste inn.
Er RTX 3090 riktig GPU for din arbeidsbelastning?
RTX 3090 passer for utviklere og forskere som trenger 24 GB VRAM til minnekrevende oppgaver på et Ampere-kort i forbrukersegmentet. Velg en mindre GPU for lett inferens som krever mindre minne, eller gå opp til en arbeidsstasjons- eller datasenter-GPU hvis modellene dine overskrider 24 GB VRAM eller krever nyere arkitekturfunksjoner.
RTX 3090 vs. lignende cloud-GPU-er
| GPU | VRAM per GPU | FP32-ytelse | Effektgrense (TDP) | |
|---|---|---|---|---|
| NVIDIA RTX 3090 | 24 GB | ≈ 35.4 TFLOPS | 350 W | |
| NVIDIA RTX 4090 | 24 GB | ≈ 81.4 TFLOPS | 450 W | Detaljer → |
| NVIDIA RTX 3080 Ti | 12 GB | ≈ 35.1 TFLOPS | 350 W | Detaljer → |
| NVIDIA GTX 1080 Ti | 11 GB | ≈ 11 TFLOPS | 250 W | Detaljer → |
| NVIDIA GTX 1080 | 8 GB | ≈ 7.8 TFLOPS | 130 W | Detaljer → |
RTX 3090 cloud GPU: ofte stilte spørsmål
Lei RTX 3090 cloud GPU per time
Velg en mal, velg en tilgjengelig konfigurasjon og koble til via SSH eller terminalen i nettleseren. Faktureringen stopper når du sletter GPU-en.