Rendi NVIDIA RTX 3090 GPU 24 GB VRAM-iga
Rendi RTX 3090 GPU-pilveservereid tunnipõhiselt platvormil Cloudj: 24 GB VRAM, NVIDIA Ampere ning umbes 35.4 TFLOPS FP32 koos 805 GB/s mäluribalaiusega. See on endiselt tehisintellekti arendajate lemmik 24 GB graafikakaart: Flux ja SDXL, 8B LLM-id 16-bitisena, 30B-klassi mudelid 4-bitisena ning QLoRA peenhäälestus 350 W võimsuspiiranguga. Vali ComfyUI, vLLM või Unsloth mall ja loo ühendus üle SSH.
RTX 3090 tehnilised andmed
VRAM GPU kohta
24 GB
Arhitektuur
NVIDIA Ampere
Arvutusvõimekus (compute capability)
8.6
FP32 arvutusjõudlus
≈ 35.4 TFLOPS
Mälu ribalaius
≈ 805 GB/s
Võimsuspiirang
350 W
Väärtused põhinevad taristupakkuja andmetel hetkel nimekirjas olevate masinate kohta; tegelik jõudlus võib masinati erineda.
Reaalajas RTX 3090 konfiguratsioonid ja hinnad
Reaalajas saadavus ja hinnad uuenevad pidevalt. Lõplikku hinda kinnitatakse enne tellimuse esitamist.
Rendi koheMida saab käitada RTX 3090 pilve-GPU-l
Flux ja SDXL ComfyUI-s
24 GB käitab Fluxi FP8 või peaaegu täistäpsusega ning SDXL-i mitme LoRA ja ControlNetiga.
30B-klassi LLM-id 4-bitisena
Mahuta kvanditud 30B–34B mudel Ollamasse või vLLM-i, või 8B mudel 16-bitisena.
QLoRA peenhäälestus
Peenhäälesta 7B–14B keelemudeleid Unslothiga BF16 formaadis ühel kaardil.
Videoloome testid
Katseta ComfyUI-s videomudeleid, mis vajavad käivitamiseks vähemalt 24 GB mälu.
Kas RTX 3090 on sinu töökoormusele õige GPU?
RTX 3090 sobib arendajatele ja teadlastele, kes vajavad laiatarbe Ampere kaardil 24 GB VRAM-i mälumahukateks ülesanneteks. Vali väiksem GPU kergemateks järeldusülesanneteks, mis nõuavad vähem mälu, või liigu edasi tööjaama või andmekeskuse GPU-le, kui mudelid ületavad 24 GB VRAM-i piiri või vajavad uuema arhitektuuri võimalusi.
RTX 3090 vs sarnased pilve-GPU-d
| GPU | VRAM GPU kohta | FP32 arvutusjõudlus | Võimsuspiirang | |
|---|---|---|---|---|
| NVIDIA RTX 3090 | 24 GB | ≈ 35.4 TFLOPS | 350 W | |
| NVIDIA RTX 4090 | 24 GB | ≈ 81.4 TFLOPS | 450 W | Vaata lähemalt → |
| NVIDIA RTX 3080 Ti | 12 GB | ≈ 35.1 TFLOPS | 350 W | Vaata lähemalt → |
| NVIDIA GTX 1080 Ti | 11 GB | ≈ 11 TFLOPS | 250 W | Vaata lähemalt → |
| NVIDIA GTX 1080 | 8 GB | ≈ 7.8 TFLOPS | 130 W | Vaata lähemalt → |
RTX 3090 pilve-GPU: korduma kippuvad küsimused
Rendi RTX 3090 pilve-GPU tunnikaupa
Vali mall, vali reaalajas konfiguratsioon ja ühendu SSH või brauseriterminali kaudu. Arveldus peatub, kui GPU kustutad.