GPU Cloud · NVIDIA · Ampere
按小時租用 NVIDIA RTX 3090 GPU
NVIDIA RTX 3090 是採用 Ampere 架構的消費級 GPU，配備 24 GB VRAM 與 8.6 運算能力。它在 350 W 額定功率下，提供約 35.4 TFLOPS 的標準單精度運算效能與約 805 GB/s 的記憶體頻寬。您可以在 Cloudj 上以按小時計費的方式租用此 GPU，享有完整的 SSH 存取權限，以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的範本。
規格
每顆 GPU 的 VRAM
24 GB
架構
NVIDIA Ampere
運算能力 (Compute Capability)
8.6
FP32 算力
≈ 35.4 TFLOPS
記憶體頻寬
≈ 805 GB/s
功耗限制
350 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用RTX 3090 適合的應用場景
本機規模 LLM 推論
使用預先配置的 vLLM 或 Ollama 範本，在 24 GB VRAM 中執行量化或中型語言模型。
圖像生成工作流程
部署 ComfyUI 以生成高解析度圖像並執行自訂擴散流程，不會受限於標準消費級顯示卡的記憶體上限。
模型微調與訓練
使用 PyTorch/CUDA 範本微調適合 24 GB 記憶體容量的神經網路，並充分發揮約 805 GB/s 的記憶體頻寬。
一般 CUDA 運算
以約 35.4 TFLOPS 的單精度效能，執行針對運算能力 8.6 編譯的自訂工作負載。
這款 GPU 適合您嗎？
RTX 3090 適合需要在消費級 Ampere 顯示卡上使用 24 GB VRAM 進行記憶體密集型任務的開發人員與研究人員。針對記憶體需求較低的輕量級推論，您可以選擇較小的 GPU；若您的模型超過 24 GB VRAM 或需要較新的架構功能，則建議升級至工作站或資料中心等級的 GPU。
常見問題
是的，其 24 GB VRAM 與約 805 GB/s 的記憶體頻寬，使其足以執行與微調許多開放權重語言模型。您可以直接在 Cloudj 上啟動 vLLM、Ollama 或 PyTorch/CUDA 範本，立即開始工作。
憑藉 24 GB VRAM，RTX 3090 比低階消費級顯示卡能容納明顯更多的模型權重與更大的批次大小。然而，若您的工作負載需要超過 24 GB 的記憶體，或高於約 35.4 TFLOPS 的單精度運算效能，則應考慮更新世代或資料中心等級的 GPU。
您可以透過 SSH 存取權限直接連線至您的執行個體。Cloudj 提供開箱即用的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本，讓您無需手動配置軟體環境。
執行個體採按小時計費。您只需為 GPU 執行個體處於啟用狀態的時間付費。