GPU Cloud · NVIDIA · Ampere
按小時租用 NVIDIA RTX 3090 Ti GPU
NVIDIA RTX 3090 Ti 是一款採用 Ampere 架構的消費級 GPU，配備 24 GB VRAM 與 450 W 熱設計功耗。它提供約 36.4 TFLOPS 的單精度運算能力與約 865 GB/s 的記憶體頻寬，並支援 CUDA 運算能力 8.6。在 Cloudj 上，您可以透過按小時計費、直接 SSH 存取以及預先設定的軟體範本來租用此硬體。
規格
每顆 GPU 的 VRAM
24 GB
架構
NVIDIA Ampere
運算能力 (Compute Capability)
8.6
FP32 算力
≈ 36.4 TFLOPS
記憶體頻寬
≈ 865 GB/s
功耗限制
450 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用RTX 3090 Ti 適合的應用場景
本機 LLM 推論
使用現成的 vLLM 或 Ollama 範本，順暢執行可容納於 24 GB VRAM 內的量化語言模型。
生成式影像工作流程
透過 ComfyUI 範本並運用約 865 GB/s 的記憶體頻寬，執行複雜的擴散管線與自訂節點圖。
深度學習原型開發
憑藉 CUDA 運算能力 8.6 與約 36.4 TFLOPS 的單精度運算效能，在 PyTorch 中開發及測試神經網路。
LoRA 微調
在不超過 24 GB 記憶體上限的情況下，訓練輕量級介面卡並微調中型視覺或文字模型。
這款 GPU 適合您嗎？
對於需要在 Ampere 消費級顯示卡上具備 24 GB VRAM 以進行推論或中度訓練任務的開發人員與研究人員而言，RTX 3090 Ti 是實用的選擇。若您僅執行小型模型，可選擇記憶體較低的 GPU；若您的工作負載需要超過 24 GB 的 VRAM 或較新的架構功能，則建議升級至工作站或資料中心級 GPU。
常見問題
是的，其 24 GB VRAM 與約 865 GB/s 的記憶體頻寬非常適合託管中型或量化語言模型，以及執行影像生成工作流程。您可以啟動預先設定的 vLLM、Ollama 或 ComfyUI 範本以立即開始使用。
作為具備 8.6 運算能力的 Ampere 世代消費級 GPU，它提供與較新高階消費級顯示卡相同的 24 GB VRAM 容量，不過較新的架構通常比其 450 W 設計提供更高的運算吞吐量與電源效率。若您的工作負載主要受限於記憶體容量且可容納於 24 GB 內，它依然是個能勝任的選擇。
當您的執行個體處於執行中狀態時，您可以直接透過 SSH 連線以取得完整的命令列控制權。您也可以部署支援 CUDA 的 PyTorch、vLLM、Ollama 或 ComfyUI 等現成範本。
Cloudj 上的執行個體採用按小時計費，讓您只需為 RTX 3090 Ti 環境處於啟用狀態的時間付費。