GPU Cloud · NVIDIA · Ampere
按小時租用 NVIDIA CMP 170HX GPU
NVIDIA CMP 170HX 是採用 Ampere 架構的資料中心 GPU，配備 64 GB VRAM 與 250 W TDP。它提供約 1516 GB/s 的記憶體頻寬，並在運算能力 8.0 下提供約 12.1 TFLOPS 的單精度運算效能。在 Cloudj 上，您可以按小時設定計費方式部署此顯示卡，並享有完整 SSH 存取權限，以及支援 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的現成範本。
規格
每顆 GPU 的 VRAM
64 GB
架構
NVIDIA Ampere
運算能力 (Compute Capability)
8
FP32 算力
≈ 12.1 TFLOPS
記憶體頻寬
≈ 1516 GB/s
功耗限制
250 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用CMP 170HX 適合的應用場景
記憶體密集型 LLM 推論
運用 64 GB VRAM 容量與約 1516 GB/s 的記憶體頻寬，透過 vLLM 或 Ollama 部署大型語言模型服務。
高記憶體需求的深度學習
執行需要大容量記憶體與運算能力 8.0 的 PyTorch/CUDA 工作負載，無需將模型拆分至多個裝置。
複雜的影像生成工作流程
在 64 GB 記憶體空間內，於 ComfyUI 中同時載入多個大型擴散模型檢查點與控制網路。
資料處理與模擬
在 250 W 的功耗範圍內，執行受惠於高記憶體吞吐量的記憶體密集型資料中心任務。
這款 GPU 適合您嗎？
當您的工作負載瓶頸在於記憶體容量與頻寬，而非單純的單精度運算效能時，請選擇 CMP 170HX。若您需要更快的訓練迭代速度，請改選運算吞吐量更高的 GPU；若您的模型不需要 64 GB 的 VRAM，則可選擇較小型的消費級顯示卡。
常見問題
適合。其 64 GB 的 VRAM 與約 1516 GB/s 的記憶體頻寬，非常適合使用 vLLM 和 Ollama 等範本載入並提供大型語言模型服務。然而，由於其單精度運算效能約為 12.1 TFLOPS，提示詞處理速度會比具備更高運算密度的資料中心 GPU 慢。
CMP 170HX 提供與標準 Ampere 資料中心顯示卡相近的 64 GB 大容量記憶體緩衝區與高記憶體頻寬，同時以 250 W 的 TDP 運作。其主要取捨在於較低的運算吞吐量（約 12.1 TFLOPS），因此比起高負載的運算任務，它更適合用於受限於記憶體的任務。
此顯示卡支援 CUDA 運算能力 8.0，可在 Cloudj 上使用預先配置的範本啟動，包含 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI。您也能獲得直接的 SSH 存取權限，以安裝自訂函式庫並管理您的環境。
Cloudj 上的執行個體採用按小時計費，因此您只需為 GPU 保持啟用的時間付費。