GPU Cloud · NVIDIA · Hopper
按小時租用 NVIDIA H200 NVL GPU
NVIDIA H200 NVL 是採用 Hopper 架構的資料中心 GPU，專為記憶體密集型工作負載打造，配備 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬。它在 600 W 功耗範圍內運作，支援計算能力 9.0，並提供約 48.3 TFLOPS 的標準浮點運算能力。您可以在 Cloudj 上部署這款處理器，享有按時計費、直接 SSH 連線以及預先設定好的範本。
規格
每顆 GPU 的 VRAM
140 GB
架構
NVIDIA Hopper
運算能力 (Compute Capability)
9
FP32 算力
≈ 48.3 TFLOPS
記憶體頻寬
≈ 3884 GB/s
功耗限制
600 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用H200 NVL 適合的應用場景
大型語言模型推論
善用 140 GB VRAM 容量與約 3884 GB/s 的記憶體頻寬，在記憶體中直接執行大型模型而無需分片。
模型微調與訓練
透過 Hopper 計算能力 9.0 以及支援大批次規模的充裕 GPU 記憶體，訓練並調整深度學習模型。
高吞吐量批次處理
使用預先設定的 PyTorch/CUDA、vLLM 或 Ollama 範本，高效處理龐大資料集與長上下文視窗。
科學運算與模擬
執行需要約 48.3 TFLOPS 標準浮點效能與大容量板載記憶體的複雜資料中心模擬。
這款 GPU 適合您嗎？
當您的主要瓶頸在於 VRAM 容量與記憶體頻寬，特別是需要在單張顯卡上託管大型模型時，請選擇 H200 NVL。如果您執行的是較輕量的推論、標準圖像生成，或不需要 140 GB 記憶體的開發任務，較小的工作站或消費級 GPU 會是更實用的選擇。
常見問題
H200 NVL 提供 140 GB VRAM 與約 3884 GB/s 的記憶體頻寬，記憶體容量與頻寬均高於早期的 Hopper 世代顯卡。這讓單一 GPU 就能容納更大的模型與更長的上下文視窗。
是的，140 GB 記憶體池與高記憶體頻寬使其非常適合用於部署大型語言模型服務。Cloudj 提供 vLLM 與 Ollama 的現成範本，協助您快速上手。
每個執行個體均提供完整的 SSH 存取權限，方便您進行自訂設定。您也可以使用預先安裝 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的範本來啟動執行個體。
執行個體採按時計費，您只需為 H200 NVL 執行個體處於啟用狀態的時間付費。