按小時租用 NVIDIA H100 SXM GPU
NVIDIA H100 SXM 是一款基於 Hopper 架構的資料中心 GPU,配備 80 GB VRAM 與 700 W 功耗設計。它提供約 53.5 TFLOPS 的標準浮點運算能力與約 2869 GB/s 的記憶體頻寬,並支援 CUDA 運算能力 9.0。在 Cloudj 上以每小時計費租用,享有完整 SSH 存取權限,以及針對 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 預先配置的現成範本。
規格
每顆 GPU 的 VRAM
80 GB
架構
NVIDIA Hopper
運算能力 (Compute Capability)
9
FP32 算力
≈ 53.5 TFLOPS
記憶體頻寬
≈ 2869 GB/s
功耗限制
700 W
數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。
可用配置
即時庫存與價格持續更新,最終價格將於下單前確認。
立即租用H100 SXM 適合的應用場景
大型語言模型推論
透過 vLLM 或 Ollama 範本,利用 80 GB VRAM 容量與約 2869 GB/s 的記憶體頻寬,將高需求的語言模型部署至正式環境。
深度學習微調
使用預先配置的 PyTorch/CUDA 環境,結合 Hopper 架構與 CUDA 運算能力 9.0 來訓練與微調神經網路。
高吞吐量批次處理
執行密集型資料處理與模擬工作負載,充分發揮 700 W 資料中心規格下約 53.5 TFLOPS 的運算效能。
繁重的生成式媒體工作流程
執行複雜的 ComfyUI 流程與大批次大小的擴散模型,80 GB 的記憶體空間能輕鬆容納這些工作負載。
這款 GPU 適合您嗎?
當您的訓練或推論工作負載需要 80 GB 高頻寬資料中心記憶體與 Hopper 架構功能時,請選擇 H100 SXM。對於輕量級開發或小型模型,較小的工作站或消費級 GPU 是更實用的選擇;而如果單一執行個體的 80 GB VRAM 無法容納您的完整模型,則建議選擇更新或容量更高的資料中心 GPU。