跳至主要內容
GPU Cloud · NVIDIA · Hopper

按小時租用 NVIDIA H100 PCIE GPU

NVIDIA H100 PCIE 是採用 Hopper 架構的資料中心 GPU,專為高負載的深度學習與科學運算工作負載所打造。它在 350 W 的功耗範圍內,提供 80 GB 的 VRAM、約 1760 GB/s 的記憶體頻寬,以及約 41.0 TFLOPS 的標準浮點運算能力。在 Cloudj 上,您可以按小時計費部署這款具備運算能力 9.0 的加速器,並享有完整的 SSH 存取權限。

規格

每顆 GPU 的 VRAM

80 GB

架構

NVIDIA Hopper

運算能力 (Compute Capability)

9

FP32 算力

≈ 41 TFLOPS

記憶體頻寬

≈ 1760 GB/s

功耗限制

350 W

數值由基礎設施供應商針對目前上架的機器提供;實際效能會因機器而異。

可用配置

即時庫存與價格持續更新,最終價格將於下單前確認。

立即租用

H100 PCIE 適合的應用場景

大型語言模型推論

利用 80 GB 的 VRAM 與高記憶體頻寬,搭配預先設定好的 vLLM 或 Ollama 範本,在記憶體中運行大型語言模型。

模型微調與訓練

運用 Hopper 架構以及準備就緒的 PyTorch/CUDA 環境,訓練或微調深度神經網路。

批次圖像生成

執行高吞吐量的擴散管線與複雜的 ComfyUI 工作流程,充分發揮大容量記憶體的優勢。

資料科學與模擬

透過約 41.0 TFLOPS 的標準浮點運算效能與約 1760 GB/s 的記憶體吞吐量,執行運算密集的模擬與資料處理任務。

這款 GPU 適合您嗎?

當您的工作負載需要 80 GB 的 VRAM、資料中心等級的記憶體頻寬,以及 Hopper 運算能力 9.0 的功能時,請選擇 H100 PCIE。對於較輕量的推論或較小的模型,配備較少 VRAM 的工作站或消費級 GPU 會更具經濟效益;而極致的吞吐量需求則可能適合採用 SXM 架構的資料中心版本。

與同級 GPU 比較

GPU每顆 GPU 的 VRAMFP32 算力功耗限制
NVIDIA H100 PCIE80 GB≈ 41 TFLOPS350 W
NVIDIA H100 SXM80 GB≈ 53.5 TFLOPS700 W詳細資訊 →
NVIDIA A800 PCIE80 GB≈ 15.6 TFLOPS300 W詳細資訊 →
NVIDIA H100 NVL94 GB≈ 48.3 TFLOPS400 W詳細資訊 →
NVIDIA CMP 170HX64 GB≈ 12.1 TFLOPS250 W詳細資訊 →

常見問題

按小時租用 H100 PCIE

建立帳號、選擇配置並透過 SSH 連線。刪除 GPU 即停止計費。