GPU Cloud · NVIDIA · Ampere
按小時租用 NVIDIA A100 SXM4 GPU
NVIDIA A100 SXM4 是採用 Ampere 架構的資料中心 GPU，配備 40 GB VRAM 與 400 W 功率上限。在運算能力 8.0 下，它可提供約 1313 GB/s 的記憶體頻寬與約 15.6 TFLOPS 的單精度運算效能。在 Cloudj 上租用即可享有按時計費、直接 SSH 連線，以及包含 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 的預先配置範本。
規格
每顆 GPU 的 VRAM
40 GB
架構
NVIDIA Ampere
運算能力 (Compute Capability)
8
FP32 算力
≈ 15.6 TFLOPS
記憶體頻寬
≈ 1313 GB/s
功耗限制
400 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用A100 SXM4 適合的應用場景
LLM 推論與模型服務
使用預先配置的 vLLM 或 Ollama 範本，以高記憶體吞吐量執行可容納於 40 GB VRAM 內的語言模型。
深度學習訓練
在具備約 1313 GB/s 記憶體頻寬的 Ampere 資料中心架構上，透過 PyTorch/CUDA 訓練與微調神經網路。
批次圖像生成
在 ComfyUI 中生成高解析度擴散模型輸出並執行複雜工作流程，不受消費級顯示卡的記憶體容量限制。
科學運算
執行記憶體密集型模擬與資料處理工作負載，充分發揮運算能力 8.0 與 SXM4 規格功率上限的優勢。
這款 GPU 適合您嗎？
當您的訓練或推論工作負載超出消費級 GPU 記憶體上限，且需要資料中心等級的記憶體頻寬時，請選擇 40 GB A100 SXM4。若您的未量化模型超過 40 GB，請選擇更高 VRAM 的資料中心 GPU；若僅需進行輕量級推論與開發，則可選擇較小的工作站或消費級顯示卡。
常見問題
適合，其 40 GB VRAM 與約 1313 GB/s 的記憶體頻寬非常適合用於中型語言模型的部署服務與參數高效微調。您可以使用內建的 vLLM、Ollama 或 PyTorch/CUDA 範本快速部署模型。
SXM4 版本以 400 W 熱設計功耗運作，在具備運算能力 8.0 的 Ampere 架構上提供穩定的資料中心效能。如果您的工作負載需要超過 40 GB 的記憶體以避免模型分片，建議升級至更高容量的 Ampere 或更新世代的資料中心 GPU。
執行個體在租用啟用期間採按時計費。這讓您可以執行高強度的訓練或批次推論任務，並在完成後終止執行個體。
您可以透過直接 SSH 連線至機器，並使用預先配置好的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 範本。只需在啟動時選擇您偏好的範本，即可立即開始工作。