規格
每顆 GPU 的 VRAM
45 GB
架構
NVIDIA Ampere
運算能力 (Compute Capability)
8.6
FP32 算力
≈ 29.9 TFLOPS
記憶體頻寬
≈ 536 GB/s
功耗限制
300 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用A40 適合的應用場景
大型語言模型推論
使用預先設定的 vLLM 或 Ollama 範本，執行需要高達 45 GB 記憶體的模型。
深度學習微調
憑藉充足的 VRAM，在 PyTorch/CUDA 中微調神經網路，以支援更大的批次大小與權重。
生成式影像工作流程
使用 ComfyUI 執行複雜的擴散管線，並在記憶體中同時保留多個檢查點。
資料中心運算任務
運用約 29.9 TFLOPS 的單精度運算能力與約 536 GB/s 的記憶體頻寬，處理模擬與算繪工作負載。
這款 GPU 適合您嗎？
當您的工作負載需要在資料中心 Ampere 架構上使用 45 GB 的 VRAM（超越標準消費級記憶體容量）時，請選擇 A40。如果您的模型只需較少的記憶體即可運作，可選擇較小的消費級顯示卡；若您的訓練作業嚴重受限於記憶體吞吐量，則建議改用頻寬更高的資料中心 GPU。
常見問題
是的，45 GB 的 VRAM 容量使 A40 非常適合用於託管中大型語言模型，以及執行參數高效微調。您可以直接在 Cloudj 上啟動 vLLM、Ollama 或 PyTorch/CUDA 範本，立即開始作業。
A40 提供 45 GB 的 VRAM，針對受限於記憶體容量的工作負載，能比標準消費級 GPU 提供更多的記憶體裕度。不過，其約 536 GB/s 的記憶體頻寬低於採用 HBM 記憶體的高階資料中心 GPU。
A40 支援 CUDA 運算能力 8.6，並可使用 PyTorch/CUDA、vLLM、Ollama 及 ComfyUI 的現成範本進行部署。同時包含完整的 SSH 存取權限，讓您能依需求自訂軟體環境。
Cloudj 對所有 A40 租用均採用按小時計費。您只需為執行個體處於啟用狀態的時間付費，這對於短期實驗或長期的正式環境執行都相當實用。