規格
每顆 GPU 的 VRAM
45 GB
架構
NVIDIA Ada Lovelace
運算能力 (Compute Capability)
8.9
FP32 算力
≈ 73.3 TFLOPS
記憶體頻寬
≈ 626 GB/s
功耗限制
350 W
數值由基礎設施供應商針對目前上架的機器提供；實際效能會因機器而異。
可用配置
即時庫存與價格持續更新，最終價格將於下單前確認。
立即租用L40S 適合的應用場景
大型語言模型推論
在 45 GB 的記憶體容量內，使用 vLLM 與 Ollama 等現成範本部署量化或全精度語言模型。
生成式影像工作流程
運用 Ada Lovelace 架構，在 ComfyUI 中執行複雜的擴散管線與批次生成任務。
深度學習微調
在 PyTorch/CUDA 環境中，運用約 73.3 TFLOPS 的運算能力微調類神經網路與 LoRA 適配器。
資料中心圖形與算圖
執行無頭算圖與模擬任務，充分發揮具備約 626 GB/s 記憶體頻寬的資料中心 GPU 優勢。
這款 GPU 適合您嗎？
當您的工作負載需要 45 GB 的 VRAM 與資料中心等級的穩定性，且標準消費級顯示卡已不敷使用時，請選擇 L40S。若您的模型所需的記憶體較少，選擇較小的工作站或消費級 GPU 會更具經濟效益；而龐大的未量化基礎模型，則需要使用記憶體容量更大的資料中心 GPU。
常見問題
適合，憑藉 45 GB 的 VRAM 與 CUDA 運算能力 8.9，L40S 非常適合用於部署中大型語言模型，以及執行參數高效微調。您可以使用預先配置好的 vLLM、Ollama 或 PyTorch/CUDA 範本來啟動執行個體。
L40S 提供比標準消費級 Ada Lovelace 顯示卡更多的 VRAM，無需卸載即可載入更大的模型權重。然而，它的記憶體頻寬低於高記憶體的純運算資料中心 GPU，後者更適合受限於記憶體頻寬的大規模訓練任務。
執行個體啟動後，您即可獲得環境的完整 SSH 存取權限。您也可以選擇包含 PyTorch/CUDA、ComfyUI、vLLM 和 Ollama 在內的現成範本，立即開始工作。
Cloudj 對所有 L40S 租用皆採用按小時計費。您只需為執行個體配置的時間付費。