仕様
GPU あたりの VRAM
45 GB
アーキテクチャ
NVIDIA Ampere
Compute Capability
8.6
FP32 演算性能
≈ 29.9 TFLOPS
メモリ帯域幅
≈ 536 GB/s
電力制限
300 W
現在掲載されているマシンについてインフラプロバイダーから報告された数値です。実際のパフォーマンスはマシンによって異なります。
利用可能な構成
在庫と料金はリアルタイムで随時更新されます。最終的な料金はご注文前に確定します。
今すぐレンタルA40 の主な用途
大規模言語モデルの推論
事前設定されたvLLMやOllamaテンプレートを使用して、最大45 GBのメモリを必要とするモデルを実行できます。
ディープラーニングのファインチューニング
大容量のVRAMを活用し、より大きなバッチサイズと重みでPyTorch/CUDA上のニューラルネットワークをファインチューニングできます。
画像生成ワークフロー
ComfyUIを使用して、複数のチェックポイントを同時にメモリに保持しながら複雑な拡散パイプラインを実行できます。
データセンター計算タスク
約29.9 TFLOPSの単精度計算性能と約536 GB/sのメモリ帯域幅を、シミュレーションやレンダリングのワークロードに活用できます。
用途に最適な GPU かどうか
標準的なコンシューマー向けカードのメモリ容量を超える、データセンター向けAmpereアーキテクチャ上の45 GB VRAMがワークロードに必要な場合はA40をお選びください。モデルがより少ないメモリに収まる場合は小型のコンシューマー向けカードを、トレーニングジョブでメモリスループットが大きなボトルネックになる場合はより高帯域幅のデータセンター向けGPUをご検討ください。
よくある質問
はい、45 GBのVRAM容量を持つA40は、中〜大規模言語モデルのホスティングやパラメータ効率の高いファインチューニングに適しています。Cloudj上でvLLM、Ollama、またはPyTorch/CUDAテンプレートを直接起動して、すぐに作業を開始できます。
A40は45 GBのVRAMを備えており、メモリ負荷の高いワークロードにおいて標準的なコンシューマー向けGPUよりも多くのメモリ余裕を提供します。ただし、約536 GB/sのメモリ帯域幅は、HBMメモリを使用する上位のデータセンター向けGPUよりも低くなっています。
A40はCUDAコンピュートケイパビリティ8.6をサポートしており、PyTorch/CUDA、vLLM、Ollama、ComfyUIの構築済みテンプレートを使ってデプロイできます。フルSSHアクセスが含まれているため、必要に応じてソフトウェアスタックをカスタマイズ可能です。
Cloudjでは、すべてのA40のレンタルに時間単位の請求を採用しています。インスタンスが稼働している時間に対してのみお支払いいただくため、短時間の実験から長時間の本番稼働まで実用的にお使いいただけます。