GPU Cloud · NVIDIA · Ampere
按小时租用 NVIDIA RTX 3090 GPU
NVIDIA RTX 3090 是一款基于 Ampere 架构的消费级 GPU，配备 24 GB VRAM，计算能力达 8.6。在 350 W 的额定功率下，它可提供约 35.4 TFLOPS 的标准单精度算力和约 805 GB/s 的显存带宽。您可以在 Cloudj 上按小时计费租用此 GPU，获得完整的 SSH 访问权限，以及预置的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板。
规格参数
单卡 VRAM
24 GB
架构
NVIDIA Ampere
计算能力
8.6
FP32 算力
≈ 35.4 TFLOPS
显存带宽
≈ 805 GB/s
功耗限制
350 W
数值由基础设施提供商根据当前上架机器提供；实际性能因机器而异。
可用配置
实时库存与价格，持续更新。最终价格将在您下单前确认。
立即租用RTX 3090 的适用场景
本地规模的 LLM 推理
使用预配置的 vLLM 或 Ollama 模板，在 24 GB VRAM 中运行量化模型或中等规模的语言模型。
图像生成工作流
部署 ComfyUI 以生成高分辨率图像并运行自定义扩散流水线，避免遇到普通消费级显卡的显存瓶颈。
模型微调与训练
使用 PyTorch/CUDA 模板在 24 GB 显存范围内微调神经网络，并充分利用约 805 GB/s 的显存带宽。
通用 CUDA 计算
凭借约 35.4 TFLOPS 的单精度性能，执行针对计算能力 8.6 编译的自定义工作负载。
这款 GPU 适合您吗？
RTX 3090 非常适合需要 24 GB VRAM 的消费级 Ampere 显卡来处理显存密集型任务的开发者和研究人员。对于显存需求较低的轻量级推理，可以选择更小规格的 GPU；如果您的模型超出 24 GB VRAM 或需要更新架构的特性，建议升级至工作站级或数据中心级 GPU。
常见问题
是的，其 24 GB VRAM 和约 805 GB/s 的显存带宽使其能够运行并微调许多开放权重的语言模型。您可以直接在 Cloudj 上启动 vLLM、Ollama 或 PyTorch/CUDA 模板，立即开展工作。
凭借 24 GB VRAM，RTX 3090 比低阶消费级显卡能容纳更多的模型权重和更大的批处理大小（batch size）。不过，如果您的工作负载需要超过 24 GB 的显存或高于约 35.4 TFLOPS 的单精度算力，建议考虑更新一代或数据中心级的 GPU。
您可以通过 SSH 直接连接到您的实例。Cloudj 提供即用型的 PyTorch/CUDA、vLLM、Ollama 和 ComfyUI 模板，让您无需手动配置软件栈。
实例按小时计费。您只需为 GPU 实例处于活动状态的时间付费。