Tới nội dung
GPU Cloud · NVIDIA · Ampere

Thuê GPU NVIDIA RTX 3090 theo giờ

NVIDIA RTX 3090 là dòng GPU phổ thông kiến trúc Ampere được trang bị 24 GB VRAM và khả năng tính toán (compute capability) 8.6. Card mang lại hiệu năng tính toán độ chính xác đơn tiêu chuẩn khoảng 35.4 TFLOPS cùng băng thông bộ nhớ khoảng 805 GB/s ở mức công suất 350 W. Bạn có thể thuê GPU này trên Cloudj với hình thức tính phí theo giờ, toàn quyền truy cập SSH và các mẫu (template) dựng sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI.

Thông số

VRAM mỗi GPU

24 GB

Kiến trúc

NVIDIA Ampere

Compute capability

8.6

Hiệu năng FP32

≈ 35.4 TFLOPS

Băng thông bộ nhớ

≈ 805 GB/s

Giới hạn công suất

350 W

Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.

Cấu hình đang có

Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.

Thuê ngay

RTX 3090 phù hợp với việc gì

Suy luận LLM quy mô cục bộ

Chạy các mô hình ngôn ngữ đã lượng tử hóa hoặc kích thước tầm trung trong 24 GB VRAM bằng các mẫu vLLM hoặc Ollama đã cấu hình sẵn.

Quy trình tạo ảnh

Triển khai ComfyUI để tạo ảnh độ phân giải cao và chạy các pipeline khuếch tán tùy chỉnh mà không gặp giới hạn bộ nhớ như trên các dòng card phổ thông tiêu chuẩn.

Fine-tuning và huấn luyện mô hình

Sử dụng mẫu PyTorch/CUDA để fine-tune các mạng nơ-ron vừa với dung lượng bộ nhớ 24 GB và tận dụng băng thông bộ nhớ khoảng 805 GB/s.

Tính toán CUDA đa dụng

Thực thi các tác vụ tùy chỉnh được biên dịch cho compute capability 8.6 với hiệu năng độ chính xác đơn khoảng 35.4 TFLOPS.

Có đúng GPU bạn cần?

RTX 3090 phù hợp với các nhà phát triển và nhà nghiên cứu cần 24 GB VRAM cho các tác vụ tiêu tốn nhiều bộ nhớ trên một card kiến trúc Ampere phân khúc phổ thông. Hãy chọn GPU nhỏ hơn cho các tác vụ suy luận nhẹ đòi hỏi ít bộ nhớ hơn, hoặc nâng cấp lên GPU máy trạm hay trung tâm dữ liệu nếu mô hình của bạn vượt quá 24 GB VRAM hoặc yêu cầu các tính năng kiến trúc mới hơn.

So sánh với GPU tương đương

GPUVRAM mỗi GPUHiệu năng FP32Giới hạn công suất
NVIDIA RTX 309024 GB≈ 35.4 TFLOPS350 W
NVIDIA RTX 409024 GB≈ 81.4 TFLOPS450 WChi tiết →
NVIDIA RTX 3080 Ti12 GB≈ 35.1 TFLOPS350 WChi tiết →
NVIDIA GTX 1080 Ti11 GB≈ 11 TFLOPS250 WChi tiết →
NVIDIA GTX 10808 GB≈ 7.8 TFLOPS130 WChi tiết →

Câu hỏi thường gặp

Thuê RTX 3090 theo giờ

Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.