Khi phân vân thuê RTX 4090 hay RTX 5090, câu hỏi thật sự không phải "card nào nhanh hơn". 5090 là card mới hơn và nhìn chung nhanh hơn, nhưng khi thuê theo phút, điều quan trọng là việc của bạn có vừa bộ nhớ không, phần mềm có chạy được trên kiến trúc đó không, và mỗi việc hoàn thành tốn bao nhiêu theo giá hôm nay. Bài này đi qua ba câu hỏi đó, rồi hướng dẫn tìm từng card ở khu vực bạn cần. Nhiều bạn ở Việt Nam đang cân nhắc mua card để train hoặc tạo ảnh, và thuê thử cả hai trong một giờ cũng là cách tốt để biết mình thật sự cần gì.
Lựa chọn rộng hơn giữa card phổ thông và card datacenter có trong bài GPU phổ thông hay GPU datacenter.
RTX 4090 hay RTX 5090: hai card đặt cạnh nhau
| RTX 4090 | RTX 5090 | |
|---|---|---|
| Kiến trúc | Ada Lovelace | Blackwell |
| Bộ nhớ | 24 GB | 32 GB |
| Phân khúc | Phổ thông | Phổ thông |
| Độ chín của phần mềm | Được gần như mọi bản CUDA và framework vài năm gần đây hỗ trợ | Cần bản CUDA và framework mới |
| Cấp tài khoản | Tài khoản mới dùng được | Tài khoản mới dùng được |
Danh sách GPU còn có RTX 5090 D, một biến thể theo khu vực với 32 GB. Nếu nó có ở nơi bạn cần, hãy coi nó là một lựa chọn cùng nhóm 5090 và xem trang mẫu để biết chi tiết. Thông số khác có trên trang của từng mẫu; bài này không đưa kết quả benchmark, vì mô hình và thiết lập của bạn mới quyết định khác biệt thực tế.
Câu hỏi 1: việc của bạn có vừa 24 GB không?
Với một số việc, 8 GB chênh lệch quan trọng hơn chênh lệch tốc độ.
- Vừa thoải mái 24 GB: tạo ảnh SDXL, phần lớn việc train LoRA cho mô hình 7B-8B, inference mô hình cỡ 13B lượng tử hóa, mô hình thị giác, render đa số cảnh. Card nào cũng được; lựa chọn chỉ còn là chi phí và tốc độ.
- Chật trên 24 GB: mô hình lượng tử hóa cỡ 30B với ngữ cảnh đủ dùng, mô hình tạo ảnh hay video lớn hơn, LoRA với chuỗi dài. 32 GB của 5090 có thể giúp bỏ được việc đẩy bớt sang RAM hay chia ô, điều này có khi quan trọng hơn tốc độ thô.
- Không vừa card nào: mô hình lớn hơn ở độ chính xác cao. Hãy xem card 48 GB trở lên.
Nếu bạn liên tục gặp "CUDA out of memory" trên 4090 và đang phải xoay xở bằng đủ mẹo, hãy thử 5090 trước khi làm gì khác.
Câu hỏi 2: phần mềm của bạn có chạy trên Blackwell không?
Kiến trúc mới cần phần mềm mới. Với 5090:
- dùng bộ CUDA và driver đủ mới để hỗ trợ Blackwell;
- dùng bản PyTorch được biên dịch cho card này (các bản mới đều có; bản cũ bị ghim phiên bản có thể không). Trang cài đặt PyTorch liệt kê các bản hiện hành;
- kiểm tra các extension CUDA tự viết, kernel attention và thư viện lượng tử hóa, vì chúng đôi khi cập nhật chậm hơn;
- để ý lỗi kiểu "no kernel image is available for execution on the device", thường có nghĩa một thư viện chưa được biên dịch cho card này.
Kiểm tra nhanh sau khi triển khai:
nvidia-smi
python -c "import torch; print(torch.__version__, torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"Nếu bạn dùng Docker image riêng, hãy dựng lại trên nền CUDA hiện hành trước khi chuyển sang 5090. Image tự chọn cần cấp tài khoản cao hơn. 4090 không có những lo ngại này: gần như mọi image vài năm gần đây đều chạy được.
Câu hỏi 3: mỗi việc hoàn thành tốn bao nhiêu?
Thuê theo phút thì hãy nghĩ theo chi phí mỗi việc, đừng nghĩ theo giá mỗi giờ:
chi phí mỗi việc = giá mỗi phút đã khóa x số phút để xong
+ lưu trữ + băng thông5090 thường có giá theo giờ cao hơn và thời gian chạy ngắn hơn. Card nào rẻ hơn tùy vào việc của bạn thực sự nhanh hơn bao nhiêu. Cách đáng tin để biết:
- Triển khai mỗi card một lần thử ngắn với công việc thật.
- Đo tốc độ: số bước mỗi phút, số ảnh mỗi phút hay số token mỗi giây với thiết lập của bạn.
- Nhân ra cho cả công việc với giá theo thời gian thực của từng card.
- Xóa cả hai instance thử.
Tính tiền theo phút giúp lần thử này rất rẻ. Giá "từ" theo thời gian thực có trên trang từng mẫu, và console hiển thị giá chính xác trước khi triển khai; giá đó được khóa cho instance. Bạn ở Việt Nam nạp số dư bằng chuyển khoản ngân hàng bằng VND. Bài ước tính chi phí thuê GPU đưa cả lưu trữ và băng thông vào cùng phép tính.
Tìm từng card ở nơi bạn cần
GPU của Cloudj đến từ danh sách máy chủ độc lập đang sẵn sàng, và mẫu nào có ở nước nào thay đổi trong ngày. Đừng bao giờ mặc định card này dễ tìm hơn card kia ở một nơi nào đó; hãy tìm thử.
Mở trang triển khai RTX 4090, nhập mã quốc gia bạn cần (với người dùng Việt Nam thường là SG, HK), ghi lại kết quả, rồi đổi mẫu sang 5090 và tìm lại. Nếu một card không có:
- thêm mã các nước lân cận;
- nới bộ lọc reliability hoặc giá;
- với việc chạy hàng loạt, xóa ô Country;
- quay lại tìm sau.
Hai bài theo khu vực đi sâu hơn: RTX 4090 tại Nhật và RTX 5090 tại Mỹ.
Một quy tắc quyết định đơn giản
- Chọn 4090 khi việc vừa 24 GB, bộ phần mềm của bạn cũ hoặc bị ghim phiên bản, hoặc lần thử cho thấy 5090 nhanh hơn không đáng kể.
- Chọn 5090 khi 24 GB buộc bạn phải đẩy bớt sang RAM hay chia ô, phần mềm đã hỗ trợ Blackwell, hoặc lần thử cho thấy chi phí mỗi việc thấp hơn.
- Chọn card nào đang có khi việc gấp và cả hai đều dùng được.
Dù chọn card nào, instance cũng chạy trên máy chủ độc lập không có SLA phần cứng, có ngày "available until" mà sau đó instance và ổ đĩa bị xóa, và nên được xóa ngay khi xong việc.
Câu hỏi thường gặp
RTX 5090 lúc nào cũng tốt hơn 4090?
Nó mới hơn và nhiều bộ nhớ hơn, nhưng lựa chọn rẻ hơn cho mỗi việc tùy vào công việc và giá thực tế. Hãy thử cả hai.
Docker image hiện tại của tôi có chạy trên 5090 không?
Chỉ khi phiên bản CUDA và framework trong đó hỗ trợ Blackwell. Image cũ có thể phải dựng lại.
RTX 5090 D là gì?
Biến thể theo khu vực của 5090 với 32 GB, được liệt kê riêng trên danh sách GPU.
Tài khoản mới thuê được cả hai không?
Được. Cả hai đều là GPU phổ thông, dùng được từ cấp tài khoản thấp nhất.
Thử cả hai card
Mở trang triển khai RTX 4090, chạy một lần thử ngắn, rồi lặp lại trên 5090. So sánh giá theo thời gian thực của cả hai trên GPU cloud.