Đây là bài thực hành đi kèm loạt bài về vị trí GPU trên blog. Bài chỉ đúng cách chọn quốc gia cho máy chủ GPU trên trang triển khai của Cloudj, từng cột trong kết quả có ý nghĩa gì, và làm gì khi danh sách trống. Nếu bạn muốn hiểu lý do nên chọn nước nào trước, hãy đọc hướng dẫn thuê GPU theo khu vực; trang này tập trung vào các nút bấm.
Trước khi bắt đầu
- Đăng nhập console và chắc chắn số dư tài khoản đủ cho khoản tạm giữ. Khi triển khai, hệ thống giữ khoảng một giờ tiền GPU, vài giờ tiền lưu trữ và một khoản dự phòng băng thông; phần chưa dùng trả lại sau khi bạn xóa instance. Người dùng Việt Nam nạp tiền bằng chuyển khoản VND.
- Thêm ít nhất một SSH key vào tài khoản. GPU instance chỉ nhận SSH key; đăng nhập bằng mật khẩu bị tắt.
- Biết sơ bộ workload của bạn cần bao nhiêu VRAM.
Bước 1: mở trang triển khai và chọn ô mẫu GPU
Mở trang triển khai GPU. Trang hiển thị mỗi mẫu GPU một ô. Bấm vào mẫu bạn cần, ví dụ RTX 4090. Bạn cũng có thể mở thẳng một mẫu: đường dẫn triển khai RTX 4090 sẽ chọn sẵn card này. Trang RTX 4090 trên website hiển thị thông số và giá "từ" hiện tại.
Một số mẫu cần cấp tài khoản cao hơn. Nếu chọn mẫu chưa mở cho bạn, console sẽ báo "This GPU class is not available at your account level".
Bước 2: chọn số GPU
Chọn 1×, 2×, 4× hoặc 8×. Tất cả GPU trong một kết quả nằm trong cùng một máy. Số GPU càng cao danh sách càng ngắn, vì ít host có nhiều GPU cùng mẫu rảnh cùng một lúc.
Bước 3: điền ô Country
Ô Country nhận mã quốc gia hai chữ cái theo chuẩn ISO.
- Một nước:
JP - Nhiều nước:
JP, SGhoặcJP SG; dấu phẩy hay dấu cách đều được. - Nhóm rộng hơn:
DE, NL, FR, PL, SE
Lỗi hay gặp:
| Bạn gõ | Chuyện gì xảy ra | Nên dùng |
|---|---|---|
UK | Không phải mã ISO của Anh Quốc | GB |
Japan | Tên đầy đủ không phải là mã | JP |
USA | Ba chữ cái | US |
KO | Không phải mã của Hàn Quốc | KR |
Để trống ô này để xem máy ở mọi quốc gia. Với tác vụ batch, đó thường là lựa chọn đúng.
Mỗi máy chỉ hiển thị quốc gia: không có thành phố, data center hay vùng. Với Việt Nam, bạn có thể thử VN, nhưng không có gì bảo đảm có máy ở Việt Nam được liệt kê; SG và HK là các lựa chọn thay thế quen thuộc.
Bước 4: quyết định có bật Datacenter only
Công tắc Datacenter only chỉ giữ lại các host đặt trong data center, những máy mang nhãn Datacenter trong kết quả. Nó làm danh sách ngắn lại. Hãy bật khi khách hàng hoặc quy định của bạn yêu cầu. Lưu ý nhãn này mô tả nơi đặt host, không cho biết card có phải mẫu datacenter hay không, và cũng không thêm SLA nào. Bài host GPU trong data center hay host độc lập giải thích phần đánh đổi.
Bước 5: các bộ lọc tùy chọn
Chỉ dùng khi cần; mỗi bộ lọc đều làm danh sách ngắn đi.
- VRAM tối thiểu, hữu ích khi tìm trên nhiều mẫu.
- Giá tối đa mỗi giờ.
- Reliability tối thiểu. Xem bài điểm reliability của host GPU để biết cách đọc.
- Giá băng thông tối đa mỗi TB, cả tải xuống và tải lên.
- Tốc độ tải tối thiểu theo Mbps, hữu ích khi bạn sẽ kéo model lớn.
- Dung lượng đĩa dùng để tính giá, để tổng giá phản ánh đúng ổ đĩa bạn định chọn.
Bước 6: đọc kết quả
Danh sách hiển thị tối đa 50 máy, sắp theo tổng giá, thấp nhất lên đầu. Với mỗi máy bạn thấy:
| Cột | Ý nghĩa |
|---|---|
| GPU và số lượng | Mẫu card và số card trong máy |
| VRAM, vCPU, RAM | Tài nguyên dành cho instance của bạn |
| Tốc độ tải | Host kéo model và dữ liệu nhanh tới đâu |
| Reliability | Mức ổn định của host, dạng phần trăm |
| Country | Quốc gia của host, thông tin vị trí duy nhất |
| Max duration | Số ngày tới ngày hết hạn của máy; khi đó instance và ổ đĩa bị xóa |
| Giá lưu trữ | Theo GB mỗi tháng, tính cả khi chạy lẫn khi dừng |
| Giá băng thông | Theo TB tải xuống và tải lên |
| Nhãn Datacenter | Có khi host nằm trong data center |
Thứ tự đọc thực tế: quốc gia, rồi reliability, rồi max duration, rồi giá. Với dịch vụ đang chạy thật, hãy đo mạng từ phía người dùng trước khi chốt; bài đo độ trễ tới máy GPU hướng dẫn cách làm, kể cả đo từ các nhà mạng Viettel, VNPT, FPT.
Khi danh sách trống
Hàng thay đổi trong ngày, nên lượt tìm hẹp trả về danh sách trống là chuyện thường. Hãy nới từng thứ một:
| Nguyên nhân có thể | Thử |
|---|---|
| Quốc gia quá hẹp | Thêm mã lân cận, ví dụ JP thành JP, KR, TW, hoặc DE thành DE, NL, FR |
| Đang bật Datacenter only | Tắt đi và đánh giá host bằng reliability, max duration |
| Reliability tối thiểu quá cao | Hạ một chút và giữ bản sao lưu luôn mới |
| Số GPU quá nhiều | Thử ít GPU hơn, hoặc nhiều máy một GPU |
| Giới hạn giá hoặc băng thông quá chặt | Nới ra và so tổng giá |
| Mẫu card đang khan | Thử mẫu có VRAM tương đương, hoặc quay lại sau |
| Công việc là batch | Xóa trống ô Country |
Bước 7: triển khai
Chọn một máy, rồi:
- Chọn template: Ubuntu 22.04 + CUDA (SSH), PyTorch + JupyterLab, hoặc Custom image (Docker image công khai; cần cấp tài khoản cao hơn).
- Chọn dung lượng ổ đĩa trong khoảng tối thiểu của template và tối đa của máy. Không tăng được sau này.
- Chọn SSH key.
- Kiểm tra giá hiển thị; giá này được khóa cho instance.
- Triển khai. Nếu triển khai không khởi động được, bạn không bị tính phí và khoản tạm giữ được trả lại.
Khi instance chạy, tab Connection hiển thị host, port và câu lệnh SSH đầy đủ.
Câu hỏi thường gặp
Có lọc theo thành phố được không?
Không. Máy GPU chỉ hiển thị quốc gia. Chọn thành phố chỉ có ở VPS Cloudj.
Vì sao gõ UK không ra máy nào?
Mã ISO của Anh Quốc là GB.
Kết quả rẻ nhất có phải là tốt nhất?
Không hẳn. Hãy xem reliability và max duration trước, rồi chọn máy rẻ nhất vượt qua các tiêu chí đó.
Lần sau tìm cùng nước có chắc ra cùng máy không?
Không. Mỗi lần triển khai là trên máy bạn chọn từ danh sách đang có tại thời điểm đó.
Thử ngay
Mở trang triển khai RTX 4090, gõ JP, SG hoặc DE, US, GB vào ô Country, rồi đọc kết quả theo bảng ở trên. Giá "từ" theo thời gian thực của mọi mẫu có trên GPU cloud.