Với sản phẩm phục vụ thị trường châu Á, danh sách chọn GPU thường gói gọn trong ba nước: Singapore, Nhật Bản và Hàn Quốc. Câu hỏi đặt GPU Singapore hay Nhật Bản, thêm Hàn Quốc là lựa chọn thứ ba, không có một đáp án đúng cho mọi người; nó phụ thuộc vào người dùng ở đâu, GPU làm việc gì, và hôm bạn triển khai đang có máy nào. Bài so sánh này cho bạn một bảng quyết định theo tệp người dùng, một lưu ý thẳng thắn về tình trạng máy, một cách đo mạng làm được trong một buổi chiều, và cách ghép GPU với VPS ổn định.
Trả lời nhanh theo tệp người dùng
| Người dùng chính | Lượt tìm đầu | Lượt tìm thứ hai | VPS frontend |
|---|---|---|---|
| Việt Nam, Thái Lan, Malaysia, Indonesia, Philippines | SG | SG, HK, rồi JP | Singapore |
| Nhật Bản | JP | JP, KR | Tokyo |
| Hàn Quốc | KR | KR, JP | Tokyo |
| Cả Nhật và Hàn | JP, KR | thêm TW, HK | Tokyo |
| Rải đều khắp châu Á | SG, JP, KR | thêm HK, TW | Singapore hoặc Tokyo, đo rồi chọn |
| Không ai chờ (tác vụ batch) | Để trống | Không cần |
Logic ở đây là khoảng cách: máy gần phần lớn người dùng sẽ rút ngắn mỗi lượt khứ hồi cho việc tương tác như chat, giọng nói hay công cụ tạo ảnh. Với tác vụ batch thì gần như không quan trọng. Nếu cần nhiều hơn ba nước này, hướng dẫn thuê GPU châu Á giới thiệu đầy đủ các mã quốc gia trong khu vực.
Ba nước khác nhau thế nào trong thực tế
Singapore
Singapore thường là điểm trung chuyển mạng của Đông Nam Á, nhiều mạng trong khu vực kết nối tại đây. Với người dùng Việt Nam, Singapore và Hồng Kông là hai lượt tìm đầu tiên quen thuộc, vì Cloudj không có data center tại Việt Nam; bạn có thể thử VN trong ô Country, nhưng không có gì bảo đảm có máy ở Việt Nam được liệt kê. Bài máy chủ GPU Singapore nói kỹ về cách tìm SG.
Nhật Bản
Nhật trước hết hợp với người dùng Nhật, và thường cũng hợp lý cho Hàn Quốc, Đài Loan. Đây cũng là lựa chọn quen thuộc của các đội làm sản phẩm tiếng Nhật, kể cả nhiều công ty outsource Việt Nam làm cho khách Nhật. Bài thuê GPU Nhật Bản nói về cách tìm JP và các phương án dự phòng.
Hàn Quốc
Hàn Quốc hợp với người dùng Hàn, những người thường có mạng trong nước rất nhanh nên cũng dễ nhận ra độ trễ. Nhật là lượt tìm thứ hai tự nhiên. Bài thuê GPU Hàn Quốc nói về cách tìm KR.
Lưu ý về tình trạng máy
GPU của Cloudj là danh sách máy chủ độc lập đang hoạt động. Mẫu nào có ở Singapore, Nhật hay Hàn thay đổi trong ngày, và Cloudj không công bố danh sách nước nào có GPU nào. Trên thực tế điều này có nghĩa:
- Đừng lên kế hoạch dựa trên việc một nước lúc nào cũng có mẫu bạn cần. Hãy tìm, nếu có máy được liệt kê thì triển khai.
- Coi cột "lượt tìm thứ hai" ở bảng trên là một phần kế hoạch, không phải chuyện tính sau.
- Nếu cả ba nước đều không có mẫu bạn cần, thử card khác có VRAM tương đương, mở rộng sang
HKvàTW, hoặc quay lại sau.
Mỗi kết quả hiển thị quốc gia, reliability, max duration, tốc độ tải và giá băng thông của máy; vị trí chỉ ở mức quốc gia, không bao giờ có thành phố.
Tự đo mạng
Quy tắc kinh nghiệm chỉ là điểm xuất phát; mạng của người dùng mới là thứ quyết định. Một bài đo làm được trong buổi chiều:
- Triển khai một instance nhỏ ở mỗi nước ứng viên với template Ubuntu + CUDA. Tính tiền theo phút, nên đo ngắn tốn rất ít.
- Từ nơi người dùng ở, hoặc từ máy thử nghiệm dùng cùng nhà mạng với họ (Viettel, VNPT, FPT nếu là người dùng Việt Nam), chạy:
mtr -rwc 50 HOSTGhi lại thời gian khứ hồi trung bình và tỷ lệ mất gói với từng máy.
- Đo một yêu cầu thật. Chạy server model trên từng máy và đo thời gian phản hồi đầy đủ qua SSH tunnel:
ssh -p PORT -L 8000:localhost:8000 root@HOST
curl -w '%{time_total}\n' -o /dev/null -s http://localhost:8000/health- Đo lại vào giờ cao điểm. Ở một số nước, kết nối quốc tế chậm hẳn vào buổi tối, và người dùng Việt Nam hẳn đã quen với cảnh này mỗi lần có sự cố cáp biển.
- Xóa các máy không giữ lại.
Nhớ rằng mỗi host là một máy riêng. Kết quả tốt từ một máy ở Nhật không đại diện cho mọi máy ở Nhật, nên hãy đo lại khi đổi máy. Bài đo độ trễ tới máy GPU giải thích kỹ các công cụ này.
Ghép GPU với VPS
Máy GPU không có SLA phần cứng và có ngày hết hạn "available until", nên hãy đặt endpoint công khai trên VPS Cloudj:
- VPS Singapore cho người dùng Đông Nam Á.
- VPS Tokyo cho Nhật và Hàn. Cloudj không có VPS ở Hàn Quốc, nên Tokyo là frontend gần nhất cho người dùng Hàn.
VPS giữ tên miền, TLS, API, xác thực và hàng đợi, kết nối tới GPU qua SSH tunnel. Nếu bạn chuyển GPU từ SG sang JP vì tình trạng máy thay đổi, người dùng không hề hay biết. So sánh các vị trí VPS là một chủ đề riêng, có trong bài VPS Singapore, Hồng Kông hay Tokyo.
Giá không phải quy tắc theo vị trí
Giá khác nhau theo từng máy, không theo một mức cố định của từng nước, và thay đổi trong ngày. Đừng chọn nước vì nghĩ ở đó sẽ rẻ hơn. Hãy tìm với các mã ứng viên, so tổng giá console hiển thị, và nhớ rằng console sắp theo giá trong phạm vi các nước bạn đã nhập. Giá "từ" theo thời gian thực của từng mẫu có trên GPU cloud. Bạn thanh toán từ số dư tài khoản nạp trước bằng chuyển khoản VND, GPU trừ tiền theo phút.
Câu hỏi thường gặp
Singapore có luôn là lựa chọn tốt nhất cho người dùng Việt Nam?
Đó là lượt tìm đầu tiên quen thuộc, cùng với Hồng Kông. Hãy đo từ nhà mạng của người dùng; kết quả có thể khác nhau.
Cloudj có VPS ở Hàn Quốc không?
Không. Hãy dùng VPS Tokyo làm frontend cho người dùng Hàn.
Có chọn Tokyo hay Seoul cho chính máy GPU được không?
Không. Máy GPU chỉ hiển thị quốc gia.
Cả ba nước đều không có GPU tôi cần thì sao?
Thêm HK và TW, thử card có VRAM tương đương, hoặc quay lại sau.
Bước tiếp theo
Mở trang triển khai GPU, tìm SG, JP, KR cho mẫu bạn cần, rồi chạy bài đo mạng ở trên với hai ứng viên tốt nhất.