Khi muốn thuê GPU Anh trên Cloudj, nhiều người gõ UK vào ô Country, không thấy máy nào và kết luận rằng nước Anh không có GPU. Vấn đề nằm ở mã quốc gia chứ không phải ở danh sách máy. Bộ lọc dùng mã ISO hai chữ cái, và mã của Vương quốc Anh là GB. Bài này bắt đầu từ cái bẫy nhỏ đó, rồi hướng dẫn cách đọc kết quả, cân nhắc nơi xử lý dữ liệu, dự phòng bằng các nước châu Âu lân cận và đặt một VPS London phía trước GPU. Bài viết hữu ích cho các nhóm Việt Nam có khách hàng hoặc đối tác ở Anh, cũng như cho người Việt đang làm việc tại đây.
Muốn nhìn toàn cảnh châu Âu, bạn có thể đọc hướng dẫn thuê GPU châu Âu.
Thuê GPU Anh: nhập GB, đừng nhập UK
GPU của Cloudj đến từ danh sách máy chủ độc lập đang sẵn sàng ở nhiều quốc gia. Bạn chọn vị trí bằng cách lọc danh sách đó theo mã quốc gia trong ô Country của console. Vài mã hay gây nhầm lẫn:
| Bạn muốn tìm | Hãy nhập |
|---|---|
| Vương quốc Anh (Anh, Scotland, Wales, Bắc Ireland) | GB |
| Hà Lan | NL |
| Đức | DE |
| Pháp | FR |
| Ireland | IE |
Bạn có thể nhập nhiều mã trong một lần tìm, cách nhau bằng dấu phẩy hoặc khoảng trắng, ví dụ GB, NL, DE. Bài lọc GPU theo quốc gia trong console giải thích chi tiết ô này và các bộ lọc khác.
Các bước tìm máy ở Anh
- Mở trang triển khai GPU.
- Nhập
GBvào ô Country. - Chọn mẫu GPU, hoặc đặt VRAM tối thiểu nếu nhiều loại card đều dùng được.
- Chọn dung lượng ổ đĩa cần dùng; con số này nằm trong giá và không thể mở rộng sau khi triển khai.
- Xem kết quả, sắp theo tổng giá từ thấp đến cao, tối đa 50 máy.
Nếu có máy đặt tại GB, bạn triển khai được ngay. Tình trạng máy thay đổi trong ngày, nên lần tìm buổi trưa không ra máy thì buổi tối có thể có.
Một máy ở Anh cho bạn biết những gì
Mỗi kết quả chỉ ghi quốc gia, không có gì chi tiết hơn. Bạn sẽ không thấy tên thành phố, và đừng mặc định máy nằm ở London chỉ vì nó hiện GB. Bên cạnh quốc gia, bạn sẽ thấy:
- Reliability, tính theo phần trăm;
- Max duration theo ngày, cùng ngày "available until" mà sau đó instance và ổ đĩa sẽ bị xóa;
- nhãn Datacenter nếu máy đặt trong trung tâm dữ liệu, và công tắc "Datacenter only";
- giá lưu trữ theo GB mỗi tháng và giá băng thông theo TB cho chiều tải xuống, tải lên;
- tốc độ tải xuống tính bằng Mbps, quan trọng khi bạn phải kéo mô hình lớn.
Mỗi máy là một máy chủ độc lập, không có SLA phần cứng. Nếu máy mất kết nối, việc tính tiền tạm dừng trong thời gian đó, nhưng instance không tự chuyển sang máy khác. Hãy luôn sao lưu những gì quan trọng.
Nghĩ về vị trí dữ liệu sau Brexit
Từ khi Anh rời EU, nhiều doanh nghiệp coi "Anh" và "EU" là hai câu hỏi riêng khi quyết định dữ liệu được xử lý ở đâu. Nếu bạn làm dự án cho khách hàng Anh, rất có thể họ sẽ hỏi bạn điều này. Bộ lọc quốc gia giúp bạn làm đúng theo chính sách đã thống nhất:
- Chỉ trong Anh: tìm với riêng
GB. Nếu không có máy, hãy chờ rồi tìm lại thay vì mở rộng. - Anh hoặc EU: tìm với
GBcộng các nước EU mà chính sách cho phép, nhưNL, DE, FR, IE. - Không giới hạn: với dữ liệu công khai hoặc benchmark tổng hợp, mở rộng ra mọi quốc gia và sắp theo giá.
Bộ lọc chỉ quyết định máy chủ nằm ở nước nào. Bản thân nó không làm cho công việc của bạn đáp ứng quy định nào cả. Cloudj không đưa ra cam kết tuân thủ nào cho mình hay cho các máy chủ, nên bạn cần tự kiểm tra nghĩa vụ pháp lý, và đừng đưa dữ liệu cá nhân thuộc diện quản lý lên GPU thuê nếu chính sách không cho phép rõ ràng. Bài vị trí dữ liệu EU khi thuê GPU phân tích sâu hơn lựa chọn này.
Khi GB không có máy: thêm NL, DE và các nước khác
Nếu tìm ở Anh không ra máy và chính sách cho phép, hãy thêm các mã gần nhất ở lục địa châu Âu:
GB, NLtrước tiên: Hà Lan rất gần Anh và là đầu mối mạng lớn.- Tiếp theo là
GB, NL, DE: thêm Đức thường làm danh sách rộng ra đáng kể. - Sau đó thêm
FRvàIE. - Nới bộ lọc: giảm nhẹ reliability tối thiểu, tăng giá trần, hoặc tắt "Datacenter only".
- Với huấn luyện hay việc chạy hàng loạt, xóa ô Country và sắp theo giá.
Nếu bạn đang cân nhắc một phương án lớn hơn, ví dụ huấn luyện ở Mỹ và phục vụ ở châu Âu, hãy đọc so sánh GPU Mỹ và châu Âu.
Ghép GPU với một VPS London
Với sản phẩm công khai, tên miền không nên trỏ thẳng vào GPU. Hãy đặt một VPS tại London, Anh phía trước: VPS giữ tên miền, TLS, API, hàng đợi và cơ sở dữ liệu, rồi chuyển yêu cầu inference sang GPU qua SSH hoặc một kết nối có xác thực. Khi máy GPU đến hạn hoặc bạn đổi máy, bạn chỉ cần sửa một địa chỉ trên VPS.
Một tunnel từ VPS tới instance GPU trông như sau, dùng host và port ở tab Connection của instance:
ssh -N -L 8000:localhost:8000 -p <port> root@<gpu-host>Phía VPS có bài hướng dẫn riêng: chọn VPS tốt tại Anh.
Ai nên chọn nơi khác
Nếu hợp đồng chỉ định một trung tâm dữ liệu cụ thể ở Anh, yêu cầu máy cố định có SLA, hay đòi hỏi hạ tầng có chứng chỉ, thì danh sách máy chủ độc lập không phù hợp. Cloudj hợp với những nhóm chấp nhận chọn theo quốc gia, giữ dữ liệu quan trọng trên VPS hoặc bản sao lưu, và sẵn sàng triển khai lại khi một máy hết hạn.
Câu hỏi thường gặp
Vì sao nhập UK không ra GPU nào?
Vì mã đúng là GB. Hãy nhập GB vào ô Country.
Máy hiện GB có nằm ở London không?
Bạn không biết được. Vị trí GPU chỉ hiển thị đến cấp quốc gia.
Có thể tìm cả Anh và các nước EU cùng lúc không?
Có. Nhập nhiều mã, ví dụ GB, NL, DE, kết quả sẽ gồm máy ở tất cả các nước đó.
Thanh toán thế nào nếu tôi ở Việt Nam?
Tiền GPU được trừ theo phút từ số dư trả trước bằng đô la Mỹ, và bạn có thể nạp số dư bằng chuyển khoản ngân hàng bằng VND.
Tìm GPU ở Anh
Mở trang triển khai GPU, nhập GB và thêm NL, DE nếu chính sách cho phép. Giá "từ" theo thời gian thực của mọi mẫu có trên GPU cloud.