Úc và New Zealand nằm rất xa phần lớn hạ tầng máy tính của thế giới, và đó là điều quan trọng nhất cần hiểu khi thuê GPU Úc. Mọi khu vực khác đều xa, nên một GPU đặt ngoài châu Đại Dương sẽ làm chậm các ứng dụng tương tác mà người dùng ở Sydney, Melbourne hay Auckland cảm nhận rõ. Bài này giải thích khi nào đáng chờ một máy ở Úc, cách tìm trên Cloudj, và nên dự phòng ở đâu khi không có máy nào.
Bài viết hữu ích cho cả những team Việt Nam đang làm sản phẩm cho thị trường Úc, chẳng hạn app học tiếng Anh, công cụ cho du học sinh, hay dịch vụ chăm sóc khách hàng bằng AI cho doanh nghiệp người Việt ở Úc. Phương pháp chung để lọc GPU theo vị trí có trong hướng dẫn thuê GPU theo vị trí.
Vì sao khoảng cách quyết định khi thuê GPU Úc
Ánh sáng trong cáp quang đi được khoảng 100 km cho mỗi mili giây thời gian khứ hồi, và đường cáp thật luôn dài hơn đường thẳng trên bản đồ. Từ Sydney, Singapore cách vài nghìn km, còn bờ Tây nước Mỹ xa hơn nhiều. Đây là giới hạn vật lý chứ không phải chuyện mạng tốt hay xấu; không tinh chỉnh nào xóa được.
Ý nghĩa thực tế tùy vào loại công việc:
| Công việc | Máy ở AU hoặc NZ có quan trọng không? |
|---|---|
| Chatbot, trợ lý trả lời dạng stream | Có, token đầu tiên đến muộn hơn khi máy ở xa |
| Giọng nói, phiên âm trực tiếp, trợ lý cuộc gọi | Có, độ trễ cộng dồn qua từng lượt nói |
| Sinh ảnh có xem trước trực tiếp | Phần nào, người dùng thấy ảnh xem trước chậm |
| Sinh nội dung qua đêm, huấn luyện, fine-tune | Không, chọn theo giá, VRAM và độ tin cậy |
| Hàng đợi render, chuyển mã video | Không, nhưng cần để ý thời gian tải dữ liệu đầu vào lớn |
Bài giảm độ trễ AI inference bằng vị trí GPU chia độ trễ thành thời gian mạng, thời gian ra token đầu tiên và thời gian sinh nội dung, giúp bạn thấy vị trí giúp tiết kiệm được bao nhiêu cho ứng dụng của mình.
Tìm máy ở Úc và New Zealand
Trên Cloudj, vị trí là một bộ lọc quốc gia áp lên danh sách máy chủ đang có. Mở trang triển khai GPU và nhập các mã bạn chấp nhận vào ô Country. Để phục vụ người dùng ở cả hai nước:
AU, NZĐặt VRAM tối thiểu theo model, rồi đọc kết quả. Mỗi máy hiển thị quốc gia (không bao giờ có thành phố), độ tin cậy, thời hạn tối đa, tốc độ tải xuống, giá băng thông theo TB và nhãn Datacenter nếu có. Danh sách được sắp theo tổng giá.
Có máy trong danh sách thì bạn triển khai được. Hàng thay đổi trong ngày, nên lúc này không có máy không có nghĩa một tiếng sau cũng vậy. Giá "từ" của từng mẫu card có trên trang GPU cloud.
Phương án dự phòng: Singapore trước, rồi mở rộng
Khi AU, NZ không có máy phù hợp, bạn phải chấp nhận máy ở xa hơn. Câu hỏi là xa về hướng nào.
Singapore (SG) thường là lựa chọn dự phòng đầu tiên cho tác vụ tương tác. Đây là trung tâm mạng lớn của châu Á gần Úc nhất, và cũng là nơi quen thuộc để đặt front end thứ hai cho người dùng Đông Nam Á, trong đó có Việt Nam.
Mỹ (US) là hướng còn lại, vì có cáp xuyên Thái Bình Dương nối Sydney với bờ Tây nước Mỹ. Vấn đề là vị trí GPU chỉ ở cấp quốc gia. Một máy US có thể ở bờ Đông hoặc bờ Tây, và bạn không chọn được. Với ứng dụng tương tác, điều đó làm Mỹ khó đoán hơn Singapore; hãy đo đúng máy đó trước khi dùng thật.
Với job chạy theo lô, cả hai mối lo trên đều không đáng kể. Bỏ bộ lọc quốc gia, sắp theo giá và chọn dựa trên VRAM, độ tin cậy và thời hạn tối đa.
Thứ tự hợp lý:
- Tìm với
AU, NZ. - Nếu không có máy phù hợp, tìm
AU, NZ, SG. - Vẫn không có thì thêm
JPhoặcUS, và đo độ trễ từ Úc trước khi đưa vào dùng. - Với job chạy theo lô, bỏ hẳn bộ lọc.
Đo trước khi quyết định
Khoảng cách trên bản đồ chỉ để tham khảo. Sau khi triển khai, tab Connection của instance cho bạn host và port SSH. Từ một kết nối ở Úc, chạy:
ping -c 30 <host>
mtr -rwc 50 <host>Sau đó đo thời gian của một yêu cầu thật từ đầu đến cuối, ví dụ một lượt chat hoặc một lần sinh ảnh, từ client ở Úc. Lưu ý nếu bạn ngồi ở Việt Nam thì kết quả đo từ mạng Viettel hay FPT không phản ánh trải nghiệm của người dùng Úc; hãy nhờ đồng nghiệp hoặc dùng một máy ở Úc. Bài đo độ trễ tới máy GPU hướng dẫn cách so sánh công bằng giữa máy ở Úc và máy ở Singapore, kể cả đo vào giờ cao điểm buổi tối.
VPS Sydney làm front end
Mỗi instance GPU là một máy chủ độc lập, không có SLA phần cứng, và mỗi máy có ngày "available until"; qua ngày đó instance và ổ đĩa bị xóa. Với dịch vụ người dùng phụ thuộc vào, hãy chạy phần ổn định trên cloud server: tên miền, TLS, API, xác thực và hàng đợi. GPU nằm phía sau và chỉ lo phần model.
Cloudj có VPS tại Sydney, là front end tự nhiên cho người dùng Úc và New Zealand, dù GPU của bạn cuối cùng nằm ở AU, NZ hay SG. Khi đổi máy GPU, bạn chỉ cần trỏ VPS sang máy mới, người dùng vẫn giữ nguyên địa chỉ. Bài VPS tốt nhất cho Úc hướng dẫn chọn cấu hình và cài đặt cho máy chủ đó.
Ghi chú khi cài đặt
- Chọn theo VRAM. Card 24 GB như RTX 4090 chạy thoải mái phần lớn model sinh ảnh và LLM lượng tử hóa cỡ 7B đến 13B. L4, card datacenter lớp 24 GB, là lựa chọn tiết kiệm điện cho inference nhẹ khi có máy và khi cấp tài khoản của bạn đã mở GPU datacenter.
- Tự cài phần mềm. Console có template Ubuntu + CUDA và template PyTorch + JupyterLab; vLLM, Ollama hay công cụ tương tự bạn tự cài qua SSH.
- Giữ sẵn script triển khai lại. Nếu máy ở Úc biến mất, bạn muốn chạy lại từ
SGtrong vài phút. - Tính trước tiền cọc. Khi triển khai, hệ thống giữ một khoản cọc từ số dư; phần chưa dùng được trả lại sau khi hủy instance. Người dùng ở Việt Nam nạp số dư bằng chuyển khoản VND.
Câu hỏi thường gặp
Tôi có chọn GPU ở Sydney hay Melbourne được không?
Không. Vị trí GPU chỉ ở cấp quốc gia. Bạn lọc được theo AU, nhưng kết quả không có thành phố. Chọn thành phố chỉ áp dụng cho VPS của Cloudj.
GPU ở Mỹ có phải phương án dự phòng tốt cho người dùng Úc không?
Với job chạy theo lô thì có. Với ứng dụng tương tác, Singapore thường dễ đoán hơn vì một máy US có thể ở bất kỳ bờ nào.
Người dùng New Zealand có nên chỉ lọc NZ không?
Nên lọc AU, NZ cùng lúc. Máy ở Úc thường đủ gần với người dùng New Zealand, và bạn có nhiều lựa chọn hơn.
Máy ở Úc tôi từng dùng không còn trong danh sách thì sao?
Máy được thuê và trả liên tục. Hãy tìm lại, triển khai instance mới và khôi phục từ script, image hoặc bản sao lưu.
Thử tìm máy ở châu Đại Dương
Mở trang triển khai, nhập AU, NZ vào ô Country và đặt VRAM. Nếu chưa có máy phù hợp, thêm SG và đo từ Úc. Giá trực tiếp theo từng mẫu card có trên GPU cloud.