Chọn GPU trong datacenter hay host độc lập trên Cloudj chỉ là một công tắc ở trang triển khai GPU. Mọi máy trong kết quả đều là host độc lập với chủ sở hữu riêng, và một số máy có nhãn Datacenter vì host đặt trong trung tâm dữ liệu. Bật Datacenter only thì danh sách chỉ còn những máy đó. Bài này giải thích nhãn đó cho bạn biết gì và không cho biết gì, khi nào đáng chấp nhận danh sách ngắn hơn, và vì sao quy tắc sao lưu vẫn giữ nguyên dù bạn chọn bên nào.
Câu hỏi này hay xuất hiện khi khách hàng doanh nghiệp, ngân hàng hay đối tác nước ngoài gửi bảng câu hỏi bảo mật cho các công ty phần mềm Việt Nam. Muốn hiểu bức tranh lớn về vị trí và bộ lọc, xem hướng dẫn thuê GPU theo khu vực.
Nhãn Datacenter nghĩa là gì
Nhãn Datacenter mô tả nơi đặt máy host: trong trung tâm dữ liệu, thay vì chẳng hạn một cơ sở tư nhân nhỏ hơn. Đây là thuộc tính của host, không phải của model GPU. Một card RTX phổ thông vẫn có thể nằm trong data center, còn một card hạng data center như A100 không mặc nhiên có nhãn này.
Những gì nhãn không nói lên cũng quan trọng không kém:
- Không phải SLA. Lời nhắc của console áp dụng cho mọi máy: "Machines are independent hosts with no hardware SLA. Keep backups of important data." (các máy là host độc lập, không có SLA phần cứng, hãy sao lưu dữ liệu quan trọng).
- Không thêm dự phòng hay tự chuyển máy. Host nào mất kết nối thì việc tính tiền tạm dừng trong lúc đó, và không có cơ chế tự chuyển sang máy khác.
- Không thay đổi cách tính tiền. Tính theo phút, tiền cọc, dừng và xóa đều như nhau.
- Không cho biết thành phố hay tên cơ sở. Vị trí vẫn chỉ ở cấp quốc gia.
Bộ lọc thay đổi điều gì trên thực tế
Bật Datacenter only thay đổi danh sách bạn chọn, chứ không thay đổi sản phẩm bạn nhận.
| Mọi host | Datacenter only | |
|---|---|---|
| Số máy trong danh sách | Nhiều hơn | Ít hơn |
| Vị trí giá thường gặp | Dải rộng hơn, có cả giá thấp | Thường cao hơn |
| Khả năng tìm được model cụ thể ở một nước | Cao hơn | Thấp hơn |
| Môi trường đặt máy | Đa dạng | Cơ sở data center |
| SLA phần cứng | Không | Không |
| Cần sao lưu | Có | Có |
Trung tâm dữ liệu thường có điện, làm mát và đường truyền chuyên nghiệp, nên nhiều đội thích chúng cho dịch vụ chạy nhiều ngày hoặc nhiều tuần. Sở thích đó hợp lý, nhưng đó là sở thích về môi trường, không phải cam kết cho instance của bạn.
Khi nào nên bật bộ lọc
Bộ lọc thường hợp lý khi:
- Chính sách hoặc khách hàng yêu cầu. Một số hợp đồng hay bảng câu hỏi bảo mật hỏi việc xử lý có diễn ra trong data center không. Bộ lọc giúp bạn trả lời câu đó cho các host bạn chọn; hãy kiểm tra xem bảng câu hỏi còn yêu cầu gì khác.
- Bạn chạy dịch vụ dài hạn. Với API inference cần chạy vài tuần, host trong data center có thể là lựa chọn bạn thích, đi kèm điểm độ tin cậy cao và thời hạn tối đa dài.
- Bạn cần chất lượng mạng ổn định. Kết hợp bộ lọc với tốc độ tải xuống tối thiểu và giá băng thông tối đa.
Bài điểm độ tin cậy của host GPU giải thích cách đọc phần trăm độ tin cậy, chỉ số quan trọng ít nhất ngang với nhãn.
Khi nào nên tắt
Hãy để bộ lọc tắt khi:
- Job ngắn hoặc chạy lại được. Thử nghiệm, đánh giá mô hình, job chạy nền có checkpoint không cần loại cơ sở cụ thể.
- Giá là ưu tiên số một. Danh sách rộng giúp thứ tự xếp theo giá có nhiều lựa chọn hơn. Đây thường là trường hợp của sinh viên và nhóm AI nhỏ.
- Danh sách quốc gia hẹp. Nếu bắt buộc ở một hai nước, thêm Datacenter only có thể khiến bạn không còn máy nào. Hãy tìm không bật trước, rồi mới quyết định.
- Bạn cần đúng một model ngay lúc này. Model hiếm ở một nước cụ thể dễ xuất hiện hơn khi không bật bộ lọc.
Lộ trình quyết định nhanh
- Mở trang triển khai GPU, đặt mã quốc gia và model.
- Tìm không bật Datacenter only và ghi lại những gì đang có.
- Bật bộ lọc rồi so sánh. Nếu vẫn còn dòng chấp nhận được, cân nhắc xem chênh lệch về lựa chọn và giá có đáng với job này không.
- Dù chọn gì, kiểm tra độ tin cậy, thời hạn tối đa và ngày "available until".
Tình trạng máy thay đổi trong ngày, nên phép so sánh ngày mai có thể cho kết quả khác. Giá theo thời gian thực có trên GPU cloud.
Dòng card là câu hỏi khác
Đừng nhầm nhãn Datacenter với GPU data center. Cần A100 hay RTX 4090 là câu hỏi về bộ nhớ, tính năng và cấp tài khoản. GPU data center và workstation cần cấp tài khoản cao hơn tài khoản mới. Bài GPU phổ thông hay GPU data center phân tích quyết định đó.
Sao lưu dù chọn bên nào
Vì mọi máy đều là host độc lập không có SLA phần cứng, các thói quen sao lưu áp dụng cho cả hai phía của công tắc:
- Chép checkpoint và kết quả ra khỏi máy thường xuyên.
- Giữ trọng số và cấu hình ở nơi có thể triển khai lại nhanh.
- Lên kế hoạch theo ngày "available until"; tới ngày đó instance và ổ đĩa bị xóa.
- Đặt một VPS ổn định trước các dịch vụ công khai để đổi host GPU mà không phải sửa DNS.
Bài sao lưu instance GPU trước khi máy hết hạn có quy trình từng bước.
Câu hỏi thường gặp
Nhãn Datacenter có nghĩa là có SLA không?
Không. Mọi máy đều là host độc lập, không có SLA phần cứng. Hãy sao lưu.
Host đặt trong data center có luôn đắt hơn không?
Không phải lúc nào cũng vậy, nhưng thường đứng cao hơn trong danh sách xếp theo giá. Hãy so sánh cả hai cách xem trong console.
A100 có luôn hiện nhãn Datacenter không?
Không. Nhãn mô tả nơi đặt host, không phải model GPU.
Tôi có kết hợp Datacenter only với bộ lọc quốc gia được không?
Được. Các bộ lọc hoạt động cùng nhau; kết quả sẽ ít hơn.
Bước tiếp theo
Mở trang triển khai GPU, tìm cả khi bật và tắt Datacenter only, rồi chọn dòng phù hợp với công việc. Dù chọn bên nào, hãy sao lưu và lên kế hoạch theo ngày hết hạn của máy.