Thuê H100 châu Âu trên Cloudj là một lần tìm kiếm, không phải đặt chỗ trước. GPU đến từ danh sách máy chủ độc lập đang sẵn sàng ở nhiều quốc gia, và bạn tìm H100 ở châu Âu bằng cách lọc theo mẫu GPU và mã quốc gia. Vì "H100" trên danh sách thực ra gồm ba sản phẩm khác nhau, và GPU datacenter cần cấp tài khoản cao hơn, bạn nên biết rõ mình tìm gì trước khi mở console. Bài này là một checklist cho việc đó, hữu ích cho các nhóm AI Việt Nam làm dự án với khách hàng châu Âu hoặc cần chạy huấn luyện lớn.
Muốn xem toàn cảnh châu Âu, hãy bắt đầu với hướng dẫn thuê GPU châu Âu.
Mục 1: biết mình cần H100 loại nào
Danh sách GPU có ba biến thể H100, mỗi loại có trang riêng, tình trạng còn hàng và giá riêng:
| Biến thể | VRAM | Dạng phần cứng | Lý do thường chọn |
|---|---|---|---|
| H100 SXM | 80 GB | Module SXM trên bo mạch nhiều GPU | Train nhiều GPU cần trao đổi dữ liệu liên tục; bo SXM thường nối GPU bằng NVLink |
| H100 PCIe | 80 GB | Card PCIe | Fine-tune và inference một GPU; công suất thấp hơn SXM |
| H100 NVL | 94 GB | Card PCIe, thiết kế để ghép cặp | Inference mô hình lớn, nơi bộ nhớ nhiều hơn trên mỗi GPU phát huy tác dụng |
Phần mô tả dạng phần cứng là thông tin chung về sản phẩm của NVIDIA; một máy cụ thể có gì thì xem trên chính máy đó trong danh sách. Điểm thực tế cần nhớ: tình trạng còn hàng khác nhau giữa các biến thể. Tìm H100 SXM ở Đức có thể không ra, trong khi lại có H100 PCIe, hoặc ngược lại. Nếu code của bạn không phụ thuộc NVLink, hãy tìm cả ba.
Mục 2: kiểm tra cấp tài khoản trước
GPU workstation và datacenter, gồm cả dòng H100, cần cấp tài khoản cao hơn mức của tài khoản mới. Tài khoản mới bắt đầu với GPU phổ thông, số instance ít và giới hạn chi tiêu theo giờ. Nếu cấp của bạn chưa cho phép H100, console sẽ báo: "This GPU class is not available at your account level".
Hãy xử lý việc này trước khi sát hạn. Liên hệ bộ phận hỗ trợ Cloudj ngay trong console để hỏi về cấp cao hơn, và lên lịch lần chạy H100 đầu tiên sau khi việc đó xong.
Mục 3: thuê H100 châu Âu bằng cách lọc mã quốc gia EU
Mở trang triển khai với một biến thể được chọn sẵn, ví dụ triển khai H100 SXM, rồi nhập các mã châu Âu bạn chấp nhận vào ô Country:
DE, NL, FR, SE, FINgăn cách bằng dấu phẩy hay khoảng trắng đều được. Kết quả sắp theo tổng giá, thấp nhất lên đầu, tối đa 50 máy. Vị trí chỉ hiển thị đến cấp quốc gia, nên máy DE cho biết máy ở Đức chứ không cho biết thành phố hay trung tâm dữ liệu nào.
Nếu có máy, bạn triển khai được. Nếu không:
- đổi sang biến thể H100 khác, hoặc đổi số GPU (1x, 2x, 4x hay 8x);
- thêm các mã EU mà chính sách cho phép, như
BE,PL,EShoặcIT; - nới bộ lọc reliability hoặc giá;
- tìm lại sau, vì tình trạng máy thay đổi trong ngày;
- với việc huấn luyện không có yêu cầu vị trí, xóa ô Country.
Nếu không có H100 phù hợp, A100 có thể là đủ. Bài so sánh A100 và H100 giải thích khi nào card cũ hơn lại đáng tiền hơn.
Mục 4: có bật "Datacenter only" không
Máy đặt trong trung tâm dữ liệu có nhãn Datacenter, và công tắc Datacenter only ẩn mọi máy còn lại. Bật nếu chính sách hoặc khách hàng yêu cầu; để tắt nếu bạn muốn thấy mọi lựa chọn.
Nhãn này chỉ mô tả nơi đặt máy, không phải SLA. Mọi máy trong danh sách đều là máy chủ độc lập không có SLA phần cứng, và console luôn nhắc bạn sao lưu dữ liệu quan trọng.
Mục 5: đọc thời hạn, reliability và băng thông
Việc chạy trên H100 thường dài và tốn kém, nên các thông tin sau quan trọng không kém giá:
- Max duration và "available until". Đến ngày đó, instance và ổ đĩa sẽ bị xóa. Thời gian chạy cộng thời gian chép checkpoint ra phải nằm gọn trước ngày này.
- Reliability. Ưu tiên mức cao cho những lần chạy nhiều ngày.
- Giá băng thông theo TB. Checkpoint và dữ liệu lớn cộng dồn ở cả hai chiều.
- Dung lượng ổ đĩa. Cố định khi triển khai, nên hãy tính đủ cho mô hình, dữ liệu, checkpoint và phần dư.
Nếu máy chủ mất kết nối, việc tính tiền tạm dừng trong thời gian đó, nhưng không có chuyện tự động chuyển sang máy khác. Hãy lưu checkpoint định kỳ về nơi lưu trữ bạn kiểm soát.
Mục 6: vị trí dữ liệu, đừng giả định
Lọc theo mã EU giữ máy chủ trong các nước bạn chọn. Điều này có ích cho nhóm có chính sách về nơi xử lý dữ liệu, nhưng bản thân bộ lọc không làm công việc đáp ứng quy định nào, và Cloudj không đưa ra cam kết tuân thủ nào cho mình hay cho các máy chủ. Hãy tự kiểm tra nghĩa vụ pháp lý của mình. Bài vị trí dữ liệu EU khi thuê GPU hướng dẫn chuyển một chính sách thành cách tìm kiếm cụ thể.
Mục 7: lên kế hoạch cho giờ đầu tiên
Tiền GPU tính theo phút từ số dư trả trước, giá hiển thị lúc triển khai được giữ cố định, và một khoản cọc (khoảng một giờ GPU, vài giờ lưu trữ và phần dự trữ băng thông) được tạm giữ khi triển khai. Khách hàng Việt Nam nạp số dư bằng chuyển khoản ngân hàng bằng VND. Hãy dùng giờ đầu để kiểm tra môi trường:
nvidia-smi
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.device_count())"Template "PyTorch + JupyterLab" và "Ubuntu 22.04 + CUDA (SSH)" là điểm khởi đầu tốt; Docker image công khai tự chọn cũng cần cấp tài khoản cao hơn. Quy trình fine-tune đầy đủ ở châu Âu có trong bài fine-tune LLM trên GPU tại châu Âu.
Câu hỏi thường gặp
Nên tìm loại H100 nào?
Nếu việc train dùng nhiều GPU trao đổi dữ liệu nhiều, bắt đầu với SXM. Việc một GPU thì PCIe là đủ. Inference mô hình lớn thì 94 GB của NVL có ích. Nếu chưa chắc, hãy tìm cả ba.
Vì sao tôi không chọn được H100?
GPU datacenter cần cấp tài khoản cao hơn. Hãy liên hệ bộ phận hỗ trợ Cloudj trong console.
Lúc nào ở Đức cũng có H100 chứ?
Không. Lọc DE với biến thể bạn cần; nếu không có máy, thêm các mã EU khác hoặc thử biến thể khác.
Nhãn Datacenter có nghĩa là có SLA không?
Không. Nhãn chỉ cho biết máy đặt trong trung tâm dữ liệu. Không máy nào trong danh sách có SLA phần cứng.
Tìm H100 ở châu Âu
Mở trang triển khai H100 SXM, nhập DE, NL, FR, SE, FI, và thử thêm biến thể PCIe, NVL nếu SXM không có máy. Giá "từ" theo thời gian thực có trên GPU cloud.