# Thuê GPU H200: H200 được liệt kê ở đâu và cách thuê hiệu quả

URL: https://cloudj.net/vi/blog/h200-cloud-rental
Published: 2026-11-12 · Updated: 2026-11-12

> Hướng dẫn thuê GPU H200: bộ nhớ của H200 NVL giúp gì, cách tìm mọi quốc gia rồi thu hẹp, yêu cầu cấp tài khoản và cách tính dung lượng đĩa cho model lớn.

Quyết định thuê GPU H200 thường là quyết định về bộ nhớ. H200 NVL có bộ nhớ HBM lớp 141 GB, đủ chứa những model hoặc context không vừa trên card 80 GB. Trên Cloudj, máy H200 xuất hiện trong cùng danh sách host độc lập như mọi GPU khác, nên thuê được hay không phụ thuộc vào ba việc: tìm đúng cách, chuẩn bị sẵn tài khoản, và tính trước ổ đĩa cùng dữ liệu trước khi bắt đầu tính tiền. Bài viết đi qua cả ba. Bài không hứa gì về tình trạng hàng hay giá, vì cả hai đều thay đổi trong ngày.

## H200 NVL dùng để làm gì

[H200 NVL](https://cloudj.net/vi/gpu-cloud/h200-nvl) là GPU datacenter với bộ nhớ lớp 141 GB mỗi card. Thực tế, bộ nhớ này giúp ích khi:

- **Model lớn chạy trên ít GPU hơn.** Model 70B ở độ chính xác 16-bit cần khoảng 140 GB chỉ riêng trọng số, nên một card thì rất sát, hai card thì thoải mái; ở 8-bit thì một card là đủ, còn dư chỗ cho cache. Đây là con số ước lượng, hãy kiểm tra kích thước thật của model bạn dùng.
- **Context dài cần KV cache lớn.** Phục vụ nhiều người dùng đồng thời với prompt dài ngốn bộ nhớ rất nhanh.
- **Train hoặc fine-tune cần dư địa.** Batch lớn hơn và fine-tune toàn phần model cỡ vừa sẽ dễ vừa hơn.

Nếu model của bạn nằm gọn trong 80 GB, [H100 SXM](https://cloudj.net/vi/gpu-cloud/h100-sxm) có thể là lựa chọn thực tế hơn. Bài [A100 hay H100 trên cloud](https://cloudj.net/vi/blog/a100-vs-h100-cloud) so sánh các thế hệ trước.

## Trước khi tìm: chuẩn bị tài khoản

H200 là GPU datacenter. Tài khoản thuê được gì phụ thuộc vào cấp tài khoản (account level) do Cloudj đặt. Tài khoản mới bắt đầu ở cấp dành cho GPU consumer; các mẫu datacenter như A100, H100, H200 cần cấp cao hơn. Nếu chọn H200 mà thấy dòng "This GPU class is not available at your account level", hãy liên hệ bộ phận hỗ trợ Cloudj từ console trước khi lên kế hoạch dựa vào nó.

Cũng cần kiểm tra số dư tài khoản đủ cho khoản tạm giữ (deposit). Khi triển khai, hệ thống tạm giữ khoảng một giờ tiền GPU, vài giờ tiền lưu trữ và một khoản dự phòng băng thông; phần chưa dùng trả lại sau khi bạn xóa instance, có thể bị giữ tới 72 giờ trong lúc chốt phí băng thông cuối. Người dùng Việt Nam nạp tiền bằng chuyển khoản VND, nên hãy nạp trước một khoản đủ dư để không bị kẹt lúc đang có máy.

## Tìm mọi quốc gia trước, thu hẹp sau

Với card khan hiếm, bắt đầu bằng một nước duy nhất gần như chắc chắn sẽ chẳng thấy gì. Hãy làm ngược lại thứ tự thông thường:

1. Mở [trang triển khai đã chọn sẵn H200 NVL](https://app.cloudj.net/deploy/gpu?model=h200-nvl) và để trống ô Country.
2. Chọn số GPU cần (1×, 2×, 4× hoặc 8×; tất cả nằm trong một máy).
3. Xem danh sách: quốc gia, reliability, max duration, tốc độ tải, giá băng thông và nhãn Datacenter.
4. Thu hẹp nếu cần. Phục vụ người dùng Mỹ thì thử `US`. Nếu quy định chỉ dùng châu Âu, thử `DE, NL` và các mã EU khác bạn chấp nhận.
5. Nếu lượt tìm hẹp trống, hãy tự hỏi vị trí có thật sự quan trọng với job này không. Với phần lớn công việc trên H200, như train, fine-tune hay inference hàng loạt, câu trả lời là không.

[Hướng dẫn thuê GPU theo khu vực](https://cloudj.net/vi/blog/gpu-cloud-by-location-guide) giải thích khi nào vị trí quan trọng và khi nào không.

### Datacenter only

Card datacenter thường nằm trong data center, dù không phải luôn luôn. Bật "Datacenter only" sẽ chỉ giữ các host có nhãn Datacenter. Công tắc này thu hẹp danh sách H200 nhiều hay ít tùy vào máy đang được liệt kê; hãy so sánh kết quả khi bật và khi tắt. Nó không thêm SLA nào: mỗi host là máy độc lập, không có SLA phần cứng và có ngày hết hạn.

## Tính ổ đĩa trước khi triển khai

Dung lượng ổ đĩa đặt lúc triển khai và **không tăng được sau này**. Với model lớn, đây là chỗ nhiều người bị "dính". Hãy cộng:

| Hạng mục | Ước lượng |
|---|---|
| Trọng số model | Kích thước checkpoint bạn tải, ở độ chính xác sẽ dùng |
| Bản sao thứ hai khi chuyển đổi hoặc lượng tử hóa | Cùng cỡ với trọng số, nếu bạn chuyển đổi ngay trên máy |
| Cache của framework (pip, Hugging Face, kernel đã biên dịch) | Vài chục GB là chuyện thường |
| Dataset và kết quả | Theo số liệu của bạn |
| Dư địa | Chừa một khoảng thoải mái |

Lưu trữ tính theo GB mỗi tháng, nên chọn thừa có tốn tiền, nhưng hết chỗ giữa chừng khi đang tải model còn tệ hơn. Bài [chọn dung lượng ổ đĩa cho GPU](https://cloudj.net/vi/blog/choose-gpu-disk-size) hướng dẫn chi tiết.

Hai điểm liên quan:

- **Tốc độ tải.** Kết quả hiện tốc độ tải xuống của từng máy theo Mbps. Kéo một checkpoint rất lớn qua đường truyền chậm là lãng phí giờ GPU đang trả tiền.
- **Giá băng thông.** Mỗi máy ghi giá mỗi TB tải xuống và tải lên. Đẩy dataset lớn lên hay kéo checkpoint về đều tính ở đây.

## Máy nhiều GPU H200

Nếu có máy 2× hoặc 4× H200, tất cả GPU nằm trong cùng một host. Các framework như vLLM có thể chia model qua nhiều GPU bằng tensor parallelism:

```bash
vllm serve MODEL_ID --tensor-parallel-size 2
```

Bạn tự cài vLLM qua SSH; Cloudj không có sẵn vLLM dưới dạng template. Bài [chạy LLM 70B trên nhiều GPU ở châu Âu](https://cloudj.net/vi/blog/llm-70b-multi-gpu-europe) nói kỹ hơn về chạy model trên nhiều GPU.

## Bảo vệ job của bạn

Mỗi giờ H200 đều đáng giá, nên hãy tính trước chuyện gián đoạn:

- Ghi lại ngày "available until"; đến ngày đó instance và ổ đĩa bị xóa.
- Lưu checkpoint định kỳ ra nơi lưu trữ bạn kiểm soát.
- Chạy job dài trong `tmux` để rớt SSH không làm chết job.
- Nếu host mất kết nối, việc tính tiền tạm dừng, nhưng không có cơ chế tự chuyển sang máy khác. Hãy có sẵn script dựng lại môi trường.

Dừng (Stop) instance sẽ giữ ổ đĩa nhưng nhả GPU; người khác có thể thuê mất, và khi bật lại bạn phải chờ tới khi GPU rảnh. Với card khan hiếm, xóa rồi triển khai lại sau có khi thực tế hơn là dừng.

## Câu hỏi thường gặp

### H200 trên Cloudj lúc nào cũng có hàng?

Không. Hàng thay đổi trong ngày. Trang model cho biết hiện có hàng hay không, còn console hiển thị máy đang được liệt kê.

### Vì sao tôi không chọn được H200?

GPU datacenter cần cấp tài khoản cao hơn. Hãy liên hệ hỗ trợ Cloudj từ console.

### Tải model xong có tăng ổ đĩa được không?

Không. Dung lượng ổ đĩa cố định từ lúc triển khai, nên hãy tính trước.

### Có nên tìm ở nước mình trước?

Với card khan hiếm, hãy tìm mọi quốc gia trước và chỉ thu hẹp khi vị trí thật sự quan trọng với job.

## Bước tiếp theo

Mở [trang triển khai H200 NVL](https://app.cloudj.net/deploy/gpu?model=h200-nvl), để trống ô Country và xem hiện có máy nào. Giá "từ" theo thời gian thực của mọi mẫu có trên [GPU cloud](https://cloudj.net/vi/gpu-cloud).