# Thuê A100 Mỹ: bản PCIe và SXM4, tính tiền theo từng phút

URL: https://cloudj.net/vi/blog/a100-cloud-usa
Published: 2026-11-12 · Updated: 2026-11-12

> Thuê A100 Mỹ cho huấn luyện và việc chạy nền: khác biệt thực tế giữa PCIe và SXM4, máy nhiều GPU, và cách ước tính chi phí kể cả lúc instance đang dừng.

Nếu bạn cần thuê A100 Mỹ để huấn luyện hoặc chạy job nền, Cloudj có cách làm rất trực tiếp: mở trang triển khai GPU với A100 đã chọn, gõ `US` vào ô Country, rồi so sánh các máy host độc lập đang có. Bạn sẽ thấy hai biến thể A100 là PCIe và SXM4, trong máy một GPU lẫn nhiều GPU. Bài này giải thích khác biệt thực tế giữa hai loại, khi nào máy nhiều GPU đáng tiền, và cách ước tính toàn bộ chi phí một job, kể cả khoản hay bị quên: phí lưu trữ khi instance đang dừng.

Nếu bạn chưa chốt Mỹ là nơi đặt máy, bài [thuê GPU Mỹ](https://cloudj.net/vi/blog/gpu-cloud-usa) nói chung về cách tìm với mã `US`.

## A100 trên Cloudj trong một đoạn

A100 là GPU data center, trên Cloudj được niêm yết bản 40 GB. Card này cần cấp tài khoản cao hơn tài khoản mới; nếu thử quá sớm, console sẽ báo dòng GPU này chưa khả dụng ở cấp tài khoản của bạn, và bạn liên hệ hỗ trợ Cloudj ngay từ đó. Instance chạy trong container với template bạn chọn (Ubuntu 22.04 + CUDA, PyTorch + JupyterLab, hoặc Docker image công khai của riêng bạn khi ở cấp tài khoản cao hơn), truy cập qua SSH bằng key.

## PCIe và SXM4: khác nhau ở đâu

Hai biến thể dùng cùng chip GPU và cùng 40 GB bộ nhớ ở bản được niêm yết. Khác biệt nằm ở cách card kết nối với máy và với các GPU khác.

| | [A100 PCIe](https://cloudj.net/vi/gpu-cloud/a100-pcie) | [A100 SXM4](https://cloudj.net/vi/gpu-cloud/a100-sxm4) |
|---|---|---|
| Dạng thiết kế | Card PCIe tiêu chuẩn | Module gắn trên bo mạch chuyên dụng |
| Kết nối giữa các GPU | Qua PCIe, hoặc cầu nối ở một số máy | Thường có NVLink băng thông cao |
| Điện năng và xung nhịp | Giới hạn điện thấp hơn | Giới hạn điện cao hơn, giữ xung cao lâu hơn |
| Hợp nhất với | Huấn luyện một GPU, inference, việc chạy nền | Huấn luyện nhiều GPU, trao đổi dữ liệu nhiều |

Với job một GPU, khoảng cách giữa hai loại không lớn và giá thường là yếu tố quyết định. Với huấn luyện nhiều GPU, khi các GPU trao đổi gradient ở mỗi bước, máy SXM4 thường mở rộng tốt hơn nhờ kết nối nhanh. Hãy xem trang model để biết thông số Cloudj công bố, đừng dựa vào các con số benchmark chung chung.

## Các bước tìm máy ở Mỹ

1. Mở [trang triển khai với A100 PCIe](https://app.cloudj.net/deploy/gpu?model=a100-pcie), hoặc đổi sang SXM4.
2. Nhập `US` vào ô Country.
3. Chọn số GPU: 1x, 2x, 4x hoặc 8x. Tất cả GPU nằm trong cùng một máy.
4. Đặt dung lượng ổ đĩa. Không thể đổi sau khi triển khai, và giá trong danh sách đã tính theo dung lượng này.
5. Đặt độ tin cậy tối thiểu, và nếu sẽ chuyển nhiều dữ liệu, đặt giá băng thông tối đa.
6. So sánh các dòng theo độ tin cậy, thời hạn tối đa, tốc độ tải xuống và giá băng thông.

Tình trạng máy thay đổi trong ngày. Nếu không có máy, hãy thử biến thể còn lại, đổi số GPU, thêm `CA`, hoặc kiểm tra lại sau. Với việc chạy nền, mã châu Âu cũng ổn.

## Khi nào nên thuê máy nhiều GPU

Thuê 4x hay 8x A100 chỉ đáng khi code của bạn thật sự dùng hết. Hãy tự hỏi ba câu:

- **Mô hình có vừa một GPU không?** Nếu có, data parallel trên nhiều GPU có thể rút ngắn thời gian huấn luyện, nhưng chỉ khi batch đủ lớn để chia.
- **Không vừa?** Khi đó bạn cần model parallel hoặc tensor parallel, và tốc độ kết nối giữa các GPU trở nên quan trọng. Nên chọn SXM4.
- **Job gồm nhiều lượt chạy nhỏ độc lập?** Khi đó vài instance một GPU có thể đơn giản hơn một máy nhiều GPU.

Trước một job dài, hãy kiểm tra GPU nào cũng đang làm việc:

```bash
nvidia-smi --query-gpu=index,utilization.gpu,memory.used --format=csv -l 5
```

Nếu chỉ một GPU bận còn các GPU khác ngồi chơi, hãy sửa lệnh khởi chạy trước khi trả thêm tiền giờ. Bài [so sánh A100 và H100](https://cloudj.net/vi/blog/a100-vs-h100-cloud) giúp bạn nếu đang phân vân card mới hơn có xong việc nhanh hơn không.

## Ước tính chi phí một job, kể cả lúc dừng

Giá thay đổi vài phút một lần nên bài viết không ghi con số. Thay vào đó, hãy dùng mức giá console hiển thị trước khi triển khai; mức giá này được giữ nguyên cho instance đó. Một bản ước tính đầy đủ gồm bốn phần:

1. **Chi phí khi chạy** = giá chạy (GPU + ổ đĩa) x số giờ instance chạy.
2. **Chi phí khi dừng** = giá khi dừng (chỉ lưu trữ) x số giờ instance ở trạng thái dừng.
3. **Băng thông** = số GB tải xuống x giá tải xuống + số GB tải lên x giá tải lên.
4. **Tiền cọc** = bị giữ từ số dư lúc triển khai, không phải chi phí. Phần chưa dùng được trả lại sau khi xóa instance, có thể mất tới 72 giờ.

Dòng thứ hai là khoản hay làm người ta bất ngờ. Dừng instance giữ lại ổ đĩa và chỉ tính phí lưu trữ, rẻ hơn khi chạy nhưng không miễn phí. Một ổ lớn để dừng vài tuần sẽ cộng dồn đáng kể. Dừng cũng nhả GPU ra; khi bật lại có thể phải chờ tới lúc GPU đó rảnh. Nếu không cần dữ liệu nữa, hãy xóa instance.

Tính tiền theo phút, nên job xong sớm thì tốn ít hơn. Bài [ước tính chi phí GPU cloud](https://cloudj.net/vi/blog/estimate-gpu-cloud-cost) có mẫu tính sẵn để bạn sao chép. Với đội ở Việt Nam, nhớ nạp đủ số dư tài khoản bằng chuyển khoản VND trước khi chạy job dài để khoản cọc không làm gián đoạn kế hoạch.

## Dùng A100 để inference?

A100 phục vụ mô hình tốt, nhất là mô hình cần hơn 24 GB hoặc hưởng lợi từ batch lớn. Tuy vậy, với nhiều job inference, card phổ thông là đủ và không cần nâng cấp tài khoản. Bài [RTX 4090 hay A100](https://cloudj.net/vi/blog/rtx-4090-vs-a100-inference) phân tích quyết định đó.

## Bảo vệ job chạy dài

- Kiểm tra ngày "available until"; tới ngày đó instance và ổ đĩa bị xóa.
- Chép checkpoint ra khỏi máy thường xuyên. Host là máy độc lập, không có SLA phần cứng, và nếu host mất kết nối thì không tự chuyển máy.
- Để dataset ở nơi bạn tải lại nhanh được.

## Câu hỏi thường gặp

### A100 trên Cloudj là 40 GB hay 80 GB?

A100 PCIe và SXM4 được niêm yết bản 40 GB.

### Tôi có thêm GPU vào instance đang chạy được không?

Không. Số GPU chọn lúc triển khai. Nếu cần số khác, hãy triển khai máy mới.

### Vì sao instance đang dừng vẫn tốn tiền?

Instance dừng vẫn giữ ổ đĩa nên bị tính phí lưu trữ. Hãy xóa instance khi không cần dữ liệu nữa.

### Xem giá A100 ở đâu?

Giá theo thời gian thực có trên [trang A100 PCIe](https://cloudj.net/vi/gpu-cloud/a100-pcie), [trang A100 SXM4](https://cloudj.net/vi/gpu-cloud/a100-sxm4) và [GPU cloud](https://cloudj.net/vi/gpu-cloud).

## Bước tiếp theo

Mở [trang triển khai với A100 PCIe](https://app.cloudj.net/deploy/gpu?model=a100-pcie), nhập `US` và so sánh các dòng một GPU lẫn nhiều GPU. Ước tính chi phí chạy, chi phí dừng và băng thông trước khi bắt đầu, và chép checkpoint ra ngoài trong suốt quá trình.