Tới nội dung
Cloudj

Hướng dẫn GPU

Tính chi phí thuê GPU cloud: GPU, ổ đĩa, băng thông và tiền cọc

Cách tính chi phí thuê GPU cloud: giá khi chạy, giá khi dừng, băng thông theo GB, khoản cọc bị giữ và hoàn lại, kèm bảng tính bạn điền số liệu từ console.

Cập nhật · 5 phút đọc

Giá GPU trên Cloudj thay đổi vài phút một lần, nên không bảng giá cố định nào cho bạn biết một job tốn bao nhiêu. Điều bạn làm được là tự tính chi phí thuê GPU cloud bằng một bảng tính nhỏ: lấy các con số mà console hiển thị cho một máy cụ thể, rồi biến chúng thành tổng chi phí cho đúng việc của bạn. Bài này giải thích từng phần của hóa đơn, đưa ra bảng tính, và chỉ ra những sai lầm thường gặp khiến chi phí thật lệch khỏi dự tính.

Các mức giá này đến từ đâu (một danh sách máy đang có, lọc theo quốc gia) được giải thích trong hướng dẫn thuê GPU theo vị trí.

Hóa đơn GPU gồm những phần nào

Mọi instance GPU trên Cloudj đều tính tiền theo phút, trừ vào số dư trả trước của tài khoản. Số dư tính bằng USD; khách hàng ở Việt Nam nạp bằng chuyển khoản ngân hàng VND, không cần thẻ quốc tế. Hóa đơn có bốn phần.

1. Giá khi chạy. Trong lúc instance chạy, bạn trả giá chạy, gồm giá GPU cộng giá ổ đĩa theo dung lượng bạn chọn. Console hiển thị giá này trước khi triển khai, và giá được giữ cố định cho instance đó.

2. Giá khi dừng. Nếu bạn Stop instance, GPU được nhả ra và bạn chỉ trả tiền lưu trữ, tức giá khi dừng. Mức này thấp hơn nhiều, nhưng không phải bằng không.

3. Băng thông. Dữ liệu tải vào và gửi ra khỏi instance được tính theo GB, với giá băng thông ghi trên chính máy đó (hiển thị theo TB trong kết quả tìm kiếm). Mỗi máy có giá băng thông khác nhau.

4. Tiền cọc. Khi triển khai, hệ thống tạm giữ một khoản cọc từ số dư: khoảng một giờ GPU, vài giờ lưu trữ và một phần dự phòng băng thông. Đây không phải khoản phí. Phần chưa dùng được trả lại số dư sau khi bạn hủy (Destroy) instance, có thể bị giữ tối đa 72 giờ trong lúc chờ quyết toán phí băng thông cuối cùng.

Không có gói GPU trả trước dài hạn và không có phí khởi tạo. Nếu triển khai không khởi động được, bạn không bị tính gì và tiền cọc được trả lại.

Bảng tính

Điền các biến sau từ console cho máy bạn đang cân nhắc:

BiếnLấy từ đâu
R giá chạy mỗi giờHiển thị trước khi triển khai (GPU + ổ đĩa)
S giá khi dừng mỗi giờGiá lưu trữ cho dung lượng ổ đĩa của bạn
D giá mỗi GB tải xuốngGiá băng thông tải xuống của máy (theo TB chia 1000)
U giá mỗi GB tải lênGiá băng thông tải lên của máy (theo TB chia 1000)
h_run số giờ chạyƯớc lượng của bạn, gồm cả lúc cài đặt và lúc máy ngồi không
h_stop số giờ dừngThời gian giữ ổ đĩa mà không tính toán
gb_in số GB vào instanceModel, bộ dữ liệu, gói phần mềm
gb_out số GB ra khỏi instanceKết quả, checkpoint, log

Sau đó:

tổng ≈ R × h_run + S × h_stop + D × gb_in + U × gb_out
số dư cần có để triển khai ≈ tiền cọc + chi phí dự kiến tới lần nạp tiếp theo

Hãy giữ bảng tính này trong Google Sheets hoặc Excel; khi so sánh hai máy, chỉ cần chép dòng và đổi các mức giá.

Ước lượng h_run cho trung thực

Sai lầm phổ biến nhất là chỉ tính những giờ "làm việc thật". GPU bị tính tiền từ lúc chạy, không phải từ lúc job của bạn bắt đầu. Hãy tính cả:

  • Cài đặt: cài gói, tải model, gỡ lỗi lần chạy đầu tiên.
  • Truyền dữ liệu trong lúc GPU chờ: upload chậm khi instance đã chạy là giờ GPU bị tính tiền. Với đường quốc tế từ Việt Nam, phần này có thể đáng kể.
  • Thời gian bỏ không: phiên làm việc để mở trong giờ nghỉ trưa.
  • Khoảng dư: job hiếm khi chạy đúng như kế hoạch.

Với huấn luyện, hãy đo một đoạn ngắn (ví dụ 100 bước) trên cùng mẫu GPU rồi nhân lên. Với dịch vụ inference, h_run đơn giản là số giờ dịch vụ hoạt động.

Stop hay Destroy?

Stop trông rẻ hơn Destroy khi bạn định quay lại, nhưng có hai điểm cần biết. Thứ nhất, thời gian dừng vẫn tốn S mỗi giờ. Thứ hai, Stop sẽ nhả GPU; người khác có thể thuê mất, và lúc Start lại phải chờ đến khi card rảnh. Nếu sau đó bạn cần GPU ngay, có khi vẫn phải triển khai instance mới.

Quy tắc đơn giản: quay lại trong vài giờ và chấp nhận được việc chờ thì Stop. Nghỉ vài ngày thì sao lưu thứ cần giữ rồi Destroy. Bài nên Stop hay Destroy instance GPU phân tích kỹ hơn.

Giảm tổng chi phí

  • Tải trên máy chủ. Kéo model công khai từ nguồn ngay trên instance nhanh hơn upload và giúp rút ngắn giờ cài đặt.
  • Mang về ít thôi. Checkpoint cuối và kết quả, không mang cache.
  • So sánh giá băng thông với job nặng dữ liệu, đừng chỉ nhìn R.
  • Tận dụng sắp xếp theo giá. Kết quả được sắp theo tổng giá từ thấp đến cao, nên với job chạy theo lô, mở rộng bộ lọc quốc gia sẽ cho thêm lựa chọn. Bài chạy inference theo lô ở khu vực rẻ nhất nói rõ hơn.
  • Chọn đúng card cho việc. Card nhanh hơn với R cao hơn vẫn có thể làm tổng thấp hơn nếu rút ngắn h_run đủ nhiều. Hãy so chi phí cho mỗi job hoàn thành.
  • Destroy ngay khi mọi thứ đã được lưu.

Tính tiền GPU khác VPS thế nào

Nếu một phần hệ thống chạy suốt ngày đêm (API, cơ sở dữ liệu, hàng đợi), phần đó nên nằm trên VPS, loại Cloudj cho phép trả theo giờ hoặc theo tháng. GPU chỉ tính theo phút. Bài VPS theo giờ hay theo tháng giúp bạn chọn cho phần đó. Còn GPU chỉ dành cho việc thật sự cần GPU.

Ví dụ minh họa bằng biến

Một team fine-tune LoRA. Họ ước lượng 1 giờ cài đặt, 5 giờ huấn luyện và 30 phút đánh giá, vậy h_run là 6,5. Họ tải một model gốc khoảng 15 GB và upload 2 GB dữ liệu huấn luyện, vậy gb_in là 17. Họ mang về một adapter 0,5 GB, vậy gb_out là 0,5. Họ hủy máy ngay sau đó, nên h_stop bằng 0.

tổng ≈ R × 6.5 + D × 17 + U × 0.5

Họ điền R, D và U của hai máy ứng viên từ console và chọn máy có tổng thấp hơn, đồng thời kiểm tra ngày "available until" của máy còn dư nhiều thời gian. Giá "từ" theo từng mẫu có trên GPU cloud.

Câu hỏi thường gặp

Tiền cọc có phải là phí không?

Không. Tiền chỉ bị giữ, không bị trừ. Phần chưa dùng được trả lại sau khi hủy instance, chậm nhất trong khoảng 72 giờ.

Giá có thay đổi sau khi tôi triển khai không?

Không. Giá hiển thị lúc triển khai được giữ cố định cho instance đó.

Vì sao hóa đơn cao hơn dự tính?

Thường do quên tính thời gian cài đặt, thời gian bỏ không hoặc băng thông. Ở job sau, hãy ghi lại h_run và lượng dữ liệu thật.

Máy mất kết nối thì tôi có bị tính tiền không?

Không. Việc tính tiền tạm dừng trong lúc máy mất kết nối.

Tính giá cho job tiếp theo

Mở trang triển khai, chọn hai máy ứng viên và điền bảng tính cho từng máy. So sánh giá trực tiếp trên GPU cloud.

Triển khai máy chủ hoặc mua proxy

Chọn vị trí trong console, xem giá trực tiếp và thanh toán từ số dư tài khoản.