Chọn dung lượng ổ đĩa máy chủ GPU trông như một thiết lập nhỏ trên trang triển khai, nhưng đây là một trong số ít lựa chọn bạn không thể sửa lại. Trên Cloudj, dung lượng ổ đĩa của instance GPU được đặt khi triển khai và không thể mở rộng sau đó. Chọn thiếu thì một việc chạy dài sẽ lỗi đúng lúc tệ nhất, hoặc bạn phải triển khai lại và chép mọi thứ sang. Chọn thừa thì bạn trả tiền cho chỗ trống không dùng, cả khi máy chạy lẫn khi máy dừng. Bài này đưa ra một bảng tính đơn giản để chọn đúng ngay lần đầu.
Ổ đĩa là một trong ba khoản chi phí, cùng với thời gian GPU và băng thông; bài ước tính chi phí thuê GPU chỉ cách cộng chúng lại.
Vì sao việc chọn dung lượng quan trọng
- Cố định khi triển khai. Bạn chọn dung lượng trong khoảng tối thiểu của template và tối đa của máy. Sau khi triển khai thì không đổi được. Nếu hết chỗ, cách duy nhất là tạo instance mới với ổ lớn hơn.
- Mức tối đa khác nhau giữa các máy. Mỗi máy chủ cho phép một dung lượng tối đa khác nhau. Nếu bạn cần ổ rất lớn, số máy phù hợp sẽ ít đi.
- Nằm trong giá khi chạy. Giá khi chạy gồm GPU cộng ổ đĩa.
- Vẫn tính tiền khi dừng. Instance đang dừng vẫn trả tiền lưu trữ cho ổ đĩa. Mỗi máy ghi giá lưu trữ theo GB mỗi tháng.
- Dùng để tính giá khi tìm. Thiết lập dung lượng ổ đĩa trong console được dùng để tính giá trong kết quả, nên hãy đặt nó trước khi so sánh các máy.
Điều này khác với VPS, nơi đổi cấu hình là thao tác bình thường; xem bài nâng cấp CPU, RAM và ổ đĩa VPS cho trường hợp đó.
Bảng tính để chọn dung lượng ổ đĩa máy chủ GPU
Cộng năm dòng:
ổ đĩa = container image hoặc template
+ trọng số mô hình (mọi mô hình sẽ nạp)
+ dữ liệu (bản gốc và bản đã xử lý)
+ kết quả (checkpoint, file tạo ra, log)
+ phần dư1. Image hoặc template
Các template cơ bản ("Ubuntu 22.04 + CUDA (SSH)", "PyTorch + JupyterLab") và phần lớn image tự dựng có CUDA cùng framework chiếm từ vài GB đến vài chục GB, tùy những gì được cài. Hãy cộng thêm mọi thứ bạn sẽ pip install hay apt install. Nếu dùng image riêng, kiểm tra kích thước bằng docker image ls trên máy của bạn.
2. Trọng số mô hình
Kích thước ước lượng, mang tính tham khảo chung:
- trọng số ở độ chính xác 16-bit chiếm khoảng 2 GB cho mỗi tỷ tham số, nên mô hình 7B khoảng 14-15 GB, còn 70B khoảng 140 GB;
- trọng số lượng tử hóa 4-bit chiếm khoảng một phần tư mức đó;
- một checkpoint SDXL nặng vài GB, chưa kể LoRA, VAE và ControlNet;
- mô hình tạo video cùng text encoder đi kèm có thể chiếm hàng chục GB mỗi mô hình.
Hãy đếm mọi mô hình bạn định thử, không chỉ mô hình bạn nghĩ sẽ giữ lại. Các kho mô hình còn giữ cache khi tải; tải thẳng vào thư mục đích giúp tránh lưu hai bản.
3. Dữ liệu
Tính cả dữ liệu gốc lẫn các bản đã xử lý: dữ liệu đã tokenize, ảnh đã thu nhỏ, âm thanh đã tách. Bước tiền xử lý thường làm dung lượng tăng gấp đôi trong một thời gian.
4. Kết quả
Đây là dòng hay bị đánh giá thấp nhất.
- Checkpoint huấn luyện. Một checkpoint đầy đủ kèm trạng thái optimizer có thể nặng gấp vài lần trọng số. Nhân với số checkpoint bạn giữ cùng lúc trên ổ.
- Ảnh và video tạo ra. Ảnh cộng dồn dần; video cộng dồn rất nhanh. Bài thuê GPU tạo video AI giải thích vì sao dự án video cần ổ lớn nhất.
- Log và cache. Thường nhỏ, trừ khi bạn ghi log cả tensor hay mẫu đầu ra.
5. Phần dư
Cộng thêm 20-30%. Hệ thống file hoạt động rất tệ khi đầy, và các tác vụ thường ghi file tạm mà bạn không tính trước.
Ba ví dụ tính thử
| Dự án | Image | Mô hình | Dữ liệu | Kết quả | Phần dư | Nên chọn khoảng |
|---|---|---|---|---|---|---|
| ComfyUI với SDXL và vài LoRA, làm ảnh cho shop | Template cộng giao diện | Một checkpoint SDXL, vài LoRA và ControlNet | Ảnh tham chiếu | Vài nghìn ảnh | 25% | Ổ vừa phải, dư thoải mái so với tổng |
| Fine-tune LoRA mô hình 7B trên dữ liệu tiếng Việt | Template PyTorch | 7B ở 16-bit | Bộ dữ liệu hội thoại | Adapter cộng vài checkpoint | 25% | Trung bình |
| Phục vụ mô hình 70B 4-bit trên 2 GPU | Image riêng có máy chủ inference | 70B 4-bit, khoảng 40 GB | Không có | Log | 25% | Trung bình đến lớn |
Hãy điền số liệu của bạn vào từng dòng; điều quan trọng là ghi ra thay vì đoán. Riêng trường hợp ComfyUI, xem bài chạy ComfyUI trên GPU tại châu Âu.
Theo dõi dung lượng khi làm việc
Khi instance đã chạy, hãy để mắt tới chỗ trống:
df -h /workspace
du -sh /workspace/* | sort -hNếu sắp chạm giới hạn, hãy xóa checkpoint cũ sau khi đã chép những cái cần giữ ra ngoài, dọn cache (pip cache purge), và xóa file trung gian. Nếu vẫn không đủ, triển khai instance mới với ổ lớn hơn rồi chép công việc sang bằng rsync.
Khi nào nên cố ý chọn nhỏ
Với lần thử ngắn, buổi học hay một lượt chạy CI, hãy chọn ổ nhỏ nhất vừa đủ cho template và code. Bạn sẽ sớm xóa instance, và mỗi GB thêm đều làm tăng giá khi chạy. Instance đang dừng vẫn trả tiền cho ổ đĩa, nên với việc không thường xuyên, xóa rồi triển khai lại có thể rẻ hơn giữ một ổ lớn ở trạng thái dừng. Tiền được trừ theo phút từ số dư, và bạn nạp số dư bằng chuyển khoản ngân hàng bằng VND.
Câu hỏi thường gặp
Có tăng ổ đĩa sau khi triển khai được không?
Không. Dung lượng ổ đĩa cố định khi triển khai. Hãy tạo instance mới với ổ lớn hơn và chép dữ liệu sang.
Dừng instance có phải trả tiền ổ đĩa không?
Có. Instance đang dừng trả tiền lưu trữ cho ổ đĩa theo giá của máy.
Vì sao có máy không cho chọn ổ đĩa thật lớn?
Mỗi máy có dung lượng ổ tối đa riêng. Nếu cần nhiều hơn, hãy chọn máy có mức tối đa đủ lớn.
Nên chừa bao nhiêu phần dư?
Khoảng 20-30% trên mức ước tính là mặc định hợp lý.
Tính xong rồi hãy triển khai
Điền bảng tính, đặt dung lượng ổ đĩa trên trang triển khai GPU trước khi so sánh các máy, và xem giá theo thời gian thực trên GPU cloud.