Thuê GPU NVIDIA H100 SXM theo giờ
NVIDIA H100 SXM là GPU trung tâm dữ liệu kiến trúc Hopper được trang bị 80 GB VRAM và mức công suất 700 W. Dòng card này mang lại hiệu năng tính toán dấu phẩy động tiêu chuẩn khoảng 53.5 TFLOPS và băng thông bộ nhớ đạt khoảng 2869 GB/s, hỗ trợ CUDA compute capability 9.0. Thuê ngay trên Cloudj với hình thức tính phí theo giờ, toàn quyền truy cập SSH và các template dựng sẵn cho PyTorch/CUDA, vLLM, Ollama và ComfyUI.
Thông số
VRAM mỗi GPU
80 GB
Kiến trúc
NVIDIA Hopper
Compute capability
9
Hiệu năng FP32
≈ 53.5 TFLOPS
Băng thông bộ nhớ
≈ 2869 GB/s
Giới hạn công suất
700 W
Số liệu do nhà cung cấp hạ tầng báo cho các máy đang có; hiệu năng thực tế khác nhau theo từng máy.
Cấu hình đang có
Tồn kho và giá cập nhật liên tục. Giá cuối cùng được xác nhận trước khi bạn đặt.
Thuê ngayH100 SXM phù hợp với việc gì
Suy luận mô hình ngôn ngữ lớn (LLM)
Triển khai các mô hình ngôn ngữ đòi hỏi tài nguyên cao vào môi trường thực tế (production) nhờ dung lượng 80 GB VRAM và băng thông bộ nhớ khoảng 2869 GB/s thông qua các template vLLM hoặc Ollama.
Fine-tuning mô hình học sâu (Deep Learning)
Huấn luyện và fine-tuning mạng nơ-ron bằng kiến trúc Hopper cùng CUDA compute capability 9.0 với các môi trường PyTorch/CUDA đã được cấu hình sẵn.
Xử lý hàng loạt (Batch Processing) thông lượng cao
Chạy các tác vụ mô phỏng và xử lý dữ liệu chuyên sâu, tận dụng tối đa hiệu năng tính toán khoảng 53.5 TFLOPS trong thiết kế chuẩn trung tâm dữ liệu 700 W.
Quy trình tạo sinh đa phương tiện chuyên sâu
Thực thi các pipeline ComfyUI phức tạp và mô hình khuếch tán (diffusion) với kích thước batch lớn, vận hành thoải mái trong dung lượng bộ nhớ 80 GB.
Có đúng GPU bạn cần?
Hãy chọn H100 SXM khi các tác vụ huấn luyện hoặc suy luận của bạn đòi hỏi 80 GB bộ nhớ trung tâm dữ liệu băng thông cao cùng các tính năng của kiến trúc Hopper. Một GPU máy trạm hoặc GPU tiêu dùng nhỏ hơn sẽ là lựa chọn thực tế hơn cho việc phát triển nhẹ nhàng hoặc các mô hình nhỏ, trong khi một GPU trung tâm dữ liệu thế hệ mới hơn hoặc có dung lượng cao hơn sẽ phù hợp hơn nếu một máy chủ đơn lẻ không thể chứa toàn bộ mô hình của bạn trong 80 GB VRAM.
So sánh với GPU tương đương
| GPU | VRAM mỗi GPU | Hiệu năng FP32 | Giới hạn công suất | |
|---|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Chi tiết → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Chi tiết → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | Chi tiết → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | Chi tiết → |
Câu hỏi thường gặp
Thuê H100 SXM theo giờ
Tạo tài khoản, chọn cấu hình và kết nối qua SSH. Ngừng tính tiền khi bạn xoá GPU.