Tới nội dung
Cloudj

Mẫu GPU theo khu vực

Thuê GPU A40: card data center 48 GB cho render và AI

Khi nào nên thuê GPU A40 cho render và inference cỡ vừa, A40 so với L40S và RTX A6000 ra sao, và cách tìm máy với mã US, DE, NL trên Cloudj.

Cập nhật · 4 phút đọc

Thuê GPU A40 là lựa chọn được nhiều người âm thầm ưa thích cho hai loại việc: render 3D không giao diện và inference mô hình AI cỡ vừa cần hơn 24 GB bộ nhớ. A40 là card data center với bộ nhớ hạng 48 GB, thiết kế cho máy chủ chứ không phải máy bàn. Trên Cloudj, bạn tìm A40 bằng cách mở trang triển khai đã chọn sẵn model này, rồi thu hẹp danh sách máy host độc lập theo quốc gia, ví dụ US, DE, NL. Bài này giải thích A40 đứng ở đâu so với L40S và RTX A6000, cách dùng công tắc Datacenter only, và cách chạy hai việc người ta hay thuê A40 nhất.

Ở Việt Nam, nhóm hay cần card 48 GB là studio diễn họa kiến trúc, đội làm quảng cáo 3D cho thương hiệu, hoặc startup AI có mô hình không vừa card phổ thông. Muốn hiểu cơ chế vị trí cho mọi khu vực, hãy đọc hướng dẫn thuê GPU theo khu vực.

A40 đứng ở đâu giữa các card 48 GB

Ba card thường được nhắc cùng nhau khi 24 GB không đủ. Chúng cùng hạng 48 GB nhưng khác thế hệ và mục đích.

A40L40SRTX A6000
DòngData centerData centerWorkstation
Thế hệAmpereAda LovelaceAmpere
Bộ nhớHạng 48 GBHạng 48 GB48 GB
Công việc thường gặpRender, đồ họa, inference cỡ vừaInference và huấn luyện thế hệ mới, renderRender, inference, phát triển

Nói chung, A40 và RTX A6000 là "anh em" cùng thế hệ, một bản cho máy chủ, một bản cho máy trạm. L40S thuộc thế hệ mới hơn và thường mạnh hơn, điều này hay thể hiện ở giá. Hãy xem thông số trên từng trang model và so sánh giá "từ" theo thời gian thực trên GPU cloud thay vì dựa vào quy tắc chung. Muốn so sánh kỹ hơn, xem bài L40S, A100 và RTX 6000 Ada.

Cả ba đều cần cấp tài khoản cao hơn tài khoản mới. Nếu bạn thử triển khai quá sớm, console sẽ báo dòng GPU này chưa khả dụng ở cấp tài khoản của bạn, và bạn liên hệ hỗ trợ Cloudj ngay từ đó.

Thuê GPU A40 theo khu vực

Mở trang triển khai với A40 và nhập các mã hợp với người dùng và dữ liệu của bạn:

  • US cho công việc ở Bắc Mỹ hoặc việc chạy nền không quan trọng vị trí.
  • DE, NL cho đội làm việc với châu Âu, thêm mã EU khác nếu danh sách ngắn.
  • US, DE, NL để xem rộng ngay từ đầu.

Mỗi dòng ghi quốc gia, chỉ ở cấp quốc gia. Tình trạng máy thay đổi trong ngày, nên nếu không có máy, hãy thử L40S hoặc RTX A6000 với cùng bộ mã, mở rộng mã, hoặc kiểm tra lại sau. Với render chạy nền từ Việt Nam, vị trí xa không phải vấn đề lớn; điều cần tính là thời gian upload file scene và texture.

Công tắc Datacenter only

A40 vốn là card data center, nhưng nhãn Datacenter trong kết quả nói về nơi đặt máy host chứ không phải loại card. Nếu bạn muốn host nằm trong trung tâm dữ liệu, hãy bật công tắc Datacenter only. Danh sách sẽ ngắn hơn và giá thường cao hơn, nhưng bạn loại được các máy đặt ngoài data center.

Ngay cả khi bật công tắc, mỗi máy vẫn là host độc lập, không có SLA phần cứng. Dù chọn cách nào cũng hãy sao lưu. Bài GPU trong datacenter hay host độc lập phân tích kỹ hơn sự đánh đổi này.

Việc 1: render Blender không giao diện

Instance GPU không có giao diện desktop, nên render chạy bằng dòng lệnh. Tải file .blend và tài nguyên lên, rồi render bằng Cycles trên GPU:

blender -b scene.blend -E CYCLES -o //renders/frame_#### -s 1 -e 240 -a -- --cycles-device OPTIX

-b chạy Blender không giao diện, -s và -e là khung hình đầu và cuối, -a render cả animation. Kiểm tra GPU có đang chạy bằng nvidia-smi trong một phiên SSH khác. Tài liệu dòng lệnh của Blender liệt kê đủ các tham số.

Bạn tự cài Blender qua SSH hoặc đưa vào một custom Docker image. Với studio làm việc cho khách châu Âu, bài render Blender trên GPU tại châu Âu nói về chuyển file và chia lô khung hình.

Việc 2: inference cỡ vừa

Với 48 GB, A40 chứa được mô hình không vừa card phổ thông 24 GB, hoặc cùng mô hình đó với ngữ cảnh dài hơn và nhiều request đồng thời hơn. Các trường hợp điển hình:

  • mô hình mở cỡ vừa ở 8 bit, hoặc mô hình lớn hơn ở 4 bit;
  • một mô hình đa phương thức cộng một mô hình embedding trên cùng card;
  • pipeline tạo ảnh giữ nhiều mô hình lớn trong bộ nhớ.

Bạn tự cài phần mềm phục vụ, ví dụ bằng pip qua SSH, và cho nó lắng nghe trên localhost. Truy cập qua SSH tunnel, hoặc đặt một VPS phía trước nếu cần API công khai. Hãy đo bộ nhớ với tải sát thực tế trước khi chạy dài.

Khi nào A40 không phải lựa chọn đúng

  • Nếu mô hình vừa 24 GB, card phổ thông thường đơn giản hơn và không cần nâng cấp tài khoản.
  • Nếu cần tính năng thế hệ mới nhất hoặc thông lượng cao nhất, hãy xem L40S hoặc các card data center lớn hơn.
  • Nếu cần máy được cam kết kèm SLA, danh sách host độc lập không phải công cụ phù hợp.

Câu hỏi thường gặp

A40 có luôn nằm trong data center không?

Card được thiết kế cho máy chủ, nhưng nhãn Datacenter nói về host. Hãy bật Datacenter only nếu điều đó quan trọng với bạn.

A40 có cần cấp tài khoản cao hơn không?

Có. GPU data center và workstation cần cấp cao hơn; console sẽ báo và bạn liên hệ hỗ trợ từ đó.

Tôi dùng A40 để mã hóa video được không?

A40 có bộ xử lý video phần cứng, và ffmpeg với NVENC chạy không giao diện được. Hãy kiểm tra hỗ trợ codec trong tài liệu của NVIDIA cho định dạng bạn cần.

Xem giá A40 ở đâu?

Giá theo thời gian thực có trên trang A40 và GPU cloud. Tiền trừ theo phút từ số dư tài khoản, bạn nạp bằng chuyển khoản VND được.

Thử ngay

Mở trang triển khai với A40, nhập US, DE, NL và quyết định có bật Datacenter only hay không. So sánh với L40S và RTX A6000 cho công việc của bạn, và luôn sao lưu scene, trọng số và kết quả.

Triển khai máy chủ hoặc mua proxy

Chọn vị trí trong console, xem giá trực tiếp và thanh toán từ số dư tài khoản.