Tới nội dung
Cloudj

Thuê GPU theo khu vực

Thuê GPU Mỹ: hướng dẫn chọn máy GPU đặt tại Mỹ trên Cloudj

Cách thuê GPU Mỹ trên Cloudj: lọc máy bằng mã US, đọc cột độ tin cậy và giá băng thông, chọn model phù hợp và đặt VPS Mỹ làm frontend cho API.

Cập nhật · 5 phút đọc

Cách đơn giản để thuê GPU Mỹ trên Cloudj là gõ US vào ô Country ở trang triển khai GPU, rồi để console liệt kê những máy báo quốc gia là Hoa Kỳ. Bạn không chọn vùng hay thành phố của Cloudj. Mỗi dòng là một máy host độc lập, có model GPU, điểm độ tin cậy, thời hạn thuê tối đa và giá băng thông riêng. Bài này hướng dẫn cách đọc danh sách đó, các model hay được tìm ở Mỹ, và cách giữ một API ổn định đứng trước một GPU có thể thay đổi theo thời gian.

Nếu bạn đang cân nhắc giữa Mỹ và Canada, hoặc chưa chắc Bắc Mỹ có hợp với mình không, hãy đọc hướng dẫn thuê GPU Bắc Mỹ trước.

Mã "US" trong kết quả nghĩa là gì

Vị trí GPU trên Cloudj chỉ hiển thị ở cấp quốc gia. Dòng có nhãn US cho biết host đặt tại Mỹ, nhưng không cho biết bang, thành phố hay data center, và cũng không lọc được theo những thứ đó. Nếu bạn cần gần New York hơn Los Angeles, danh sách GPU không hứa được điều này. VPS của Cloudj thì làm được, như phần dưới sẽ trình bày.

Với phần lớn công việc GPU, giới hạn này không đáng ngại như nghe có vẻ. Huấn luyện, fine-tune, render và inference theo lô hiếm khi quan tâm máy nằm ở bờ đông hay bờ tây. Dịch vụ tương tác thì quan tâm hơn, và khi đó chính VPS đặt ở thành phố cố định sẽ lo phần độ trễ tới người dùng.

Các bước thuê GPU Mỹ

  1. Mở trang triển khai GPU, RTX 4090 đã được chọn sẵn. Đổi model nếu bạn cần loại khác.
  2. Nhập US vào ô Country.
  3. Đặt mức độ tin cậy tối thiểu bạn thấy yên tâm và, nếu phục vụ người dùng, giá băng thông tối đa theo TB cho chiều tải xuống và tải lên.
  4. Chọn dung lượng ổ đĩa cần dùng. Giá trong danh sách tính theo dung lượng này, và ổ đĩa không thể nới sau khi triển khai.
  5. Đọc kết quả, đã sắp theo tổng giá từ thấp đến cao.
  6. Chọn máy, chọn template và ít nhất một SSH key, rồi triển khai.

Bài lọc GPU theo quốc gia trong console giải thích kỹ hơn từng trường.

Những model hay được tìm ở Mỹ

Mỹ thường có dải model khá rộng, từ card GeForce phổ thông đến GPU workstation và data center. Đây là nhận xét chung về độ phong phú, không có nghĩa model nào đó đang còn máy ngay lúc này. Hãy tìm trong console khi bạn cần.

ModelVRAMCông việc thường gặp
RTX 409024 GBInference LLM đã lượng tử hóa, tạo ảnh, huấn luyện LoRA
RTX 509032 GBNhư trên nhưng dư địa lớn hơn cho mô hình hoặc batch lớn
A100 PCIebản 40 GBHuấn luyện và việc chạy nền cần tính năng data center
H100 SXM80 GBHuấn luyện lớn hơn và phục vụ lưu lượng cao

GPU data center và workstation như A100, H100 cần cấp tài khoản cao hơn mức của tài khoản mới. Console sẽ báo khi lựa chọn chưa khả dụng; bạn liên hệ hỗ trợ Cloudj ngay từ đó nếu cần. Giá "từ" theo thời gian thực của mọi model có trên GPU cloud.

Ví dụ thực tế: so sánh hai máy ở Mỹ

Giả sử bạn tìm RTX 4090 với mã US và có hai dòng đáng chú ý. Đây là cách so sánh mà không cần nhìn con số giá cụ thể:

  • Máy A có độ tin cậy cao hơn, thời hạn tối đa dài và giá băng thông ở mức vừa phải.
  • Máy B đứng thấp hơn một chút trong danh sách xếp theo giá, thời hạn tối đa ngắn hơn, giá GPU rẻ hơn nhưng giá băng thông theo TB lại cao hơn.

Nếu bạn chạy API trả ảnh, gửi ra nhiều file lớn, Máy A nhiều khả năng rẻ hơn về tổng thể, vì lưu lượng gửi ra tính theo GB với giá niêm yết. Nếu bạn fine-tune hai ngày với dataset nhỏ, Máy B có thể hợp hơn, miễn ngày "available until" của nó dư sức bao trọn job. Cột tổng giá đã gồm GPU và ổ đĩa; băng thông tính thêm, tùy lượng dữ liệu bạn chuyển.

Dùng bộ lọc băng thông có chủ đích

Nhiều người mới bỏ qua cột băng thông. Với máy ở Mỹ phục vụ người dùng ở xa, hoặc phải kéo dataset lớn về, băng thông có thể chiếm phần đáng kể trong hóa đơn. Hai thói quen nên có:

  • Đặt giá băng thông tải xuống tối đa khi bạn sắp kéo trọng số mô hình hoặc dataset lớn.
  • Đặt giá tải lên tối đa khi dịch vụ gửi ảnh, âm thanh hoặc video về cho người dùng.

Danh sách quá ngắn thì bạn luôn có thể nới các giới hạn này.

Với một nhóm ở Việt Nam, còn một điểm thực tế: upload dataset từ mạng trong nước sang Mỹ đi qua cáp quốc tế, nên hãy nén dữ liệu và dùng rsync để có thể tiếp tục nếu đứt giữa chừng.

Ghép GPU với VPS tại Mỹ

Cloudj có VPS tại Mỹ ở tám thành phố: New York, Los Angeles, Santa Clara, Seattle, Chicago, Dallas, Atlanta và Miami. Vì vậy VPS là nơi bạn kiểm soát người dùng kết nối vào đâu. Đặt tên miền, chứng chỉ TLS, xác thực và hàng đợi request trên VPS ở thành phố gần đa số khách hàng, rồi chuyển request inference sang GPU qua SSH tunnel. Khi host GPU sắp tới ngày "available until", bạn triển khai GPU mới, trỏ tunnel sang đó, và người dùng không thấy gì thay đổi.

Nếu chưa biết chọn thành phố nào, bài so sánh VPS bờ đông và bờ tây Mỹ sẽ giúp bạn.

Khi không có máy nào

Ngay cả một nước lớn đôi khi cũng trả về danh sách trống, nhất là khi bạn tìm đúng một model với bộ lọc chặt. Hãy thử theo thứ tự:

  1. Nới nhẹ giới hạn độ tin cậy hoặc giá.
  2. Thử model tương đương có cùng hoặc nhiều VRAM hơn.
  3. Thêm CA, hoặc với việc chạy nền thì thêm mã châu Âu như DE và NL. Bài so sánh GPU Mỹ và châu Âu giúp bạn biết khi nào châu Âu vẫn ổn.
  4. Quay lại sau; tình trạng máy thay đổi trong ngày.

Với job huấn luyện dài trên máy ở Mỹ, bài huấn luyện AI trên GPU tại Mỹ nói về checkpoint và chuyển dữ liệu.

Câu hỏi thường gặp

Tôi chọn được bang của Mỹ cho GPU không?

Không. Vị trí GPU chỉ ở cấp quốc gia. Hãy chọn thành phố ở VPS frontend.

GPU ở Mỹ có tính tiền khác không?

Không. Mọi GPU đều trừ theo phút từ số dư tài khoản: GPU cộng ổ đĩa khi chạy, chỉ phí lưu trữ khi dừng, băng thông tính theo GB. Bạn có thể nạp tiền bằng chuyển khoản VND.

Nếu host mất kết nối thì sao?

Trong lúc host offline, việc tính tiền tạm dừng, nhưng không có cơ chế tự chuyển sang máy khác. Hãy sao lưu để có thể triển khai lại ở nơi khác.

Cổng SSH có phải là 22 không?

Tab Connection hiện host, cổng SSH và lệnh đầy đủ. Cổng không phải lúc nào cũng là 22.

Bắt đầu tìm máy

Mở trang triển khai GPU, đặt Country là US và so sánh vài dòng theo độ tin cậy, thời hạn tối đa và giá băng thông. Giữ tên miền trên VPS Mỹ và luôn sao lưu để có thể chuyển host bất cứ lúc nào.

Triển khai máy chủ hoặc mua proxy

Chọn vị trí trong console, xem giá trực tiếp và thanh toán từ số dư tài khoản.