40 GB VRAM ilə NVIDIA A100 SXM4 GPU icarələyin
Cloudj üzərində saatlıq A100 SXM4 GPU icarəyə götürün: davamlı AI işləri üçün NVIDIA Ampere arxitekturasında 40 GB VRAM, təxminən 1313 GB/s yaddaş buraxılış zolağı və 400 W güc həddi. Uzunmüddətli təlim və ya xidmət (serving) tapşırıqları icra edən və SXM modulunun istilik dözümlülüyündən faydalanmaq istəyən komandalar üçün nəzərdə tutulub; 15.6 TFLOPS FP32 və compute capability 8.0 təklif edir. Aktiv A100 SXM4 konfiqurasiyasını seçin, PyTorch və ya vLLM şablonu ilə işə başlayın və SSH üzərindən qoşulun.
A100 SXM4 texniki xüsusiyyətləri
Hər GPU üçün VRAM
40 GB
Arxitektura
NVIDIA Ampere
Hesablama qabiliyyəti
8
FP32 hesablaması
≈ 15.6 TFLOPS
Yaddaş bant genişliyi
≈ 1313 GB/s
Güc həddi
400 W
Hazırda siyahıda olan maşınlar üçün infrastruktur təminatçısı tərəfindən bildirilən dəyərlər; real məhsuldarlıq maşına görə dəyişə bilər.
Aktual A100 SXM4 konfiqurasiyaları və qiymətləri
Daim yenilənən canlı inventar və qiymətlər. Yekun qiymət sifarişinizdən əvvəl təsdiqlənir.
İndi icarəyə götürA100 SXM4 bulud GPU-da nələri işə sala bilərsiniz
Uzunmüddətli təlim tapşırıqları
400 W güc həddi tezliklərin ilk epoxadan sonuncuya qədər sabit qalmalı olduğu çoxsaatlıq BF16 təlimləri üçün idealdır.
İstehsal səviyyəli LLM xidməti (serving)
İnfrastruktura bağlanmazdan əvvəl vLLM və ya SGLang arxasında 16-bit formatında 13B modelini və ya kvantlaşdırılmış 30B sinifli modeli yerləşdirin və buraxılış qabiliyyətini yoxlayın.
Unsloth ilə instruction tuning
24 GB kartın imkan verdiyindən daha uzun ardıcıllıqlarla 7B–13B modellərində LoRA və ya QLoRA icra edin.
Tədqiqatların təkrarlanması
A100 sinifli avadanlıqlarda sınaqdan keçirilmiş elmi məqalələri eyni Ampere arxitekturasında və yaddaş həcmində təkrarlayın.
A100 SXM4 iş yükünüz üçün doğru GPU-durmu?
Təlim və ya nəticəçıxarma (inference) iş yükləriniz istehlakçı GPU yaddaş hədlərini aşdıqda və verilənlər mərkəzi səviyyəli yaddaş buraxılış zolağı tələb etdikdə 40 GB A100 SXM4 seçin. Əgər kvantlaşdırılmamış modelləriniz 40 GB-dan böyükdürsə, daha yüksək VRAM-lı verilənlər mərkəzi GPU-larına üstünlük verin, yüngül inferens və tərtibat işləri üçün isə daha kiçik iş stansiyası və ya fərdi istifadəçi kartı seçin.
A100 SXM4 və oxşar bulud GPU-larının müqayisəsi
A100 SXM4 bulud GPU: tez-tez verilən suallar
A100 SXM4 bulud GPU-nu saatlıq icarəyə götürün
Şablon seçin, aktual konfiqurasiyanı seçin və SSH və ya brauzer terminalı vasitəsilə qoşulun. GPU-nu sildikdə ödəniş dayanır.