80 GB VRAM ilə NVIDIA A800 PCIE GPU icarələyin
Cloudj üzərindən saathesabı A800 PCIE GPU icarəyə götürün: NVIDIA Ampere arxitekturasında 80 GB VRAM və təxminən 1598 GB/s yaddaş buraxılış qabiliyyəti ilə 70B sinifli LLM modellərini tək bir karta sığdırın. 15.6 TFLOPS FP32 performansı və 300 W güc limiti ilə təchiz edilmiş bu həll A100 40 GB ilə müqayisədə ikiqat yaddaşa ehtiyac duyan, model xidməti (serving), incə kökləmə (fine-tuning) və uzun kontekstli işlər həyata keçirən süni intellekt komandaları üçün nəzərdə tutulub. Hazır vLLM, SGLang və ya Unsloth şablonu ilə başlayın və SSH üzərindən qoşulun.
A800 PCIE texniki xüsusiyyətləri
Hər GPU üçün VRAM
80 GB
Arxitektura
NVIDIA Ampere
Hesablama qabiliyyəti
8
FP32 hesablaması
≈ 15.6 TFLOPS
Yaddaş bant genişliyi
≈ 1598 GB/s
Güc həddi
300 W
Hazırda siyahıda olan maşınlar üçün infrastruktur təminatçısı tərəfindən bildirilən dəyərlər; real məhsuldarlıq maşına görə dəyişə bilər.
Aktual A800 PCIE konfiqurasiyaları və qiymətləri
Daim yenilənən canlı inventar və qiymətlər. Yekun qiymət sifarişinizdən əvvəl təsdiqlənir.
İndi icarəyə götürA800 PCIE bulud GPU-da nələri işə sala bilərsiniz
Tək GPU-da 70B modelləri
vLLM və ya SGLang istifadə edərək KV keş üçün yer saxlamaqla 4-bit 70B modelini, yaxud 16-bit formatında 30B–34B modelini işə salın.
Uzun kontekstli inferens (çıxarış)
80 GB yaddaş, 40 GB kartların limitini aşan uzun sorğular və çoxsaylı eyni vaxtda icra olunan ardıcıllıqlar üçün geniş yer təmin edir.
Orta ölçülü LLM-lərin incə köklənməsi
Unsloth ilə modelləri bir neçə GPU-ya bölmədən (sharding), 13B–34B modellərdə BF16 formatında LoRA və ya daha böyük modellərdə QLoRA tətbiq edin.
Böyük həcmli yaddaş tələb edən data elmi
RAPIDS və ya PyTorch iş yükləri üçün nəhəng tenzorları, qrafları və ya əlamət matrislərini GPU yaddaşında saxlayın.
A800 PCIE iş yükünüz üçün doğru GPU-durmu?
Aparıcı tələbiniz xalis tək dəqiqlikli hesablama gücündən çox irimiqyaslı AI modelləri üçün 80 GB yaddaş tutumudursa, A800 PCIE modelini seçin. Əgər iş yükünüz daha kiçik yaddaşa sığırsa, daha az VRAM-a malik iş stansiyası və ya istehlakçı GPU-su daha uyğundur; hesablama gücü tələb edən (compute-bound) tapşırıqlar üçün isə daha yeni nəsil data mərkəzi arxitekturaları daha sərfəli ola bilər.
A800 PCIE və oxşar bulud GPU-larının müqayisəsi
A800 PCIE bulud GPU: tez-tez verilən suallar
A800 PCIE bulud GPU-nu saatlıq icarəyə götürün
Şablon seçin, aktual konfiqurasiyanı seçin və SSH və ya brauzer terminalı vasitəsilə qoşulun. GPU-nu sildikdə ödəniş dayanır.