40 GB VRAM ilə NVIDIA A100 PCIE GPU icarələyin
Cloudj platformasında saatlıq A100 PCIE bulud GPU serverləri icarəyə götürün: LLM və təlim tapşırıqları üçün 40 GB VRAM, Ampere arxitekturası və təxminən 1313 GB/s yaddaş buraxılış zolağı. 15.6 TFLOPS FP32, 250 W enerji limiti və 8.0 hesablama qabiliyyəti (compute capability) ilə modelləri oyun kartlarına sığmayan ML mühəndisləri üçün ideal data mərkəzi həllidir. PyTorch, vLLM və ya Unsloth şablonu ilə başlayın, aktiv konfiqurasiyanı seçin və SSH vasitəsilə qoşulun.
A100 PCIE texniki xüsusiyyətləri
Hər GPU üçün VRAM
40 GB
Arxitektura
NVIDIA Ampere
Hesablama qabiliyyəti
8
FP32 hesablaması
≈ 15.6 TFLOPS
Yaddaş bant genişliyi
≈ 1313 GB/s
Güc həddi
250 W
Hazırda siyahıda olan maşınlar üçün infrastruktur təminatçısı tərəfindən bildirilən dəyərlər; real məhsuldarlıq maşına görə dəyişə bilər.
Aktual A100 PCIE konfiqurasiyaları və qiymətləri
Daim yenilənən canlı inventar və qiymətlər. Yekun qiymət sifarişinizdən əvvəl təsdiqlənir.
İndi icarəyə götürA100 PCIE bulud GPU-da nələri işə sala bilərsiniz
vLLM ilə 13B–34B modellərini işə salın
40 GB yaddaş 16-bitlik 13B modeli və ya kvantlaşdırılmış 30B sinifli modeli saxlayır, 1313 GB/s sürət isə eyni vaxtda daxil olan sorğularda token generasiyasının axıcı olmasını təmin edir.
LoRA və QLoRA incə kökləməsi (fine-tuning)
Öz məlumatlarınız üzərində 7B–13B dil modellərini BF16 rejimində Unsloth və ya sadə PyTorch ilə, batch ölçüsünü məcburən kiçiltmədən incə kökləyin.
Qarışıq dəqiqlikli (mixed-precision) təlim prosesləri
Bütün bir çox GPU-lu qovşağı icarəyə götürmək əvəzinə, sabit data mərkəzi kartında BF16 rejimində görüntü, nitq və ya cədvəl modellərini öyrədin.
Embeddinqlər və toplu (batch) çıxarış
Böyük sənəd dəstlərini bir gecədə embeddinq və ya təsnifat modellərindən keçirin və toplu emal bitdikdən sonra serveri silin.
A100 PCIE iş yükünüz üçün doğru GPU-durmu?
İş yükləriniz fərdi istifadəçi GPU-larının yaddaş limitlərini aşdıqda və yüksək buraxılış zolaqlı data mərkəzi avadanlığı tələb etdikdə A100 PCIE 40 GB seçin. Yüngül çıxarışlar üçün daha kiçik istehlakçı GPU-larına üstünlük verin, yaxud kvantlaşdırılmamış modelləriniz və ya batch ölçüləriniz 40 GB-ı keçirsə, daha yüksək VRAM-a malik data mərkəzi modelinə keçin.
A100 PCIE və oxşar bulud GPU-larının müqayisəsi
A100 PCIE bulud GPU: tez-tez verilən suallar
A100 PCIE bulud GPU-nu saatlıq icarəyə götürün
Şablon seçin, aktual konfiqurasiyanı seçin və SSH və ya brauzer terminalı vasitəsilə qoşulun. GPU-nu sildikdə ödəniş dayanır.