94 GB VRAM ilə NVIDIA H100 NVL GPU icarəyə götürün
Cloudj-də saathesabı H100 NVL bulud GPU serverlərini icarəyə götürün: böyük modellərin inferensi üçün 94 GB VRAM, NVIDIA Hopper və təxminən 3381 GB/s yaddaş bant genişliyi. 80 GB H100-dən daha çox yaddaşa və xeyli sürətli dekodlaşdırmaya ehtiyac duyan LLM komandaları üçün hazırlanmış bu həll, 400 W güc limitində 48.3 TFLOPS FP32 təqdim edir. vLLM və ya SGLang şablonunu başladın, real H100 NVL konfiqurasiyasını seçin və dərhal SSH ilə qoşulun.
H100 NVL texniki xüsusiyyətləri
Hər GPU üçün VRAM
94 GB
Arxitektura
NVIDIA Hopper
Hesablama qabiliyyəti
9
FP32 hesablaması
≈ 48.3 TFLOPS
Yaddaş bant genişliyi
≈ 3381 GB/s
Güc həddi
400 W
Hazırda siyahıda olan maşınlar üçün infrastruktur təminatçısı tərəfindən bildirilən dəyərlər; real məhsuldarlıq maşına görə dəyişə bilər.
Aktual H100 NVL konfiqurasiyaları və qiymətləri
Daim yenilənən canlı inventar və qiymətlər. Yekun qiymət sifarişinizdən əvvəl təsdiqlənir.
İndi icarəyə götürH100 NVL bulud GPU-da nələri işə sala bilərsiniz
Yüksək ötürmə qabiliyyətli LLM xidməti
3381 GB/s bant genişliyi token generasiyasını sürətləndirir, 94 GB yaddaş isə kvantlaşdırılmış 70B modelini böyük KV keş ilə birgə tək GPU-da saxlamağa imkan verir.
Geniş kontekstli və RAG boru xətləri
80 GB kartla müqayisədə əlavə 14 GB birbaşa kontekst uzunluğuna və eyni vaxtda icra olunan sorğulara yönəldilir.
30B–70B modellərinin incə sazlanması (fine-tuning)
Tək bir Hopper GPU üzərində BF16 formatında 30B sinif modellərində LoRA, yaxud Unsloth ilə 70B sinif modellərində QLoRA işə salın.
Geniş miqyasda model qiymətləndirilməsi
Çekpointlər üzrə bençmark paketlərini və A/B qiymətləndirmələrini sürətlə icra edin, nəticələri əldə etdikdən sonra serveri dərhal silin.
H100 NVL iş yükünüz üçün doğru GPU-durmu?
Süni intellekt və ya hesablama iş yükləriniz standart data mərkəzi kartlarının təmin etdiyindən daha çox yaddaş tələb etdikdə (94 GB-a qədər VRAM), H100 NVL modelini seçin. Yüngül inferens və tərtibat işləri üçün daha kiçik iş stansiyası və ya fərdi istifadəçi GPU-su daha optimal seçimdir; modelləriniz 94 GB həcmini aşdıqda isə multi-GPU quraşdırması və ya daha böyük yaddaş pilləsi zəruridir.
H100 NVL və oxşar bulud GPU-larının müqayisəsi
H100 NVL bulud GPU: tez-tez verilən suallar
H100 NVL bulud GPU-nu saatlıq icarəyə götürün
Şablon seçin, aktual konfiqurasiyanı seçin və SSH və ya brauzer terminalı vasitəsilə qoşulun. GPU-nu sildikdə ödəniş dayanır.