اجاره کارت گرافیک ابری NVIDIA H200 NVL با 140 GB VRAM
اجاره ساعتی سرور ابری GPU مدل H200 NVL در Cloudj: با ۱۴۰ گیگابایت حافظه VRAM، معماری NVIDIA Hopper و پهنای باند حافظه حدود ۳۸۸۴ گیگابایت بر ثانیه (GB/s)، دارای بیشترین حافظه گرافیکی در میان محصولات ما. طراحی‌شده برای تیمهایی که به سرو مدلهای رده 70B با دقت بالا یا کانتکست‌های بسیار طولانی نیاز دارند؛ همراه با توان پردازشی ۴۸.۳ ترافلاپس FP32 و محدودیت مصرف برق ۶۰۰ وات. قالب vLLM یا SGLang را انتخاب کنید، کانفیگ آنلاین H200 NVL مدنظرتان را برگزینید و از طریق SSH متصل شوید.
مشخصات فنی H200 NVL
حافظه VRAM هر کارت
140 GB
معماری پردازنده
NVIDIA Hopper
قابلیت محاسباتی (Compute Capability)
9
توان پردازش FP32
≈ 48.3 TFLOPS
پهنای باند حافظه
≈ 3884 GB/s
حداکثر مصرف برق (TDP)
600 W
مقادیر اعلامشده توسط ارائه‌دهنده زیرساخت برای سرورهای فعال؛ عملکرد واقعی ممکن است بر اساس شرایط هر سرور متفاوت باشد.
کانفیگ‌ها و قیمت لحظهای H200 NVL
موجودی و قیمت‌ها بهصورت لحظهای به‌روز میشوند. قیمت نهایی پیش از پرداخت و ثبت نهایی تأیید خواهد شد.
اجاره فوریچه پردازش‌هایی را می‌توانید روی GPU ابری H200 NVL اجرا کنید
اجرای مدلهای رده 70B نزدیک به دقت کامل
حافظه ۱۴۰ گیگابایتی امکان نگهداری یک مدل 70B در حالت ۸ بیتی همراه با KV cache حجیم، یا تقریباً معادل حجم ۱۶ بیتی را روی یک GPU تکی فراهم می‌کند.
سرو مدل با کانتکست طولانی (Long-context)
پهنای باند ۳۸۸۴ گیگابایت بر ثانیه سرعت Decode را بالا نگه می‌دارد، در حالی که حافظه اضافی پرامپت‌های طولانی و نشست‌های هم‌زمان متعدد را در خود جای می‌دهد.
فاین‌تیون مدلهای 70B با QLoRA
اجرای QLoRA روی مدلهای 70B با طول توالی (Sequence) بیشتر و Batch size بزرگ‌تر نسبت به آنچه یک کارت ۸۰ گیگابایتی پشتیبانی می‌کند.
آزمایش‌های مدلهای ترکیبی از متخصصان (MoE)
مدلهای MoE وزن کل بالایی دارند؛ حافظه ۱۴۰ گیگابایتی به شما اجازه می‌دهد مجموعه‌های بزرگ‌تری از Expertها را برای تست و ارزیابی بدون نیاز به Sharding بارگذاری کنید.
آیا H200 NVL برای حجم کاری شما مناسب است؟
اگر گلوگاه اصلی سیستم شما ظرفیت VRAM و پهنای باند حافظه است، به‌ویژه برای میزبانی مدلهای بزرگ روی یک کارت گرافیک تکی، H200 NVL را انتخاب کنید. چنانچه به دنبال استنتاج سبک‌تر، تولید تصویر معمولی یا کارهای توسعه‌ای هستید که نیازی به حافظه ۱۴۰ گیگابایتی ندارند، یک کارت ورک‌استیشن یا GPU گیمینگ و مصرفی گزینه‌ای اقتصادی‌تر و کاربردی‌تر خواهد بود.
مقایسه H200 NVL با سایر GPUهای ابری مشابه
| مدل GPU | حافظه VRAM هر کارت | توان پردازش FP32 | حداکثر مصرف برق (TDP) | |
|---|---|---|---|---|
| NVIDIA H200 NVL | 140 GB | ≈ 48.3 TFLOPS | 600 W | |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | مشاهده جزئیات → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | مشاهده جزئیات → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | مشاهده جزئیات → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | مشاهده جزئیات → |
سوالات متداول درباره GPU ابری H200 NVL
اجاره ساعتی GPU ابری H200 NVL
یک تمپلیت انتخاب کنید، کانفیگ آنلاین را برگزینید و از طریق SSH یا ترمینال مرورگر متصل شوید. با حذف GPU، محاسبه هزینه متوقف میشود.