اجاره کارت گرافیک ابری NVIDIA H100 NVL با 94 GB VRAM
اجاره ساعتی سرور ابری با کارت گرافیک H100 NVL در Cloudj: دارای ۹۴ گیگابایت VRAM (حافظه گرافیکی)، معماری NVIDIA Hopper و پهنای باند حافظه حدود ۳۳۸۱ گیگابایت بر ثانیه برای استنتاج (Inference) مدلهای بزرگ زبانی. طراحی‌شده برای تیم‌های هوش مصنوعی و LLM که به حافظه‌ای فراتر از نسخه ۸۰ گیگابایتی H100 و سرعت رمزگشایی بسیار بالاتر نیاز دارند؛ همراه با ۴۸.۳ ترافلاپس توان محاسباتی FP32 در سقف مصرف ۴۰۰ وات. با قالب‌های آماده vLLM یا SGLang شروع کنید، کانفیگ فعال H100 NVL مدنظرتان را انتخاب نمایید و از طریق SSH متصل شوید.
مشخصات فنی H100 NVL
حافظه VRAM هر کارت
94 GB
معماری پردازنده
NVIDIA Hopper
قابلیت محاسباتی (Compute Capability)
9
توان پردازش FP32
≈ 48.3 TFLOPS
پهنای باند حافظه
≈ 3381 GB/s
حداکثر مصرف برق (TDP)
400 W
مقادیر اعلام‌شده توسط ارائه‌دهنده زیرساخت برای سرورهای فعال؛ عملکرد واقعی ممکن است بر اساس شرایط هر سرور متفاوت باشد.
کانفیگ‌ها و قیمت لحظه‌ای H100 NVL
موجودی و قیمت‌ها بهصورت لحظه‌ای به‌روز میشوند. قیمت نهایی پیش از پرداخت و ثبت نهایی تأیید خواهد شد.
اجاره فوریچه پردازش‌هایی را میتوانید روی GPU ابری H100 NVL اجرا کنید
سرویس‌دهی مدلهای زبانی با توان پردازشی بالا (LLM Serving)
پهنای باند ۳۳۸۱ گیگابایت بر ثانیه سرعت تولید توکن را بالا میبرد و حافظه ۹۴ گیگابایتی امکان اجرای مدل کوانتیزهشده 70B به‌همراه حافظه موقت بزرگ KV Cache را روی یک GPU فراهم میسازد.
پایپ‌لاین‌های با کانتکست طولانی و معماری RAG
۱۴ گیگابایت حافظه بیشتر نسبت به کارت‌های ۸۰ گیگابایتی مستقیماً به افزایش طول کانتکست و پردازش هم‌زمان درخواست‌ها اختصاص می‌یابد.
فاین‌تیون مدلهای ۳۰ تا ۷۰ میلیاردی (30B–70B)
اجرای تکنیک LoRA روی مدلهای کلاس 30B در فرمت BF16 یا اجرای QLoRA روی مدلهای 70B با کتابخانه Unsloth تنها روی یک کارت گرافیک Hopper.
ارزیابی و بنچمارک مدل‌ها در مقیاس بزرگ
مجموعه تست‌های بنچمارک و ارزیابی‌های مقایسه‌ای A/B را میان چک‌پوینت‌ها به‌سرعت اجرا کنید و پس از دریافت نتایج، سرور را برای کاهش هزینه‌ها حذف نمایید.
آیا H100 NVL برای حجم کاری شما مناسب است؟
اگر بارهای کاری هوش مصنوعی یا محاسباتی شما به حافظه‌ای بیش از کارت‌های استاندارد دیتاسنتری (تا سقف ۹۴ گیگابایت VRAM) نیاز دارد، H100 NVL انتخابی ایده‌آل است. برای توسعه اولیه و استنتاج‌های سبک‌تر، کارت‌های رده ورک‌استیشن یا گیمینگ به‌صرفه‌ترند و در صورتی که حجم مدلهای شما از ۹۴ گیگابایت فراتر رود، به راه‌اندازی Multi-GPU یا کارت‌هایی با حافظه بالاتر نیاز خواهید داشت.
مقایسه H100 NVL با سایر GPUهای ابری مشابه
| مدل GPU | حافظه VRAM هر کارت | توان پردازش FP32 | حداکثر مصرف برق (TDP) | |
|---|---|---|---|---|
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | مشاهده جزئیات → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | مشاهده جزئیات → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | مشاهده جزئیات → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | مشاهده جزئیات → |
سوالات متداول درباره GPU ابری H100 NVL
اجاره ساعتی GPU ابری H100 NVL
یک تمپلیت انتخاب کنید، کانفیگ آنلاین را برگزینید و از طریق SSH یا ترمینال مرورگر متصل شوید. با حذف GPU، محاسبه هزینه متوقف میشود.