د NVIDIA H100 NVL GPU کرایه د 94 GB VRAM سره
په Cloudj کې د ساعت له مخې د H100 NVL کلاوډ GPU سرورونه په کرایه ونیسئ: 94 GB VRAM، NVIDIA Hopper او د لویو ماډلونو انفرانس لپاره شاوخوا 3381 GB/s د حافظې بینډویډت. د هغو LLM ټیمونو لپاره جوړ شوی چې د 80 GB H100 په پرتله ډیرې حافظې او خورا ګړندي ډیکوډینګ ته اړتیا لري، دا په 400 W بریښنا مصرف کې 48.3 TFLOPS FP32 وړاندې کوي. یو vLLM یا SGLang ټیمپلیټ پیل کړئ، ژوندی H100 NVL ترتیب وټاکئ او د SSH له لارې وصل شئ.
د H100 NVL مشخصات
د هر GPU لپاره VRAM
94 GB
معماري (Architecture)
NVIDIA Hopper
محاسباتي وړتیا (Compute capability)
9
د FP32 محاسبات
≈ 48.3 TFLOPS
د حافظې بینډویډت (Memory bandwidth)
≈ 3381 GB/s
د برېښنا اعظمي کچه (Power limit)
400 W
دا ارقام د زیربناوو چمتوکوونکي لخوا د اوسنیو لیست شویو ماشینونو لپاره ښودل شوي؛ حقیقي فعالیت په هر ماشین کې توپیر کولی شي.
د H100 NVL شته ترتیبات او نرخونه
ژوندی سټاک او قیمتونه، په دوامداره توګه نوي کېږي. وروستی قیمت د سپارښتنې څخه مخکې تاییدېږي.
اوس یې په کرایه واخلئهغه څه چې تاسو یې په H100 NVL کلاوډ GPU چلولی شئ
د لوړ ظرفیت لرونکی LLM سرونګ
د 3381 GB/s بینډویډت د ټوکن جوړولو بهیر چټکوي، او 94 GB حافظه په یوه GPU کې کوانټایز شوی 70B ماډل د لوی KV cache سره ساتي.
اوږد کانټیکسټ او د RAG پایپلاینونه
د 80 GB کارت په پرتله اضافي 14 GB مستقیماً د کانټیکسټ اوږدوالي او هممهاله غوښتنو ته ځانګړې کیږي.
د 30B–70B ماډلونو فاین ټیوننګ
په یوه واحد Hopper GPU کې په BF16 کې پر 30B کټګورۍ ماډلونو LoRA، یا له Unsloth سره پر 70B کټګورۍ ماډلونو QLoRA وچلوئ.
په پراخه کچه د ماډل ارزونه
په چټکۍ سره په مختلفو چیکپوائنټونو کې د بینچمارک سیټونه او A/B ارزونې ترسره کړئ، او د پایلو له ترلاسه کولو وروسته سرور ړنګ کړئ.
ایا H100 NVL ستاسو د کاري بوج لپاره مناسب GPU دی؟
H100 NVL هغه وخت وټاکئ کله چې ستاسو AI یا کمپیوټري کاري بارونه د معیاري ډیټاسینټر کارتونو په پرتله ډیرې حافظې ته اړتیا ولري، تر 94 GB پورې VRAM. د سپک انفرانس او پراختیا لپاره یو کوچنی ورکسټیشن یا د مصرف کوونکو GPU غوره انتخاب دی، په داسې حال کې چې که ستاسو ماډلونه له 94 GB څخه زیات وي نو څو-GPU سیټاپ یا د لوړې حافظې کټګوري اړینه ده.
H100 NVL د ورته کلاوډ GPUs په پرتله
د H100 NVL کلاوډ GPU: ډېرې پوښتل شوې پوښتنې
د H100 NVL کلاوډ GPU د ساعت په حساب په کرایه ونیسئ
یو ټیمپلیټ وټاکئ، فعال کانفیګوریشن غوره کړئ او د SSH یا براوزر ټرمینل له لارې وصل شئ. د GPU په ړنګولو سره د لګښت حساب درېږي.