د NVIDIA H200 NVL GPU کرایه د 140 GB VRAM سره
په Cloudj کې د ساعت په حساب د H200 NVL کلاوډ GPU سرورونه کرایه کړئ: 140 GB VRAM، NVIDIA Hopper او شاوخوا 3884 GB/s د حافظې بینډویډت، چې زموږ په ټولګه کې د تر ټولو لویې حافظې لرونکی GPU دی. دا د هغو ټیمونو لپاره جوړ شوی چې په لوړ دقت یا خورا اوږدو کانتیکستونو سره د 70B کلاس موډلونه وړاندې کوي، چې 48.3 TFLOPS FP32 او 600 W د برېښنا حد لري. یو vLLM یا SGLang ټیمپلیټ وټاکئ، فعال H200 NVL تنظیمات وټاکئ او د SSH له لارې ونښلېږئ.
د H200 NVL مشخصات
د هر GPU لپاره VRAM
140 GB
معماري (Architecture)
NVIDIA Hopper
محاسباتي وړتیا (Compute capability)
9
د FP32 محاسبات
≈ 48.3 TFLOPS
د حافظې بینډویډت (Memory bandwidth)
≈ 3884 GB/s
د برېښنا اعظمي کچه (Power limit)
600 W
دا ارقام د زیربناوو چمتوکوونکي لخوا د اوسنیو لیست شویو ماشینونو لپاره ښودل شوي؛ حقیقي فعالیت په هر ماشین کې توپیر کولی شي.
د H200 NVL شته ترتیبات او نرخونه
ژوندی سټاک او قیمتونه، په دوامداره توګه نوي کېږي. وروستی قیمت د سپارښتنې څخه مخکې تاییدېږي.
اوس یې په کرایه واخلئهغه څه چې تاسو یې په H200 NVL کلاوډ GPU چلولی شئ
په پوره دقت ته نږدې د 70B کلاس موډلونه
په یو واحد GPU کې، 140 GB د لوی KV cache سره په 8-bit کې یا د 16-bit کچې ته نږدې یو 70B موډل ځایوي.
د اوږد کانتیکست وړاندې کول
3884 GB/s ډیکوډینګ چټک ساتي، پداسې حال کې چې اضافي حافظه اوږده پرامپټونه او ډېر موازي سیشنونه ساتي.
له QLoRA سره د 70B موډلونو فاین ټیوننګ
د هغه څه په پرتله چې یو 80 GB کارت یې اجازه ورکوي، د اوږدو تسلسلو او لویو بیچونو سره 70B QLoRA پرمخ بوځئ.
د متخصصینو د مخلوط (MoE) ازموینې
د MoE موډلونه ټولټال لوی وزنونه لري؛ 140 GB تاسو ته اجازه درکوي چې له وېشلو (sharding) پرته د ازموینې لپاره د متخصصینو لوی سیټونه بار کړئ.
ایا H200 NVL ستاسو د کاري بوج لپاره مناسب GPU دی؟
کله چې ستاسو بنسټیز خنډ د VRAM ظرفیت او د حافظې بینډویډت وي، په ځانګړي ډول په یوه کارت کې د لویو موډلونو کوربه توب لپاره، H200 NVL وټاکئ. که تاسو سپکه انفرنس، معیاري انځور جوړونه، یا پراختیایي دندې پرمخ وړئ چې 140 GB حافظې ته اړتیا نلري، نو یو کوچنی ورک سټیشن یا د عام کاروونکي GPU خورا عملي انتخاب دی.
H200 NVL د ورته کلاوډ GPUs په پرتله
د H200 NVL کلاوډ GPU: ډېرې پوښتل شوې پوښتنې
د H200 NVL کلاوډ GPU د ساعت په حساب په کرایه ونیسئ
یو ټیمپلیټ وټاکئ، فعال کانفیګوریشن غوره کړئ او د SSH یا براوزر ټرمینل له لارې وصل شئ. د GPU په ړنګولو سره د لګښت حساب درېږي.