له 40 GB VRAM سره یو NVIDIA A100 SXM4 GPU کرایه کړئ
په Cloudj کې د ساعت په حساب A100 SXM4 GPUs په کرایه ونیسئ: په NVIDIA Ampere کې 40 GB VRAM د شاوخوا 1313 GB/s حافظې بینډویډت او د دوامداره AI کارونو لپاره د 400 W برېښنا حد سره. د هغو ټیمونو لپاره جوړ شوی چې اوږده د ټریننګ یا سرونګ کارونه پرمخ وړي او د SXM ماډل حرارتي زغم غواړي، دا 15.6 TFLOPS FP32 او compute capability 8.0 وړاندې کوي. یو فعال A100 SXM4 ترتیب وټاکئ، له PyTorch یا vLLM ټیمپلیټ څخه یې پیل کړئ او د SSH له لارې ونښلئ.
د A100 SXM4 مشخصات
د هر GPU لپاره VRAM
40 GB
معماري (Architecture)
NVIDIA Ampere
محاسباتي وړتیا (Compute capability)
8
د FP32 محاسبات
≈ 15.6 TFLOPS
د حافظې بینډویډت (Memory bandwidth)
≈ 1313 GB/s
د برېښنا اعظمي کچه (Power limit)
400 W
دا ارقام د زیربناوو چمتوکوونکي لخوا د اوسنیو لیست شویو ماشینونو لپاره ښودل شوي؛ حقیقي فعالیت په هر ماشین کې توپیر کولی شي.
د A100 SXM4 شته ترتیبات او نرخونه
ژوندی سټاک او قیمتونه، په دوامداره توګه نوي کېږي. وروستی قیمت د سپارښتنې څخه مخکې تاییدېږي.
اوس یې په کرایه واخلئهغه څه چې تاسو یې په A100 SXM4 کلاوډ GPU چلولی شئ
اوږدمهاله د ټریننګ دندې
د 400 W د برېښنا حد د څو ساعته BF16 ټریننګ لپاره غوره دی چیرې چې کلاکونه باید له لومړي epoch څخه تر وروستي پورې ثابت وساتل شي.
د پرودکشن کچې LLM سرونګ
یو 13B ماډل په 16-bit کې یا یو quantized شوی 30B-class ماډل د vLLM یا SGLang شاته کوربه کړئ او مخکې له دې چې پر زیربنا لګښت وکړئ، throughput یې و ازمویئ.
له Unsloth سره د انسټرکشن ټیوننګ
په 7B–13B ماډلونو کې د هغو اوږدو سیکونسونو سره LoRA یا QLoRA چل کړئ چې یو 24 GB کارت یې اجازه نه ورکوي.
د څېړنو بیا تولید
هغه مقالې چې په A100-class هارډویر بینچمارک شوې وې، په ورته Ampere جوړښت او د حافظې اندازه کې بیا تولید کړئ.
ایا A100 SXM4 ستاسو د کاري بوج لپاره مناسب GPU دی؟
کله چې ستاسو د ټریننګ یا inference کاري بارونه د عادي مصرفي GPU د حافظې له حدودو واوړي او د ډېټا سنټر حافظې بینډویډت ته اړتیا ولري، د 40 GB A100 SXM4 غوره کړئ. که ستاسو unquantized ماډلونه له 40 GB څخه لوی وي، نو د لوړ VRAM لرونکی ډېټا سنټر GPU وټاکئ، یا د سپک inference او ډیولپمنټ لپاره یو کوچنی ورک سټیشن یا مصرفي کارت انتخاب کړئ.
A100 SXM4 د ورته کلاوډ GPUs په پرتله
د A100 SXM4 کلاوډ GPU: ډېرې پوښتل شوې پوښتنې
د A100 SXM4 کلاوډ GPU د ساعت په حساب په کرایه ونیسئ
یو ټیمپلیټ وټاکئ، فعال کانفیګوریشن غوره کړئ او د SSH یا براوزر ټرمینل له لارې وصل شئ. د GPU په ړنګولو سره د لګښت حساب درېږي.