Վարձեք NVIDIA H100 SXM GPU 80 GB VRAM-ով
Վարձակալեք H100 SXM ամպային GPU սերվերներ ժամավճարով Cloudj-ում՝ 80 GB VRAM, NVIDIA Hopper, շուրջ 53.5 TFLOPS FP32 և 2869 GB/s հիշողության թողունակություն։ 700 W հզորության սահմանաչափով այս H100-ը նախատեսված է այն թիմերի համար, որոնք մարզում, fine-tune են անում և սպասարկում են խոշոր մոդելներ ու ցանկանում են ունենալ Hopper շարքի ամենաարագ հաշվարկային մոդուլը։ Գործարկեք PyTorch, vLLM կամ Unsloth շաբլոն և միացեք SSH-ով ընդամենը մի քանի քայլով։
H100 SXM-ի տեխնիկական բնութագրերը
VRAM յուրաքանչյուր GPU-ի համար
80 GB
Ճարտարապետություն
NVIDIA Hopper
Հաշվողական հնարավորություն
9
FP32 հաշվարկներ
≈ 53.5 TFLOPS
Հիշողության թողունակություն
≈ 2869 GB/s
Էներգասպառման սահմանաչափ
700 W
Ներկայացված մեքենաների համար ենթակառուցվածքի մատակարարի նշած արժեքները. իրական արտադրողականությունը կարող է տարբերվել ըստ մեքենայի:
Առկա H100 SXM կոնֆիգուրացիաներ և գներ
Առկայություն և գներ իրական ժամանակում՝ մշտական թարմացմամբ: Վերջնական արժեքը հաստատվում է պատվիրելուց առաջ:
Վարձակալել հիմաԻնչ կարող եք գործարկել H100 SXM ամպային GPU-ով
Հաշվարկատար մարզում
53.5 TFLOPS FP32-ը և 700 W հզորության սահմանաչափը H100 SXM-ին ապահովում են առավելագույն հաշվարկային հզորություն այստեղ ներկայացված ցանկացած Hopper քարտի համեմատ։
Արագ LLM ինֆերենս
2869 GB/s թողունակությունն արագացնում է թոքենների գեներացումը 16-bit 13B–34B մոդելների կամ քվանտավորված 70B մոդելների համար։
7B–13B մոդելների ամբողջական fine-tuning
80 GB-ը, օպտիմիզատորի ճիշտ կարգավորումների դեպքում, հնարավորություն է տալիս իրականացնել ավելի փոքր LLM-ների ամբողջական պարամետրերով fine-tuning, ոչ միայն ադապտերների միջոցով։
Diffusion և վիդեո մոդելների մարզում
Մարզեք կամ fine-tune արեք պատկերների և վիդեոների մոդելներ, որտեղ և՛ հիշողությունը, և՛ հաշվարկային հզորությունը որոշիչ են գործընթացի տևողության համար։
Արդյո՞ք H100 SXM-ը ճիշտ GPU է ձեր ծանրաբեռնվածության համար
Ընտրեք H100 SXM-ը, երբ ձեր մարզման կամ ինֆերենսի ծանրաբեռնվածությունը պահանջում է 80 GB բարձր թողունակությամբ տվյալների կենտրոնի հիշողություն և Hopper ճարտարապետության առավելություններ։ Աշխատանքային կայանի կամ սպառողական ավելի փոքր GPU-ն ավելի գործնական ընտրություն է թեթև ծրագրավորման կամ փոքր մոդելների համար, իսկ ավելի նոր կամ ավելի մեծ հզորությամբ տվյալների կենտրոնի GPU-ն նախընտրելի է, եթե մեկ ինստանսը չի կարող տեղավորել ձեր ամբողջ մոդելը 80 GB VRAM-ում։
H100 SXM-ն ընդդեմ նմանատիպ ամպային GPU-ների
| GPU | VRAM յուրաքանչյուր GPU-ի համար | FP32 հաշվարկներ | Էներգասպառման սահմանաչափ | |
|---|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Մանրամասներ → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Մանրամասներ → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | Մանրամասներ → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | Մանրամասներ → |
H100 SXM ամպային GPU. հաճախ տրվող հարցեր
Վարձակալեք H100 SXM ամպային GPU-ն ժամավճարով
Ընտրեք ձևանմուշը, ընտրեք հասանելի կոնֆիգուրացիան և միացեք SSH-ի կամ բրաուզերի տերմինալի միջոցով: Գանձումը դադարում է GPU-ն ջնջելու պահից: