იქირავეთ NVIDIA CMP 170HX GPU 64 GB VRAM-ით
იქირავეთ CMP 170HX ღრუბლოვანი GPU სერვერები საათობრივად Cloudj-ზე: 64 GB VRAM, Ampere არქიტექტურა და დაახლოებით 1516 GB/s მეხსიერების გამტარუნარიანობა (memory bandwidth) მეხსიერებაზე ორიენტირებული გამოთვლებისთვის. ეს არის headless გამოთვლითი ბარათი დეველოპერებისთვის, ვისთვისაც გამტარუნარიანობა და მოცულობა უფრო პრიორიტეტულია, ვიდრე FP32 სიჩქარე (12.1 TFLOPS, 250 W, compute capability 8.0). გაუშვით მოკლე ტესტი PyTorch-ის ან Ollama-ს შაბლონზე და შემდეგ მარტივად გააფართოვეთ სამუშაო პროცესი.
CMP 170HX-ის სპეციფიკაციები
VRAM თითოეულ GPU-ზე
64 GB
არქიტექტურა
NVIDIA Ampere
Compute capability
8
FP32 გამოთვლები
≈ 12.1 TFLOPS
მეხსიერების გამტარობა
≈ 1516 GB/s
სიმძლავრის ლიმიტი (TDP)
250 W
მნიშვნელობები მოწოდებულია ინფრასტრუქტურის პროვაიდერის მიერ ამჟამად განთავსებული სერვერებისთვის; რეალური წარმადობა შეიძლება განსხვავდებოდეს კონკრეტული აპარატურის მიხედვით.
CMP 170HX-ის მიმდინარე კონფიგურაციები და ფასები
მარაგები და ფასები განახლებადია რეალურ დროში. საბოლოო ფასის დადასტურება ხდება შეკვეთამდე.
იქირავეთ ახლავერა შეგიძლიათ გაუშვათ CMP 170HX ღრუბლოვან GPU-ზე
გამტარუნარიანობაზე დამოკიდებული ინფერენსი (Inference)
LLM ტოკენების გენერირება ძირითადად მეხსიერების გამტარუნარიანობით იზღუდება, ხოლო 1516 GB/s A100 კლასის ბარათების იმავე დიაპაზონშია.
კვანტიზებული LLM მოდელების ჰოსტინგი
ჩატვირთეთ კვანტიზებული მოდელები Ollama-ში ან llama.cpp-ში და გამოიყენეთ ისინი API-ს მეშვეობით ტესტირებისთვის ან შიდა ხელსაწყოებისთვის.
CUDA ბირთვების ექსპერიმენტები
გააკეთეთ მეხსიერებაზე ინტენსიური ბირთვების პროფილირება Ampere ბარათზე compute capability 8.0-ით, სანამ მათ უფრო მასშტაბურ აპარატურაზე გადაიტანთ.
მონაცემების პაკეტური (Batch) დამუშავება
გაატარეთ დიდი მასივები GPU მეხსიერებაში ტრანსფორმაციის, ჰეშირების ან ანალიტიკური ამოცანებისთვის, რომლებიც მეხსიერებაზე წვდომით იზღუდება.
არის თუ არა CMP 170HX შესაფერისი GPU თქვენი დატვირთვისთვის?
აირჩიეთ CMP 170HX, როდესაც თქვენი სამუშაო პროცესი შეზღუდულია მეხსიერების მოცულობითა და გამტარუნარიანობით, და არა სუფთა ერთმაგი სიზუსტის გამოთვლითი სიმძლავრით. აირჩიეთ უფრო მაღალი გამოთვლითი წარმადობის GPU, თუ გჭირდებათ უფრო სწრაფი ტრენინგის იტერაციები, ან შეარჩიეთ უფრო მცირე სამომხმარებლო ბარათი, თუ თქვენს მოდელებს არ სჭირდებათ 64 GB VRAM.
CMP 170HX vs მსგავსი ღრუბლოვანი GPU-ები
| GPU | VRAM თითოეულ GPU-ზე | FP32 გამოთვლები | სიმძლავრის ლიმიტი (TDP) | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | დეტალები → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | დეტალები → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | დეტალები → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | დეტალები → |
CMP 170HX ღრუბლოვანი GPU: ხშირად დასმული კითხვები
იქირავეთ CMP 170HX ღრუბლოვანი GPU საათობრივად
აირჩიეთ შაბლონი, შეარჩიეთ ხელმისაწვდომი კონფიგურაცია და დაუკავშირდით SSH-ით ან ბრაუზერის ტერმინალით. გადახდა ჩერდება GPU-ის წაშლისთანავე.