Išsinuomokite NVIDIA CMP 170HX GPU su 64 GB VRAM
Išsinuomokite CMP 170HX debesijos GPU serverius pagal valandas platformoje Cloudj: 64 GB VRAM, Ampere architektūra ir apie 1516 GB/s atminties pralaidumas nuo atminties priklausomiems skaičiavimams. Tai tik skaičiavimams skirta (headless) plokštė programuotojams, kuriems pralaidumas ir talpa yra svarbesni už FP32 spartą (12.1 TFLOPS, 250 W, compute capability 8.0). Pirmiausia atlikite trumpą testą su PyTorch ar Ollama šablonu, o tada išplėskite užduotį.
CMP 170HX specifikacijos
VRAM vienam GPU
64 GB
Architektūra
NVIDIA Ampere
Skaičiavimo pajėgumas (Compute capability)
8
FP32 skaičiavimai
≈ 12.1 TFLOPS
Atminties pralaidumas
≈ 1516 GB/s
Galios riba (TDP)
250 W
Infrastruktūros teikėjo nurodytos vertės šiuo metu siūlomoms mašinoms; realus našumas gali skirtis priklausomai nuo įrangos.
Aktualios CMP 170HX konfigūracijos ir kainos
Realaus laiko likučiai ir kainos, atnaujinami nuolat. Galutinė kaina patvirtinama prieš užsakant.
Nuomotis dabarKą galite paleisti su CMP 170HX debesų GPU
Atminties pralaidumo ribojama inferencija
LLM leksemų generavimą labiausiai riboja atminties pralaidumas, o 1516 GB/s pralaidumas prilygsta A100 klasės plokštėms.
Kvantizuotų LLM talpinimas
Užkraukite kvantizuotus modelius į Ollama ar llama.cpp ir pasiekite juos per API testavimui ar vidiniams įrankiams.
CUDA branduolių eksperimentai
Profiliuokite daug atminties reikalaujančius branduolius Ampere plokštėje su compute capability 8.0 prieš perkeldami juos į didesnius resursus.
Paketinis duomenų apdorojimas
Nukreipkite didelius duomenų masyvus per GPU atmintį transformacijų, maišos (hashing) ar analitikos užduotims, kurias riboja prieigos prie atminties sparta.
Ar CMP 170HX yra tinkamas GPU jūsų užduotims?
Rinkitės CMP 170HX, kai jūsų darbo krūvį riboja atminties talpa ir pralaidumas, o ne grynoji vieno tikslumo skaičiavimo sparta. Pasirinkite didesnio skaičiavimo našumo GPU, jei reikia spartesnių treniravimo iteracijų, arba mažesnę vartotojų klasės plokštę, jei jūsų modeliams nereikia 64 GB VRAM.
CMP 170HX prieš panašius debesų GPU
CMP 170HX debesų GPU: dažniausiai užduodami klausimai
Išsinuomokite CMP 170HX debesų GPU valandomis
Pasirinkite šabloną, pasirinkite aktualią konfigūraciją ir prisijunkite per SSH arba naršyklės terminalą. Apmokėjimas sustabdomas ištrynus GPU.