Vuokraa NVIDIA CMP 170HX GPU 64 GB VRAM -muistilla
Vuokraa CMP 170HX -pilvi-GPU-palvelimia tuntiveloituksella palvelussa Cloudj: 64 GB VRAM-muistia, Ampere-arkkitehtuuri ja noin 1516 GB/s muistikaistanleveys muistirajoitteiseen laskentaan. Se on headless-laskentakortti kehittäjille, joille kaistanleveys ja kapasiteetti ovat tärkeämpiä kuin FP32-nopeus (12.1 TFLOPS, 250 W, compute capability 8.0). Aja ensin nopea testi PyTorch- tai Ollama-mallipohjalla ja skaalaa työkuormaa tarpeen mukaan.
CMP 170HX – tekniset tiedot
VRAM per GPU
64 GB
Arkkitehtuuri
NVIDIA Ampere
Laskentakyky
8
FP32-laskentateho
≈ 12.1 TFLOPS
Muistikaistanleveys
≈ 1516 GB/s
Tehonkulutusraja
250 W
Infrastruktuuritoimittajan ilmoittamat arvot listatuille koneille; todellinen suorituskyky vaihtelee laitekohtaisesti.
Reaaliaikaiset CMP 170HX-kokoonpanot ja hinnat
Reaaliaikainen varastotilanne ja jatkuvasti päivittyvät hinnat. Lopullinen hinta vahvistetaan ennen tilausta.
Vuokraa hetiMitä voit ajaa CMP 170HX-pilvi-GPU:lla
Kaistanleveysrajoitteinen päättely
LLM-tokenien generointia rajoittaa pääasiassa muistikaistanleveys, ja 1516 GB/s on samassa luokassa A100-tason korttien kanssa.
Kvantisoitujen LLM-mallien hostaus
Lataa kvantisoidut mallit Ollama- tai llama.cpp-sovellukseen ja tarjoa niitä API-rajapinnan kautta testausta tai sisäisiä työkaluja varten.
CUDA-kernel-kokeilut
Profiloi paljon muistia vaativia kerneleitä Ampere-kortilla, jossa on compute capability 8.0, ennen niiden siirtämistä järeämpään laitteistoon.
Erämuotoinen datankäsittely
Striimaa suuria taulukoita GPU-muistin läpi muistirajoitteisia muunnoksia, hajautusta tai analytiikkatöitä varten.
Onko CMP 170HX oikea GPU työkuormallesi?
Valitse CMP 170HX, kun työkuormasi pullonkaulana on muistikapasiteetti ja -kaistanleveys raa'an yhden tarkkuuden laskentatehon sijaan. Valitse suuremman laskentatehon GPU, jos tarvitset nopeampia opetusiteraatioita, tai pienempi kuluttajakortti, jos mallisi eivät vaadi 64 GB VRAM-muistia.
CMP 170HX vs. vastaavat pilvi-GPU:t
| GPU | VRAM per GPU | FP32-laskentateho | Tehonkulutusraja | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | Tarkemmat tiedot → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | Tarkemmat tiedot → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | Tarkemmat tiedot → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | Tarkemmat tiedot → |
CMP 170HX-pilvi-GPU: usein kysytyt kysymykset
Vuokraa CMP 170HX-pilvi-GPU tuntiveloituksella
Valitse valmispohja, valitse reaaliaikainen kokoonpano ja ota yhteys SSH:lla tai selainterminaalilla. Laskutus päättyy heti, kun poistat GPU:n.