Išsinuomokite NVIDIA A800 PCIE GPU su 80 GB VRAM
Išsinuomokite A800 PCIE vaizdo plokštes (GPU) valandai Cloudj platformoje: 80 GB VRAM su NVIDIA Ampere architektūra ir apie 1598 GB/s atminties pralaidumu, todėl 70B klasės LLM telpa vienoje plokštėje. Ji skirta dirbtinio intelekto komandoms, kurioms reikia dvigubai daugiau atminties nei A100 40 GB modeliuose aptarnavimui (serving), tobulinimui (fine-tuning) ir ilgų kontekstų užduotims, kartu užtikrinant 15.6 TFLOPS FP32 galią bei 300 W energijos limitą. Pradėkite nuo vLLM, SGLang ar Unsloth šablono ir prisijunkite per SSH.
A800 PCIE specifikacijos
VRAM vienam GPU
80 GB
Architektūra
NVIDIA Ampere
Skaičiavimo pajėgumas (Compute capability)
8
FP32 skaičiavimai
≈ 15.6 TFLOPS
Atminties pralaidumas
≈ 1598 GB/s
Galios riba (TDP)
300 W
Infrastruktūros teikėjo nurodytos vertės šiuo metu siūlomoms mašinoms; realus našumas gali skirtis priklausomai nuo įrangos.
Aktualios A800 PCIE konfigūracijos ir kainos
Realaus laiko likučiai ir kainos, atnaujinami nuolat. Galutinė kaina patvirtinama prieš užsakant.
Nuomotis dabarKą galite paleisti su A800 PCIE debesų GPU
70B modeliai vienoje GPU plokštėje
Paleiskite 4 bitų 70B modelį su pakankamai vietos KV podėliui (cache) arba 30B–34B modelį 16 bitų formatu, naudodami vLLM arba SGLang.
Ilgų kontekstų išvedimas (inference)
80 GB talpa palieka erdvės ilgoms užklausoms ir daugeliui lygiagrečių sekų, kurios netilptų į 40 GB plokštę.
Vidutinio dydžio LLM tobulinimas
Paleiskite LoRA su 13B–34B modeliais BF16 formatu arba QLoRA su didesniais modeliais naudodami Unsloth, be poreikio skaidyti per kelias GPU plokštes.
Daug atminties reikalaujantis duomenų mokslas
Laikykite didelius tenzorius, grafus ar požymių matricas GPU atmintyje RAPIDS ar PyTorch procesams.
Ar A800 PCIE yra tinkamas GPU jūsų užduotims?
Rinkitės A800 PCIE, kai pagrindinis jūsų reikalavimas yra 80 GB atminties talpa didelės apimties DI modeliams, o ne grynoji viengubo tikslumo skaičiavimo galia. Jei jūsų apkrovoms pakanka mažesnės atminties, labiau tiks mažesnės VRAM talpos darbo stočių ar vartotojiškos vaizdo plokštės, o skaičiavimams imlioms užduotims verta rinktis naujesnės kartos duomenų centrų architektūras.
A800 PCIE prieš panašius debesų GPU
A800 PCIE debesų GPU: dažniausiai užduodami klausimai
Išsinuomokite A800 PCIE debesų GPU valandomis
Pasirinkite šabloną, pasirinkite aktualią konfigūraciją ir prisijunkite per SSH arba naršyklės terminalą. Apmokėjimas sustabdomas ištrynus GPU.