Merrni me Qira GPU NVIDIA A800 PCIE me 80 GB VRAM
Merrni me qira GPU A800 PCIE me orë në Cloudj: 80 GB VRAM në NVIDIA Ampere me rreth 1598 GB/s brez memorieje, në mënyrë që LLM-të e klasit 70B të nxënë në një kartë të vetme. Është dedikuar për ekipet e AI që kanë nevojë për dyfishin e memories së A100 40 GB për shërbim (serving), fine-tuning dhe punë me kontekst të gjatë, me 15.6 TFLOPS FP32 dhe kufi fuqie 300 W. Filloni nga një shabllon vLLM, SGLang ose Unsloth dhe lidhuni përmes SSH.
Specifikimet e A800 PCIE
VRAM për GPU
80 GB
Arkitektura
NVIDIA Ampere
Aftësia llogaritëse (Compute capability)
8
Llogaritje FP32
≈ 15.6 TFLOPS
Gjerësia e bandës së memories
≈ 1598 GB/s
Kufiri i konsumit të energjisë
300 W
Vlerat raportohen nga ofruesi i infrastrukturës për makinat aktualisht të listuara; performanca reale ndryshon sipas makinës.
Konfigurimet live të A800 PCIE dhe çmimet
Gjendja dhe çmimet në kohë reale, të përditësuara vazhdimisht. Çmimi përfundimtar konfirmohet para porosisë tuaj.
Merr me qira taniÇfarë mund të ekzekutoni në GPU-në cloud A800 PCIE
Modele 70B në një GPU të vetme
Vendosni në shërbim një model 70B në 4-bit me hapësirë të mbetur për KV cache, ose një model 30B–34B në 16-bit, duke përdorur vLLM ose SGLang.
Inferencë me kontekst të gjatë
80 GB lë hapësirë për prompt-e të gjata dhe shumë sekuenca të njëkohshme që do të tejmbushnin një kartë 40 GB.
Fine-tuning për LLM të madhësisë mesatare
Ekzekutoni LoRA në modele 13B–34B në BF16 ose QLoRA në modele më të mëdha me Unsloth, pa ndarje mes shumë GPU-ve.
Shkencë të dhënash me ngarkesë të lartë memorieje
Mbani tensorë të mëdhenj, grafe ose matrica veçorish drejtpërdrejt në memorien e GPU-së për ngarkesa pune në RAPIDS ose PyTorch.
A është A800 PCIE GPU-ja e duhur për ngarkesën tuaj të punës?
Zgjidhni A800 PCIE kur kërkesa juaj parësore është kapaciteti i memories prej 80 GB për modele AI të shkallës së gjerë në vend të fuqisë së pastër llogaritëse me saktësi të vetme. Nëse ngarkesa juaj e punës përshtatet në një hapësirë më të vogël memorieje, një GPU workstation ose për konsumatorë me më pak VRAM është më e përshtatshme, ndërsa detyrat e kufizuara nga fuqia llogaritëse mund të përfitojnë nga arkitekturat më të reja për qendra të dhënash.
A800 PCIE kundrejt GPU-ve të ngjashme cloud
GPU cloud A800 PCIE: pyetjet më të shpeshta
Merrni me qira GPU-në cloud A800 PCIE me orë
Zgjidhni një shabllon, zgjidhni një konfigurim live dhe lidhuni përmes SSH ose terminalit të shfletuesit. Faturimi ndërpritet kur fshini GPU-në.