Наемете NVIDIA A800 PCIE GPU с 80 GB VRAM
Наемете A800 PCIE GPU на час в Cloudj: 80 GB VRAM с архитектура NVIDIA Ampere и около 1598 GB/s пропускателна способност на паметта, така че 70B клас LLM модели да се поберат на една карта. Предназначена е за AI екипи, които се нуждаят от два пъти повече памет спрямо A100 40 GB за serving, fine-tuning и работа с дълъг контекст, с 15.6 TFLOPS FP32 и 300 W лимит на мощността. Стартирайте от готов шаблон за vLLM, SGLang или Unsloth и се свържете през SSH.
Спецификации на A800 PCIE
VRAM на GPU
80 GB
Архитектура
NVIDIA Ampere
Compute capability
8
FP32 изчисления
≈ 15.6 TFLOPS
Пропускателна способност на паметта
≈ 1598 GB/s
Лимит на мощността (TDP)
300 W
Стойности, подадени от доставчика на инфраструктура за текущо листнатите машини; реалната производителност може да варира според машината.
Актуални конфигурации и цени за A800 PCIE
Наличности и цени в реално време, обновявани постоянно. Окончателната цена се потвърждава преди поръчка.
Наемете сегаКакво можете да стартирате на облачния GPU A800 PCIE
70B модели на единичен GPU
Хоствайте 4-bit 70B модел с оставащо място за KV кеш или 30B–34B модел в 16-bit с помощта на vLLM или SGLang.
Инференс с дълъг контекст
80 GB осигуряват пространство за дълги промптове и множество паралелни сесии, които биха препълнили 40 GB карта.
Fine-tuning на средни по размер LLM модели
Изпълнявайте LoRA върху 13B–34B модели в BF16 или QLoRA върху по-големи с Unsloth, без разделяне (sharding) между няколко GPU.
Data science задачи с високи изисквания към паметта
Запазете големи тензори, графи или матрици с признаци директно в паметта на GPU за работни натоварвания с RAPIDS или PyTorch.
Подходящият GPU ли е A800 PCIE за вашите натоварвания?
Изберете A800 PCIE, когато основното ви изискване е капацитет от 80 GB памет за мащабни AI модели, а не сурова изчислителна мощност с единична точност. Ако натоварването ви изисква по-малко памет, работна станция или потребителски GPU с по-нисък VRAM е по-подходящ избор, докато задачите с висок обем изчисления могат да се възползват от по-ново поколение дейта център архитектури.
A800 PCIE спрямо подобни облачни GPU
Облачен GPU A800 PCIE: често задавани въпроси
Наемете облачен GPU A800 PCIE на час
Изберете шаблон, посочете налична конфигурация и се свържете през SSH или терминала в браузъра. Таксуването спира, когато изтриете GPU.