Изнајмете NVIDIA A800 PCIE GPU со 80 GB VRAM
Изнајмете A800 PCIE GPU картички на час на Cloudj: 80 GB VRAM на NVIDIA Ampere архитектура со околу 1598 GB/s мемориски пропусен опсег, за LLM модели од 70B класата да ги собира на една картичка. Наменета е за AI тимови на кои им треба двојно повеќе меморија од A100 40 GB за опслужување, фино подесување и работа со долг контекст, со 15.6 TFLOPS FP32 и ограничување на моќност од 300 W. Стартувајте со vLLM, SGLang или Unsloth шаблон и поврзете се преку SSH.
Спецификации за A800 PCIE
VRAM по GPU
80 GB
Архитектура
NVIDIA Ampere
Пресметковна способност
8
FP32 перформанси
≈ 15.6 TFLOPS
Пропусен опсег на меморија
≈ 1598 GB/s
Лимит на моќност
300 W
Вредности пријавени од давателот на инфраструктура за тековно излистаните машини; реалните перформанси варираат во зависност од машината.
Актуелни A800 PCIE конфигурации и цени
Залиха и цени во живо, континуирано ажурирани. Конечната цена се потврдува пред да ја комплетирате нарачката.
Изнајми веднашШто сѐ можете да стартувате на A800 PCIE cloud GPU
70B модели на едно GPU
Опслужувајте 4-битен 70B модел со доволно простор за KV кеш, или 30B–34B модел во 16-битен формат, со помош на vLLM или SGLang.
Инференца со долг контекст
80 GB оставаат простор за долги промптови и бројни истовремени секвенци што би ја преполниле картичката од 40 GB.
Фино подесување на средни LLM модели
Извршувајте LoRA на 13B–34B модели во BF16 или QLoRA на поголеми модели преку Unsloth, без потреба од разделување низ повеќе GPU картички.
Data science со големи барања за меморија
Задржете големи тензори, графови или матрици на карактеристики директно во GPU меморијата за работни задачи во RAPIDS или PyTorch.
Дали A800 PCIE е вистинскиот GPU за вашето работно оптоварување?
Изберете A800 PCIE кога вашето главно барање е капацитет од 80 GB меморија за големи AI модели наместо сурова моќ за пресметки со единечна прецизност. Доколку вашите работни задачи бараат помалку меморија, работна станица со помал VRAM или графичка картичка за широка потрошувачка е посоодветна, додека пресметковно интензивните задачи имаат поголема придобивка од датацентарски архитектури од понова генерација.
A800 PCIE наспроти слични cloud GPU
A800 PCIE cloud GPU: често поставувани прашања
Изнајмете A800 PCIE cloud GPU на час
Изберете шаблон, одберете активна конфигурација и поврзете се преку SSH или терминалот во прелистувачот. Наплатата запира штом ќе го избришете GPU.