A CMP 170HX é adequada para inferência de LLM?

Sim, seus 64 GB de VRAM e cerca de 1516 GB/s de largura de banda de memória a tornam muito adequada para carregar e servir grandes modelos de linguagem usando modelos como vLLM e Ollama. No entanto, como ela fornece cerca de 12.1 TFLOPS de computação de precisão simples, o processamento de prompts será mais lento do que em GPUs de data center com maior densidade de computação.

Como esta GPU se compara aos aceleradores de data center padrão?

A CMP 170HX oferece um grande buffer de memória de 64 GB e alta largura de banda de memória, semelhantes às placas de data center Ampere padrão, operando com um TDP de 250 W. Sua principal compensação é uma taxa de transferência de computação menor, de cerca de 12.1 TFLOPS, tornando-a mais apropriada para tarefas limitadas por memória do que para cargas de trabalho de computação pesada.

Quais ambientes de software estão disponíveis para esta GPU?

A placa suporta CUDA compute capability 8.0 e pode ser iniciada na Cloudj usando modelos pré-configurados, incluindo PyTorch/CUDA, vLLM, Ollama e ComfyUI. Você também recebe acesso SSH direto para instalar bibliotecas personalizadas e gerenciar seu ambiente.

Como funciona o faturamento ao alugar a CMP 170HX?

As instâncias na Cloudj usam faturamento por hora, portanto, você paga apenas pelo período em que sua GPU permanecer ativa.

GPU Cloud · NVIDIA · Ampere

Alugue GPU NVIDIA CMP 170HX por hora

A NVIDIA CMP 170HX é uma GPU para data center de arquitetura Ampere equipada com 64 GB de VRAM e um TDP de 250 W. Ela entrega cerca de 1516 GB/s de largura de banda de memória, juntamente com cerca de 12.1 TFLOPS de computação de precisão simples com compute capability 8.0. Na Cloudj, você pode implantar esta placa com faturamento por hora, acesso SSH completo e modelos prontos para PyTorch/CUDA, vLLM, Ollama e ComfyUI.

Alugar CMP 170HX Todas as GPUs

Especificações

VRAM por GPU

64 GB

Arquitetura

NVIDIA Ampere

Capacidade de computação

Computação FP32

≈ 12.1 TFLOPS

Largura de banda da memória

≈ 1516 GB/s

Limite de energia

250 W

Valores informados pelo provedor de infraestrutura para as máquinas listadas no momento; o desempenho real varia por máquina.

Configurações disponíveis

Estoque e preços em tempo real, atualizados continuamente. O preço final é confirmado antes de você fazer o pedido.

Alugar agora

Para que a CMP 170HX é ideal

Inferência de LLM com Demanda Intensiva de Memória

Sirva grandes modelos de linguagem via vLLM ou Ollama aproveitando a capacidade de 64 GB de VRAM e cerca de 1516 GB/s de largura de banda de memória.

Deep Learning com Alto Uso de Memória

Execute cargas de trabalho PyTorch/CUDA que exigem capacidade substancial de memória e compute capability 8.0 sem dividir os modelos entre dispositivos.

Fluxos de Trabalho Complexos de Geração de Imagens

Carregue vários checkpoints de difusão grandes e ControlNets simultaneamente no ComfyUI dentro do pool de memória de 64 GB.

Processamento de Dados e Simulação

Execute tarefas de data center com uso intensivo de memória que se beneficiam de uma alta taxa de transferência de memória dentro de um limite de energia de 250 W.

É a GPU certa para você?

Escolha a CMP 170HX quando o gargalo da sua carga de trabalho for a capacidade e a largura de banda de memória, e não o poder bruto de computação de precisão simples. Opte por uma GPU com maior capacidade de processamento se você precisar de iterações de treinamento mais rápidas, ou selecione uma placa de consumo menor se os seus modelos não precisarem de 64 GB de VRAM.

Compare com GPUs similares

GPU	VRAM por GPU	Computação FP32	Limite de energia
NVIDIA CMP 170HX	64 GB	≈ 12.1 TFLOPS	250 W
NVIDIA A800 PCIE	80 GB	≈ 15.6 TFLOPS	300 W	Detalhes →
NVIDIA H100 PCIE	80 GB	≈ 41 TFLOPS	350 W	Detalhes →
NVIDIA H100 SXM	80 GB	≈ 53.5 TFLOPS	700 W	Detalhes →
NVIDIA A40	45 GB	≈ 29.9 TFLOPS	300 W	Detalhes →

Perguntas frequentes

Alugue a CMP 170HX por hora

Crie uma conta, escolha uma configuração e conecte-se via SSH. O faturamento para quando você exclui a GPU.

Alugar CMP 170HX Todas as GPUs