NVIDIA CMP 170HX GPU 시간당 대여
NVIDIA CMP 170HX는 64 GB VRAM과 250 W TDP를 갖춘 Ampere 아키텍처 기반 데이터센터 GPU입니다. 연산 능력(Compute Capability) 8.0에서 약 1516 GB/s의 메모리 대역폭과 약 12.1 TFLOPS의 단정밀도 연산 성능을 제공합니다. Cloudj에서는 시간당 청구 방식, 전체 SSH 액세스, 그리고 PyTorch/CUDA, vLLM, Ollama, ComfyUI용 사전 구성 템플릿을 통해 이 카드를 배포할 수 있습니다.
사양
GPU당 VRAM
64 GB
아키텍처
NVIDIA Ampere
연산 능력
8
FP32 연산
≈ 12.1 TFLOPS
메모리 대역폭
≈ 1516 GB/s
전력 제한
250 W
현재 등록된 머신에 대해 인프라 제공업체가 보고한 수치이며, 실제 성능은 머신에 따라 다를 수 있습니다.
이용 가능한 구성
실시간 재고 및 가격 정보는 지속적으로 업데이트됩니다. 최종 가격은 주문 전에 확정됩니다.
지금 대여CMP 170HX의 주요 용도
메모리 집약적 LLM 추론
64 GB VRAM 용량과 약 1516 GB/s의 메모리 대역폭을 활용하여 vLLM 또는 Ollama를 통해 대규모 언어 모델을 서빙합니다.
고용량 메모리 딥러닝
모델을 여러 장치로 분할하지 않고도 대용량 메모리와 연산 능력 8.0이 필요한 PyTorch/CUDA 워크로드를 실행합니다.
복잡한 이미지 생성 워크플로
64 GB 메모리 풀 내에서 ComfyUI의 여러 대형 디퓨전 체크포인트와 ControlNet을 동시에 로드합니다.
데이터 처리 및 시뮬레이션
250 W 전력 범위 내에서 높은 메모리 처리량의 이점을 누릴 수 있는 메모리 집약적 데이터센터 작업을 수행합니다.
나에게 맞는 GPU인가요?
워크로드의 병목 현상이 순수 단정밀도 연산 성능보다는 메모리 용량과 대역폭에서 발생할 때 CMP 170HX를 선택하십시오. 더 빠른 학습 반복이 필요한 경우 연산 처리량이 더 높은 GPU를 선택하고, 모델에 64 GB VRAM이 필요하지 않은 경우 더 작은 소비자용 카드를 선택하십시오.