NVIDIA H100 PCIE GPU 시간당 대여
NVIDIA H100 PCIE는 까다로운 딥러닝 및 과학 컴퓨팅 워크로드를 위해 설계된 Hopper 아키텍처 기반 데이터센터 GPU입니다. 350 W의 소비 전력 범위 내에서 80 GB의 VRAM, 약 1760 GB/s의 메모리 대역폭, 약 41.0 TFLOPS의 표준 부동소수점 연산 성능을 제공합니다. Cloudj에서는 컴퓨팅 성능(Compute Capability) 9.0을 지원하는 이 가속기를 시간당 청구 방식과 전체 SSH 액세스 권한으로 배포할 수 있습니다.
사양
GPU당 VRAM
80 GB
아키텍처
NVIDIA Hopper
연산 능력
9
FP32 연산
≈ 41 TFLOPS
메모리 대역폭
≈ 1760 GB/s
전력 제한
350 W
현재 등록된 머신에 대해 인프라 제공업체가 보고한 수치이며, 실제 성능은 머신에 따라 다를 수 있습니다.
이용 가능한 구성
실시간 재고 및 가격 정보는 지속적으로 업데이트됩니다. 최종 가격은 주문 전에 확정됩니다.
지금 대여H100 PCIE의 주요 용도
대규모 언어 모델 추론
사전 구성된 vLLM 또는 Ollama 템플릿과 함께 80 GB의 VRAM 및 높은 메모리 대역폭을 활용하여 대규모 언어 모델을 메모리에서 서빙합니다.
모델 파인튜닝 및 학습
Hopper 아키텍처와 사전 준비된 PyTorch/CUDA 환경을 사용하여 심층 신경망을 학습시키거나 파인튜닝합니다.
배치 이미지 생성
대용량 메모리의 이점을 활용하는 고처리량 디퓨전 파이프라인과 복잡한 ComfyUI 워크플로를 실행합니다.
데이터 사이언스 및 시뮬레이션
약 41.0 TFLOPS의 표준 부동소수점 성능과 약 1760 GB/s의 메모리 처리량을 바탕으로 연산 집약적인 시뮬레이션 및 데이터 처리 작업을 수행합니다.
나에게 맞는 GPU인가요?
워크로드에 80 GB의 VRAM, 데이터센터급 메모리 대역폭, Hopper 컴퓨팅 성능 9.0 기능이 필요한 경우 H100 PCIE를 선택하십시오. 가벼운 추론이나 소규모 모델의 경우 VRAM이 더 적은 워크스테이션 또는 소비자용 GPU가 더 경제적이며, 극한의 처리량이 필요한 경우에는 SXM 기반 데이터센터 모델이 적합할 수 있습니다.