NVIDIA H100 NVL GPU 시간당 대여
NVIDIA H100 NVL은 94 GB의 VRAM과 컴퓨팅 성능(Compute Capability) 9.0을 갖춘 Hopper 아키텍처 기반 데이터센터 GPU입니다. 400 W의 열 설계 전력(TDP) 내에서 약 48.3 TFLOPS의 단정밀도 성능과 약 3381 GB/s의 메모리 대역폭을 제공합니다. 시간당 청구, SSH 액세스 및 PyTorch/CUDA, vLLM, Ollama, ComfyUI용 사전 구성 템플릿을 지원하는 Cloudj에서 H100 NVL을 임대하세요.
사양
GPU당 VRAM
94 GB
아키텍처
NVIDIA Hopper
연산 능력
9
FP32 연산
≈ 48.3 TFLOPS
메모리 대역폭
≈ 3381 GB/s
전력 제한
400 W
현재 등록된 머신에 대해 인프라 제공업체가 보고한 수치이며, 실제 성능은 머신에 따라 다를 수 있습니다.
이용 가능한 구성
실시간 재고 및 가격 정보는 지속적으로 업데이트됩니다. 최종 가격은 주문 전에 확정됩니다.
지금 대여H100 NVL의 주요 용도
대규모 언어 모델(LLM) 추론
94 GB의 VRAM과 약 3381 GB/s의 메모리 대역폭을 활용해 vLLM 또는 Ollama로 고용량 언어 모델을 배포하고 빠른 토큰 생성을 구현합니다.
딥러닝 파인튜닝
Hopper 아키텍처 기능과 컴퓨팅 성능 9.0을 사용하여 PyTorch에서 신경망을 학습시키고 파인튜닝합니다.
고해상도 이미지 생성
시스템 RAM으로 오프로드하지 않고 메모리 내에서 복잡한 ComfyUI 워크플로와 대규모 디퓨전 파이프라인을 실행합니다.
과학 컴퓨팅 및 시뮬레이션
약 48.3 TFLOPS의 단정밀도 연산 성능을 활용하여 메모리 집약적인 데이터센터 워크로드를 실행합니다.
나에게 맞는 GPU인가요?
AI 또는 컴퓨팅 워크로드에 일반 데이터센터 카드가 제공하는 것보다 더 많은 메모리(최대 94 GB VRAM)가 필요한 경우 H100 NVL을 선택하세요. 가벼운 추론 및 개발 작업에는 소형 워크스테이션이나 소비자용 GPU가 더 나은 선택이며, 모델 크기가 94 GB를 초과하는 경우에는 멀티 GPU 구성이나 더 큰 메모리 티어가 필요합니다.