사양
GPU당 VRAM
45 GB
아키텍처
NVIDIA Ada Lovelace
연산 능력
8.9
FP32 연산
≈ 73.3 TFLOPS
메모리 대역폭
≈ 626 GB/s
전력 제한
350 W
현재 등록된 머신에 대해 인프라 제공업체가 보고한 수치이며, 실제 성능은 머신에 따라 다를 수 있습니다.
이용 가능한 구성
실시간 재고 및 가격 정보는 지속적으로 업데이트됩니다. 최종 가격은 주문 전에 확정됩니다.
지금 대여L40S의 주요 용도
대규모 언어 모델 추론
45 GB 메모리 용량 내에서 vLLM 및 Ollama와 같은 사전 구성된 템플릿을 사용하여 양자화되거나 전체 정밀도를 갖춘 언어 모델을 배포합니다.
생성형 이미지 워크플로
Ada Lovelace 아키텍처를 활용하여 ComfyUI에서 복잡한 디퓨전 파이프라인과 배치 생성 작업을 실행합니다.
딥러닝 파인튜닝
약 73.3 TFLOPS의 연산 성능을 사용하여 PyTorch/CUDA 환경에서 신경망 및 LoRA 어댑터를 파인튜닝합니다.
데이터센터 그래픽 및 렌더링
약 626 GB/s의 메모리 대역폭을 갖춘 데이터센터 GPU의 이점을 활용하여 헤드리스 렌더링 및 시뮬레이션 작업을 실행합니다.
나에게 맞는 GPU인가요?
일반 소비자용 카드를 넘어 45 GB의 VRAM과 데이터센터급 안정성이 필요한 워크로드에는 L40S를 선택하십시오. 모델이 더 적은 메모리에 들어가는 경우 소형 워크스테이션이나 소비자용 GPU가 더 경제적이며, 양자화되지 않은 거대 파운데이션 모델에는 더 큰 메모리를 갖춘 데이터센터 GPU가 적합합니다.
자주 묻는 질문
네, 45 GB의 VRAM과 CUDA 연산 능력 8.9를 갖춘 L40S는 중대형 언어 모델 서빙 및 파라미터 효율적 파인튜닝 실행에 매우 적합합니다. 사전 구성된 vLLM, Ollama 또는 PyTorch/CUDA 템플릿으로 인스턴스를 시작할 수 있습니다.
L40S는 일반 소비자용 Ada Lovelace 카드보다 더 많은 VRAM을 제공하므로 오프로딩 없이 더 큰 모델 가중치를 유지할 수 있습니다. 그러나 고용량 메모리의 연산 전용 데이터센터 GPU보다는 메모리 대역폭이 낮으므로, 대규모 메모리 집약적 학습 작업에는 연산 전용 데이터센터 GPU가 더 적합합니다.
인스턴스가 부팅되는 즉시 환경에 대한 전체 SSH 액세스 권한이 부여됩니다. 또한 PyTorch/CUDA, ComfyUI, vLLM, Ollama를 포함한 사전 구성된 템플릿을 선택하여 즉시 작업을 시작할 수 있습니다.
Cloudj는 모든 L40S 임대에 대해 시간당 청구 방식을 사용합니다. 인스턴스가 할당된 시간만큼만 요금을 지불하면 됩니다.