Alquile GPU NVIDIA RTX 4060 Ti por horas

Sí, sus 16 GB de VRAM y su capacidad de cómputo 8.9 la hacen muy adecuada para alojar modelos de lenguaje cuantizados mediante Ollama o vLLM, así como para ejecutar flujos de trabajo complejos de generación de imágenes en ComfyUI. Dado que su ancho de banda de memoria es de unos 236 GB/s, las velocidades de generación de tokens serán más moderadas que en tarjetas con mayor ancho de banda, aunque su capacidad de memoria permite cargar checkpoints más grandes.

Esta tarjeta ofrece la misma capacidad de memoria de 16 GB que algunos modelos de consumo de gama superior, lo que le permite alojar en memoria modelos de tamaño similar. Sin embargo, con unos 21.6 TFLOPS de cómputo y aproximadamente 236 GB/s de ancho de banda de memoria a un consumo de 165 W, procesa los datos más lentamente que las GPU Ada Lovelace de mayor tamaño que cuentan con buses de memoria más amplios y más núcleos de cómputo.

Las instancias en Cloudj utilizan una facturación directa por hora. Usted solo paga por el tiempo durante el cual su instancia de GPU permanece asignada a su cuenta.

Puede conectarse directamente a su instancia en ejecución mediante acceso SSH. Para ahorrar tiempo de configuración, Cloudj ofrece plantillas listas para usar de PyTorch/CUDA, vLLM, Ollama y ComfyUI.