Alugue GPU NVIDIA RTX 4060 Ti por hora

Sim, seus 16 GB de VRAM e capacidade de computação 8.9 a tornam muito adequada para hospedar modelos de linguagem quantizados via Ollama ou vLLM, bem como para executar fluxos de trabalho complexos de geração de imagens no ComfyUI. Como sua largura de banda de memória é de cerca de 236 GB/s, as velocidades de geração de tokens serão mais modestas do que em placas de maior largura de banda, embora a capacidade de memória permita carregar checkpoints maiores.

Esta placa oferece a mesma capacidade de memória de 16 GB que alguns modelos de consumo de nível superior, permitindo manter modelos de tamanho semelhante na memória. No entanto, com cerca de 21.6 TFLOPS de computação e cerca de 236 GB/s de largura de banda de memória a um consumo de energia de 165 W, ela processa dados mais lentamente do que GPUs Ada Lovelace maiores que possuem barramentos de memória mais largos e mais núcleos de computação.

As instâncias na Cloudj utilizam um faturamento simples por hora. Você paga apenas pelo tempo em que sua instância de GPU permanece alocada na sua conta.

Você pode se conectar diretamente à sua instância em execução via acesso SSH. Para economizar tempo de configuração, a Cloudj fornece modelos prontos para PyTorch/CUDA, vLLM, Ollama e ComfyUI.