GPU Cloud
GPU cloud: manofa server NVIDIA GPU isan'ora
Manofa server NVIDIA GPU ho an'ny LLM inference, fine-tuning ary famoronana sary. Vidiny mivantana, fandoavana isan'ora, templates ho an'ny PyTorch, vLLM ary ComfyUI, fidirana SSH.
- Fisiana ara-potoana mivantana, vidiny voamarina alohan'ny hanafatra
- Templates ho an'ny PyTorch, vLLM, Ollama ary ComfyUI
- Ny server isan'ora najanona dia ny disk ihany no andoavam-bola
Miaraka amin'ny Cloudj GPU Cloud dia manofa mpizara GPU avy amin'ny tahiry mivantana ianao: mifidiana modely GPU, VRAM ary kapila, manomboha amin'ny lasitra toy ny PyTorch, vLLM, Ollama na ComfyUI, avy eo midira amin'ny alalan'ny SSH. Ny mpizara isan'ora dia aloa avy amin'ny solon'ny kaontinao, ary ny kapila ihany no aloa amin'ny mpizara isan'ora natsahatra.
Vidin'ny fampanofana GPU sy ny fisiany mivantana
Tahiry mivantana: miovaova araka ny tsena ny fahafahana mahazo sy ny vidiny. Manamafy ny vidiny farany ny console alohan'ny hanafatrao.
| GPU | VRAM isaky ny GPU | Maritrano | Kajy FP32 | Fetra herinaratra (TDP) | Manomboka amin'ny | |
|---|---|---|---|---|---|---|
| NVIDIA RTX PRO 6000 Max-Q | 96 GB | Blackwell | ≈ 119 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX PRO 6000 WS | 96 GB | Blackwell | ≈ 119 TFLOPS | 600 W | – | Antsipiriany → |
| NVIDIA RTX 5090 | 32 GB | Blackwell | ≈ 107.6 TFLOPS | 575 W | – | Antsipiriany → |
| NVIDIA RTX 5090D | 32 GB | Blackwell | ≈ 107.6 TFLOPS | 575 W | – | Antsipiriany → |
| NVIDIA RTX PRO 6000 S | 96 GB | Blackwell | ≈ 93.6 TFLOPS | 600 W | – | Antsipiriany → |
| NVIDIA RTX 4090 | 24 GB | Ada Lovelace | ≈ 81.4 TFLOPS | 450 W | – | Antsipiriany → |
| NVIDIA RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | 600 W | – | Antsipiriany → |
| NVIDIA L40S datacenter | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | 350 W | – | Antsipiriany → |
| NVIDIA RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA H100 SXM datacenter | 80 GB | Hopper | ≈ 53.5 TFLOPS | 700 W | – | Antsipiriany → |
| NVIDIA RTX 5080 | 16 GB | Blackwell | ≈ 53.4 TFLOPS | 360 W | – | Antsipiriany → |
| NVIDIA RTX 4080S | 16 GB | Ada Lovelace | ≈ 50.9 TFLOPS | 320 W | – | Antsipiriany → |
| NVIDIA RTX 4080 | 16 GB | Ada Lovelace | ≈ 48.6 TFLOPS | 285 W | – | Antsipiriany → |
| NVIDIA H100 NVL datacenter | 94 GB | Hopper | ≈ 48.3 TFLOPS | 400 W | – | Antsipiriany → |
| NVIDIA H200 NVL datacenter | 140 GB | Hopper | ≈ 48.3 TFLOPS | 600 W | – | Antsipiriany → |
| NVIDIA RTX 5070 Ti | 16 GB | Blackwell | ≈ 44.3 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX PRO 4000 | 24 GB | Blackwell | ≈ 44.3 TFLOPS | 145 W | – | Antsipiriany → |
| NVIDIA RTX 4070S Ti | 16 GB | Ada Lovelace | ≈ 42.6 TFLOPS | 285 W | – | Antsipiriany → |
| NVIDIA H100 PCIE datacenter | 80 GB | Hopper | ≈ 41 TFLOPS | 350 W | – | Antsipiriany → |
| NVIDIA RTX 4500Ada | 24 GB | Ada Lovelace | ≈ 38.2 TFLOPS | 210 W | – | Antsipiriany → |
| NVIDIA RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | 450 W | – | Antsipiriany → |
| NVIDIA RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX 4070S | 12 GB | Ada Lovelace | ≈ 35.8 TFLOPS | 220 W | – | Antsipiriany → |
| NVIDIA RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | 350 W | – | Antsipiriany → |
| NVIDIA RTX 3080 Ti | 12 GB | Ampere | ≈ 35.1 TFLOPS | 350 W | – | Antsipiriany → |
| NVIDIA A40 datacenter | 45 GB | Ampere | ≈ 29.9 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX 3080 | 10 GB | Ampere | ≈ 29.5 TFLOPS | 380 W | – | Antsipiriany → |
| NVIDIA RTX 4070 | 12 GB | Ada Lovelace | ≈ 29.3 TFLOPS | 200 W | – | Antsipiriany → |
| NVIDIA L4 datacenter | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | 72 W | – | Antsipiriany → |
| NVIDIA RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | 180 W | – | Antsipiriany → |
| NVIDIA RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | 165 W | – | Antsipiriany → |
| NVIDIA RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | 140 W | – | Antsipiriany → |
| NVIDIA RTX 3070 | 8 GB | Ampere | ≈ 19.8 TFLOPS | 220 W | – | Antsipiriany → |
| NVIDIA RTX 3060 Ti | 8 GB | Ampere | ≈ 15.7 TFLOPS | 200 W | – | Antsipiriany → |
| NVIDIA A100 PCIE datacenter | 40 GB | Ampere | ≈ 15.6 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA A100 SXM4 datacenter | 40 GB | Ampere | ≈ 15.6 TFLOPS | 400 W | – | Antsipiriany → |
| NVIDIA A800 PCIE datacenter | 80 GB | Ampere | ≈ 15.6 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA RTX 2080 Ti | 11 GB | Turing | ≈ 14.6 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA RTX 3060 laptop | 12 GB | Ampere | ≈ 12.9 TFLOPS | 80 W | – | Antsipiriany → |
| NVIDIA Tesla V100 datacenter | 16 GB | Volta | ≈ 12.5 TFLOPS | 300 W | – | Antsipiriany → |
| NVIDIA CMP 170HX datacenter | 64 GB | Ampere | ≈ 12.1 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA RTX 3060 | 12 GB | Ampere | ≈ 12 TFLOPS | 170 W | – | Antsipiriany → |
| NVIDIA Titan Xp | 12 GB | Pascal | ≈ 11.7 TFLOPS | 160 W | – | Antsipiriany → |
| NVIDIA RTX A2000 | 6 GB | Ampere | ≈ 11.2 TFLOPS | 70 W | – | Antsipiriany → |
| NVIDIA GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA GTX 1080 | 8 GB | Pascal | ≈ 7.8 TFLOPS | 130 W | – | Antsipiriany → |
| NVIDIA GTX 1070 Ti | 8 GB | Pascal | ≈ 7.4 TFLOPS | 180 W | – | Antsipiriany → |
| NVIDIA GTX 1650 | 4 GB | ≈ undefined TFLOPS | W | – | Antsipiriany → | |
| NVIDIA Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA Tesla P40 datacenter | 24 GB | Pascal | ≈ 9.4 TFLOPS | 250 W | – | Antsipiriany → |
| NVIDIA RTX 2070S | 8 GB | Turing | ≈ 8.8 TFLOPS | 210 W | – | Antsipiriany → |
| NVIDIA Q RTX 4000 | 8 GB | Turing | ≈ 7.7 TFLOPS | 125 W | – | Antsipiriany → |
| NVIDIA RTX 2070 | 8 GB | Turing | ≈ 7.7 TFLOPS | 150 W | – | Antsipiriany → |
| NVIDIA RTX 2060S | 8 GB | Turing | ≈ 7.5 TFLOPS | 175 W | – | Antsipiriany → |
| NVIDIA GTX TITAN X | 12 GB | Maxwell | ≈ 6.8 TFLOPS | 150 W | – | Antsipiriany → |
| NVIDIA RTX 2060 | 12 GB | Turing | ≈ 6.5 TFLOPS | 130 W | – | Antsipiriany → |
| NVIDIA GTX 1660 Ti | 6 GB | Turing | ≈ 5.3 TFLOPS | 120 W | – | Antsipiriany → |
| NVIDIA GTX 1660 S | 6 GB | Turing | ≈ 3.6 TFLOPS | 125 W | – | Antsipiriany → |
Templates GPU ho an'ny AI, LLM ary asa rendering
Fampandehanana LLM
vLLM, SGLang na Ollama miaraka amin'ny Open WebUI handefasana sy hitsapana modely fiteny.
Fine-tuning
Unsloth Studio hanatsarana manokana ireo modely fiteny amin'ny alalan'ny angonao manokana.
Famokarana sary sy horonantsary
ComfyUI ho an'ny Flux, SDXL ary fizotran'asa horonantsary.
Fampivoarana amin'ny PyTorch sy CUDA
Sary rafitra PyTorch sy Ubuntu 24.04 miaraka amin'ny NVIDIA CUDA, azo idirana amin'ny alalan'ny SSH.
Birao virtoaly na VM feno
Birao Ubuntu mivantana anaty navigateur, na milina virtoaly KVM feno rehefa ilainao izany.
Fomba fanofana server GPU amin'ny dingana 4
- 01
Mifidiana lasitra sy haben'ny kapila
- 02
Mifidiana GPU mifanentana avy amin'ny tahiry mivantana
- 03
Hamafiso ny vidiny ary forony avy amin'ny solon'ny kaontinao ny mpizara
- 04
Midira amin'ny alalan'ny SSH na ny terminal fitetezana
Vidiny sy fandoavam-bola amin'ny GPU cloud
- Isan'ora: aloa isan'ora ny GPU raha mbola mandeha ny mpizara. Ny kapila ihany no aloa amin'ny mpizara isan'ora natsahatra.
- Fari-potoana fandoavam-bola: isam-bolana, isan-telo volana, isaky ny enim-bolana na isan-taona, miaraka amin'ny fihenam-bidy aseho alohan'ny handoavanao.
- Ny fitahirizana amin'ny kapila dia aloa isaky ny GB miaraka amin'ny vidin'ny GPU.
- Amin'ny USD ny vidiny; azonao atao ny mampiseho azy amin'ny VND araka ny tahan'ny fifanakalozana ankehitriny.
Fanontaniana fapetraka momba ny GPU cloud
Izay asa rehetra antonona ao amin'ny fitadidian'ny GPU: LLM inference sy fine-tuning, famoronana sary sy horonan-tsary, rendering ary fampivoarana CUDA. Ny templates ho an'ny PyTorch, vLLM, SGLang, Ollama, Unsloth ary ComfyUI dia mametraka ny rindranasa ho anao.
Ny tabilao etsy ambony dia mitanisa ireo kirakira misy amin'izao fotoana izao, anisan'izany ny NVIDIA RTX 5090 manana VRAM 32 GB rehefa misy tahiry. Mety miovaova mandritra ny andro ny fisiany.
Avy amin'ny tahiry GPU mivantana ny vidiny ary mety hiova. Mampiseho ny vidiny voamarina ny console alohan'ny hanafatrao, ary io vidiny voamarina io no handoavanao ny server-nao.
Eny. Ankoatra ny fandoavana isan'ora dia afaka misafidy fandoavana isam-bolana, isan-telo-bolana, isaky ny enim-bolana na isan-taona ianao, miaraka amin'ny fihenam-bidy miseho alohan'ny handoavanao. Ny fitahirizana disk dia aloa isaky ny GB miaraka amin'ny vidin'ny GPU.
Amin'ny fandoavana isan'ora, ny server najanona dia ny fitahirizana disk ihany no andoavam-bola. Fafao ny server rehefa tsy ilainao intsony ny tahirin-kevitra ao aminy.
Amin'ny alalan'ny SSH miaraka amin'ny fanalahidinao, na amin'ny alalan'ny terminal ao amin'ny navigateur avy amin'ny console. Ny templates Desktop sy VM dia manome fidirana an-tsary ihany koa.