GPU Cloud
Awọsánmọ̀ GPU: yá àwọn ẹ̀rọ olupin NVIDIA GPU ní wákàtí-wákàtí
Yá àwọn ẹ̀rọ olupin NVIDIA GPU fún ìgbéjáde LLM, àtúnṣe-mọ́dẹ́lì (fine-tuning) àti ìṣẹ̀dá àwòrán. Iye owó lọ́wọ́lọ́wọ́, ìsanwó ní wákàtí-wákàtí, àwọn àdàkọ PyTorch, vLLM àti ComfyUI, pẹ̀lú àyè wíwọlé SSH.
- Àwọn ohun èlò tí ó wà lójú ẹsẹ̀, iye owó tí a fìdí rẹ̀ múlẹ̀ kí o tó béèrè
- Àwọn àdàkọ fún PyTorch, vLLM, Ollama àti ComfyUI
- Àwọn ẹ̀rọ olupin wákàtí tí a dádúró ni a ń gba owó àwo-ìpamọ́ (disk) nìkan lé lórí
Pẹ̀lú Cloudj GPU Cloud o lè yá olupin GPU láti inú àkójọ ọjà tó ń lọ lọ́wọ́: yan àwòṣe GPU, VRAM àti àwo ìpamọ́, bẹ̀rẹ̀ láti inú àkọsílẹ̀ àpẹẹrẹ bíi PyTorch, vLLM, Ollama tàbí ComfyUI, lẹ́yìn náà sopọ̀ lórí SSH. Àwọn olupin tí a ń sanwó wọn ní wákàtí ni a máa yọ owó wọn láti inú àkọọ́lẹ̀ rẹ, olupin tí a dá dúró lórí ètò wákàtí ni a sì máa gba owó àwo ìpamọ́ rẹ̀ nìkan.
Iye owó ìyálò GPU àti àwọn tí ó wà lárọ̀ọ́wọ́tó
Àkójọ tó ń lọ lọ́wọ́: wíwà lárọ̀ọ́wọ́tó àti iye owó ń yípadà pẹ̀lú ọjà. Console yóò fi iye owó ìkẹyìn hàn dájú kí o tó paṣẹ.
| GPU | VRAM fún GPU kọ̀ọ̀kan | Àgbékalẹ̀ | Ìṣirò FP32 | Ààlà agbára iná | Láti | |
|---|---|---|---|---|---|---|
| NVIDIA RTX PRO 6000 Max-Q | 96 GB | Blackwell | ≈ 119 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX PRO 6000 WS | 96 GB | Blackwell | ≈ 119 TFLOPS | 600 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 5090 | 32 GB | Blackwell | ≈ 107.6 TFLOPS | 575 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 5090D | 32 GB | Blackwell | ≈ 107.6 TFLOPS | 575 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX PRO 6000 S | 96 GB | Blackwell | ≈ 93.6 TFLOPS | 600 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4090 | 24 GB | Ada Lovelace | ≈ 81.4 TFLOPS | 450 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 6000Ada | 48 GB | Ada Lovelace | ≈ 81.4 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 6000D | 84 GB | Blackwell | ≈ 77.6 TFLOPS | 600 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA L40S datacenter | 45 GB | Ada Lovelace | ≈ 73.3 TFLOPS | 350 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX PRO 5000 | 48 GB | Blackwell | ≈ 69.6 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA H100 SXM datacenter | 80 GB | Hopper | ≈ 53.5 TFLOPS | 700 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 5080 | 16 GB | Blackwell | ≈ 53.4 TFLOPS | 360 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4080S | 16 GB | Ada Lovelace | ≈ 50.9 TFLOPS | 320 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4080 | 16 GB | Ada Lovelace | ≈ 48.6 TFLOPS | 285 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA H100 NVL datacenter | 94 GB | Hopper | ≈ 48.3 TFLOPS | 400 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA H200 NVL datacenter | 140 GB | Hopper | ≈ 48.3 TFLOPS | 600 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 5070 Ti | 16 GB | Blackwell | ≈ 44.3 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX PRO 4000 | 24 GB | Blackwell | ≈ 44.3 TFLOPS | 145 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4070S Ti | 16 GB | Ada Lovelace | ≈ 42.6 TFLOPS | 285 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA H100 PCIE datacenter | 80 GB | Hopper | ≈ 41 TFLOPS | 350 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4500Ada | 24 GB | Ada Lovelace | ≈ 38.2 TFLOPS | 210 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3090 Ti | 24 GB | Ampere | ≈ 36.4 TFLOPS | 450 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX A6000 | 48 GB | Ampere | ≈ 36.1 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4070S | 12 GB | Ada Lovelace | ≈ 35.8 TFLOPS | 220 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3090 | 24 GB | Ampere | ≈ 35.4 TFLOPS | 350 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3080 Ti | 12 GB | Ampere | ≈ 35.1 TFLOPS | 350 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A40 datacenter | 45 GB | Ampere | ≈ 29.9 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3080 | 10 GB | Ampere | ≈ 29.5 TFLOPS | 380 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4070 | 12 GB | Ada Lovelace | ≈ 29.3 TFLOPS | 200 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA L4 datacenter | 22 GB | Ada Lovelace | ≈ 24.2 TFLOPS | 72 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 5060 Ti | 16 GB | Blackwell | ≈ 22.8 TFLOPS | 180 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 4060 Ti | 16 GB | Ada Lovelace | ≈ 21.6 TFLOPS | 165 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX A4000 | 16 GB | Ampere | ≈ 20.6 TFLOPS | 140 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3070 | 8 GB | Ampere | ≈ 19.8 TFLOPS | 220 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3060 Ti | 8 GB | Ampere | ≈ 15.7 TFLOPS | 200 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A100 PCIE datacenter | 40 GB | Ampere | ≈ 15.6 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A100 SXM4 datacenter | 40 GB | Ampere | ≈ 15.6 TFLOPS | 400 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA A800 PCIE datacenter | 80 GB | Ampere | ≈ 15.6 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 2080 Ti | 11 GB | Turing | ≈ 14.6 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3060 laptop | 12 GB | Ampere | ≈ 12.9 TFLOPS | 80 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA Tesla V100 datacenter | 16 GB | Volta | ≈ 12.5 TFLOPS | 300 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA CMP 170HX datacenter | 64 GB | Ampere | ≈ 12.1 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 3060 | 12 GB | Ampere | ≈ 12 TFLOPS | 170 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA Titan Xp | 12 GB | Pascal | ≈ 11.7 TFLOPS | 160 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX A2000 | 6 GB | Ampere | ≈ 11.2 TFLOPS | 70 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1080 Ti | 11 GB | Pascal | ≈ 11 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1080 | 8 GB | Pascal | ≈ 7.8 TFLOPS | 130 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1070 Ti | 8 GB | Pascal | ≈ 7.4 TFLOPS | 180 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1650 | 4 GB | ≈ undefined TFLOPS | W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → | |
| NVIDIA Q RTX 8000 | 45 GB | Turing | ≈ 11.9 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA Tesla P40 datacenter | 24 GB | Pascal | ≈ 9.4 TFLOPS | 250 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 2070S | 8 GB | Turing | ≈ 8.8 TFLOPS | 210 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA Q RTX 4000 | 8 GB | Turing | ≈ 7.7 TFLOPS | 125 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 2070 | 8 GB | Turing | ≈ 7.7 TFLOPS | 150 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 2060S | 8 GB | Turing | ≈ 7.5 TFLOPS | 175 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX TITAN X | 12 GB | Maxwell | ≈ 6.8 TFLOPS | 150 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA RTX 2060 | 12 GB | Turing | ≈ 6.5 TFLOPS | 130 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1660 Ti | 6 GB | Turing | ≈ 5.3 TFLOPS | 120 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
| NVIDIA GTX 1660 S | 6 GB | Turing | ≈ 3.6 TFLOPS | 125 W | – | Àwọn ẹ̀kúnrẹ́rẹ́ → |
Àwọn àdàkọ GPU fún AI, LLM àti àwọn iṣẹ́ rendering
Ìgbékalẹ̀ LLM (inference)
vLLM, SGLang tàbí Ollama pẹ̀lú Open WebUI láti pèsè àti láti dán àwọn àwòṣe èdè wò.
Àtúnṣe ìpele gíga (Fine-tuning)
Unsloth Studio fún ṣíṣe àtúnṣe ìpele gíga sí àwọn àwòṣe èdè lórí àwọn data tirẹ̀ fúnra rẹ.
Ṣíṣẹ̀dá àwòrán àti fídíò
ComfyUI fún Flux, SDXL àti àwọn ìlànà iṣẹ́ fídíò.
Ìdàgbàsókè PyTorch àti CUDA
Àwọn àwòrán PyTorch àti Ubuntu 24.04 pẹ̀lú NVIDIA CUDA, tí o lè wọlé sí nípasẹ̀ SSH.
Ojú-iṣẹ́ kọ̀mpútà tàbí VM pípé
Ojú-iṣẹ́ Ubuntu nínú browser, tàbí ẹ̀rọ foju-inu KVM kíkún nígbà tí o bá nílò rẹ̀.
Bí o ṣe lè yá ẹ̀rọ olupin GPU ní ìgbésẹ̀ 4
- 01
Yan àkọsílẹ̀ àpẹẹrẹ (template) àti ìwọ̀n àwo ìpamọ́
- 02
Mú GPU tó bá a mu láti inú àkójọ ọjà tó ń lọ lọ́wọ́
- 03
Fìdí iye owó múlẹ̀ kí o sì ṣẹ̀dá olupin náà láti inú àkọọ́lẹ̀ rẹ
- 04
Sopọ̀ lórí SSH tàbí terminal ti browser
Iye owó awọsánmọ̀ GPU àti ìgbéwọ́n ìsanwó
- Wákàtí: a ń gba owó GPU fún wákàtí kọ̀ọ̀kan nígbà tí olupin bá ń ṣiṣẹ́. Olupin tí a dá dúró lórí ètò wákàtí ni a máa gba owó àwo ìpamọ́ rẹ̀ nìkan.
- Àkókò ìsanwó: oṣooṣù, oṣù mẹ́ta, oṣù mẹ́fà tàbí ti ọdún, pẹ̀lú ẹ̀dinwó èyíkéyìí tí a fihàn kí o tó sanwó.
- A ń gba owó àwo ìpamọ́ fún GB kọ̀ọ̀kan pẹ̀lú iye owó GPU.
- Àwọn iye owó wà ní USD; o le fi wọ́n hàn ní VND nípa iye pàṣípààrọ̀ lọ́wọ́lọ́wọ́.
Àwọn ìbéèrè tí a sábà ń béèrè nípa awọsánmọ̀ GPU
Àwọn iṣẹ́ tí ó wọ inú ìrántí (memory) GPU: ìgbéjáde LLM àti àtúnṣe-mọ́dẹ́lì, ìṣẹ̀dá àwòrán àti fídíò, rendering àti ìdàgbàsókè CUDA. Àwọn àdàkọ fún PyTorch, vLLM, SGLang, Ollama, Unsloth àti ComfyUI yóò fi àwọn sọfitiwia náà sí i fún ọ.
Tábìlì tí ó wà lókè yẹn ṣe àtòjọ àwọn ìṣètò tí ó wà lárọ̀ọ́wọ́tó báyìí, títí kan NVIDIA RTX 5090 pẹ̀lú 32 GB ti VRAM nígbà tí ó bá wà ní àpò-ìpamọ́. Wíwà rẹ̀ ń yípadà jákèjádò ọjọ́.
Iye owó ń wá láti inú àkójọ GPU lọ́wọ́lọ́wọ́, ó sì lè yípadà. Pẹpẹ ìṣàkóso (console) ń fi iye owó tí a fìdí rẹ̀ múlẹ̀ hàn kí o tó béèrè, a sì ń gba owó ẹ̀rọ olupin rẹ lórí iye owó tí a fìdí rẹ̀ múlẹ̀ náà.
Bẹ́ẹ̀ ni. Yàtọ̀ sí ìsanwó wákàtí-wákàtí, o lè yan ètò oṣooṣù, oṣù mẹ́ta, oṣù mẹ́fà tàbí ọdọọdún, pẹ̀lú ẹ̀dinwo èyíkéyìí tí a fihàn kí o tó sanwó. A ń gba owó àpamọ́ àwo (disk storage) fún GB kọ̀ọ̀kan pẹ̀lú iye owó GPU náà.
Pẹ̀lú ìsanwó wákàtí-wákàtí, ẹ̀rọ olupin tí a dádúró ni a ń gba owó àwo rẹ̀ nìkan lórí rẹ̀. Pa ẹ̀rọ olupin náà rẹ́ nígbà tí o kò bá nílò àwọn dátà inú rẹ̀ mọ́.
Nípasẹ̀ SSH pẹ̀lú kọ́kọ́rọ́ rẹ, tàbí pẹ̀lú terminal nínú àwòkátà (browser) rẹ láti orí console. Àwọn àdàkọ Desktop àti VM náà tún ń pèsè àyè wíwọlé olóju-àwòrán.