Ninaweza kuendesha nini kwenye GPU niliyokodi?

Kazi zozote zinazotoshea kwenye kumbukumbu ya GPU: LLM inference na fine-tuning, uundaji wa picha na video, rendering na utengenezaji wa CUDA. Violezo vya PyTorch, vLLM, SGLang, Ollama, Unsloth na ComfyUI vinakusanidi programu kiotomatiki.

Ni GPU zipi zinazopatikana?

Jedwali hapo juu linaonyesha usanidi unaopatikana kwa sasa, ikiwa ni pamoja na NVIDIA RTX 5090 yenye 32 GB ya VRAM inapokuwepo ghalani. Upatikanaji hubadilika siku nzima.

Je, bei ni ya kudumu?

Bei hutokana na upatikanaji wa GPU wa moja kwa moja na zinaweza kubadilika. Dashibodi huonyesha bei iliyothibitishwa kabla ya kuagiza, na seva yako itatozwa kwa bei hiyo iliyothibitishwa.

Je, ninaweza kulipa kwa mwezi badala ya kila saa?

Ndiyo. Mbali na malipo ya kila saa, unaweza kuchagua mzunguko wa kila mwezi, robo mwaka, nusu mwaka, au mwaka, huku punguzo lolote likionyeshwa kabla ya kulipa. Hifadhi ya diski inatozwa kwa kila GB pamoja na bei ya GPU.

Ninalipa nini wakati seva imesimamishwa?

Kwa malipo ya kila saa, seva iliyosimamishwa hutozwa hifadhi yake ya diski pekee. Futa seva pale ambapo huhitaji tena data yake.

Ninawezaje kuunganisha kwenye seva ya GPU?

Kupitia SSH kwa kutumia ufunguo wako, au ukitumia terminal ya kivinjari chako kutoka kwenye dashibodi. Violezo vya Desktop na VM pia vinatoa ufikiaji wa picha (GUI).

Wingu la GPU

GPU cloud: kodi seva za NVIDIA GPU kwa saa

Kodi seva za NVIDIA GPU kwa ajili ya LLM inference, fine-tuning na uundaji wa picha. Bei za moja kwa moja, malipo ya kila saa, violezo vya PyTorch, vLLM na ComfyUI, pamoja na ufikiaji wa SSH.

Kodi seva ya GPU Tazama bei za moja kwa moja za GPU

Upatikanaji wa moja kwa moja, bei inathibitishwa kabla ya kuagiza
Violezo vya PyTorch, vLLM, Ollama na ComfyUI
Seva za saa zilizosimamishwa hutozwa diski pekee

Ukiwa na Cloudj GPU Cloud unakodisha seva ya GPU kutoka kwenye hisa za moja kwa moja: chagua modeli ya GPU, VRAM na diski, anza na kiolezo kama vile PyTorch, vLLM, Ollama au ComfyUI, kisha unganisha kupitia SSH. Seva za kulipia kwa saa zinatozwa kutoka kwa salio la akaunti yako, na seva ya saa iliyosimama inatozwa tu kwa diski yake.

Bei za kukodi GPU na upatikanaji wa moja kwa moja

Hisa za moja kwa moja: upatikanaji na bei hubadilika kulingana na soko. Dashibodi inathibitisha bei ya mwisho kabla ya kuagiza.

GPU	VRAM kwa kila GPU	Usanifu	Uchakataji wa FP32	Kikomo cha nishati	Kuanzia
NVIDIA RTX PRO 6000 Max-Q	96 GB	Blackwell	≈ 119 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX PRO 6000 WS	96 GB	Blackwell	≈ 119 TFLOPS	600 W	–	Maelezo →
NVIDIA RTX 5090	32 GB	Blackwell	≈ 107.6 TFLOPS	575 W	–	Maelezo →
NVIDIA RTX 5090D	32 GB	Blackwell	≈ 107.6 TFLOPS	575 W	–	Maelezo →
NVIDIA RTX PRO 6000 S	96 GB	Blackwell	≈ 93.6 TFLOPS	600 W	–	Maelezo →
NVIDIA RTX 4090	24 GB	Ada Lovelace	≈ 81.4 TFLOPS	450 W	–	Maelezo →
NVIDIA RTX 6000Ada	48 GB	Ada Lovelace	≈ 81.4 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX 6000D	84 GB	Blackwell	≈ 77.6 TFLOPS	600 W	–	Maelezo →
NVIDIA L40S datacenter	45 GB	Ada Lovelace	≈ 73.3 TFLOPS	350 W	–	Maelezo →
NVIDIA RTX PRO 5000	48 GB	Blackwell	≈ 69.6 TFLOPS	300 W	–	Maelezo →
NVIDIA H100 SXM datacenter	80 GB	Hopper	≈ 53.5 TFLOPS	700 W	–	Maelezo →
NVIDIA RTX 5080	16 GB	Blackwell	≈ 53.4 TFLOPS	360 W	–	Maelezo →
NVIDIA RTX 4080S	16 GB	Ada Lovelace	≈ 50.9 TFLOPS	320 W	–	Maelezo →
NVIDIA RTX 4080	16 GB	Ada Lovelace	≈ 48.6 TFLOPS	285 W	–	Maelezo →
NVIDIA H100 NVL datacenter	94 GB	Hopper	≈ 48.3 TFLOPS	400 W	–	Maelezo →
NVIDIA H200 NVL datacenter	140 GB	Hopper	≈ 48.3 TFLOPS	600 W	–	Maelezo →
NVIDIA RTX 5070 Ti	16 GB	Blackwell	≈ 44.3 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX PRO 4000	24 GB	Blackwell	≈ 44.3 TFLOPS	145 W	–	Maelezo →
NVIDIA RTX 4070S Ti	16 GB	Ada Lovelace	≈ 42.6 TFLOPS	285 W	–	Maelezo →
NVIDIA H100 PCIE datacenter	80 GB	Hopper	≈ 41 TFLOPS	350 W	–	Maelezo →
NVIDIA RTX 4500Ada	24 GB	Ada Lovelace	≈ 38.2 TFLOPS	210 W	–	Maelezo →
NVIDIA RTX 3090 Ti	24 GB	Ampere	≈ 36.4 TFLOPS	450 W	–	Maelezo →
NVIDIA RTX A6000	48 GB	Ampere	≈ 36.1 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX 4070S	12 GB	Ada Lovelace	≈ 35.8 TFLOPS	220 W	–	Maelezo →
NVIDIA RTX 3090	24 GB	Ampere	≈ 35.4 TFLOPS	350 W	–	Maelezo →
NVIDIA RTX 3080 Ti	12 GB	Ampere	≈ 35.1 TFLOPS	350 W	–	Maelezo →
NVIDIA A40 datacenter	45 GB	Ampere	≈ 29.9 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX 3080	10 GB	Ampere	≈ 29.5 TFLOPS	380 W	–	Maelezo →
NVIDIA RTX 4070	12 GB	Ada Lovelace	≈ 29.3 TFLOPS	200 W	–	Maelezo →
NVIDIA L4 datacenter	22 GB	Ada Lovelace	≈ 24.2 TFLOPS	72 W	–	Maelezo →
NVIDIA RTX 5060 Ti	16 GB	Blackwell	≈ 22.8 TFLOPS	180 W	–	Maelezo →
NVIDIA RTX 4060 Ti	16 GB	Ada Lovelace	≈ 21.6 TFLOPS	165 W	–	Maelezo →
NVIDIA RTX A4000	16 GB	Ampere	≈ 20.6 TFLOPS	140 W	–	Maelezo →
NVIDIA RTX 3070	8 GB	Ampere	≈ 19.8 TFLOPS	220 W	–	Maelezo →
NVIDIA RTX 3060 Ti	8 GB	Ampere	≈ 15.7 TFLOPS	200 W	–	Maelezo →
NVIDIA A100 PCIE datacenter	40 GB	Ampere	≈ 15.6 TFLOPS	250 W	–	Maelezo →
NVIDIA A100 SXM4 datacenter	40 GB	Ampere	≈ 15.6 TFLOPS	400 W	–	Maelezo →
NVIDIA A800 PCIE datacenter	80 GB	Ampere	≈ 15.6 TFLOPS	300 W	–	Maelezo →
NVIDIA RTX 2080 Ti	11 GB	Turing	≈ 14.6 TFLOPS	250 W	–	Maelezo →
NVIDIA RTX 3060 laptop	12 GB	Ampere	≈ 12.9 TFLOPS	80 W	–	Maelezo →
NVIDIA Tesla V100 datacenter	16 GB	Volta	≈ 12.5 TFLOPS	300 W	–	Maelezo →
NVIDIA CMP 170HX datacenter	64 GB	Ampere	≈ 12.1 TFLOPS	250 W	–	Maelezo →
NVIDIA RTX 3060	12 GB	Ampere	≈ 12 TFLOPS	170 W	–	Maelezo →
NVIDIA Titan Xp	12 GB	Pascal	≈ 11.7 TFLOPS	160 W	–	Maelezo →
NVIDIA RTX A2000	6 GB	Ampere	≈ 11.2 TFLOPS	70 W	–	Maelezo →
NVIDIA GTX 1080 Ti	11 GB	Pascal	≈ 11 TFLOPS	250 W	–	Maelezo →
NVIDIA GTX 1080	8 GB	Pascal	≈ 7.8 TFLOPS	130 W	–	Maelezo →
NVIDIA GTX 1070 Ti	8 GB	Pascal	≈ 7.4 TFLOPS	180 W	–	Maelezo →
NVIDIA GTX 1650	4 GB		≈ undefined TFLOPS	W	–	Maelezo →
NVIDIA Q RTX 8000	45 GB	Turing	≈ 11.9 TFLOPS	250 W	–	Maelezo →
NVIDIA Tesla P40 datacenter	24 GB	Pascal	≈ 9.4 TFLOPS	250 W	–	Maelezo →
NVIDIA RTX 2070S	8 GB	Turing	≈ 8.8 TFLOPS	210 W	–	Maelezo →
NVIDIA Q RTX 4000	8 GB	Turing	≈ 7.7 TFLOPS	125 W	–	Maelezo →
NVIDIA RTX 2070	8 GB	Turing	≈ 7.7 TFLOPS	150 W	–	Maelezo →
NVIDIA RTX 2060S	8 GB	Turing	≈ 7.5 TFLOPS	175 W	–	Maelezo →
NVIDIA GTX TITAN X	12 GB	Maxwell	≈ 6.8 TFLOPS	150 W	–	Maelezo →
NVIDIA RTX 2060	12 GB	Turing	≈ 6.5 TFLOPS	130 W	–	Maelezo →
NVIDIA GTX 1660 Ti	6 GB	Turing	≈ 5.3 TFLOPS	120 W	–	Maelezo →
NVIDIA GTX 1660 S	6 GB	Turing	≈ 3.6 TFLOPS	125 W	–	Maelezo →

Violezo vya GPU kwa ajili ya kazi za AI, LLM na rendering

Uaguzi wa LLM (inference)

vLLM, SGLang au Ollama yenye Open WebUI kwa ajili ya kuhudumia na kujaribu miundo ya lugha.

Urekebishaji mzuri (Fine-tuning)

Unsloth Studio kwa ajili ya kurekebisha vizuri miundo ya lugha kwa kutumia data yako mwenyewe.

Uzalishaji wa picha na video

ComfyUI kwa ajili ya michakato ya Flux, SDXL na video.

Uendelezaji wa PyTorch na CUDA

Picha za mfumo za PyTorch na Ubuntu 24.04 zenye NVIDIA CUDA, zinazofikiwa kupitia SSH.

Desktop au VM kamili

Desktop ya Ubuntu kwenye kivinjari, au mashine pepe kamili ya KVM unapohitaji.

Jinsi ya kukodi seva ya GPU kwa hatua 4

01
Chagua kiolezo na ukubwa wa diski
02
Chagua GPU inayotangamana kutoka kwenye hisa za moja kwa moja
03
Thibitisha bei na uunde seva kutoka kwa salio la akaunti yako
04
Unganisha kupitia SSH au terminal ya kivinjari

Bei na malipo ya GPU cloud

Kwa saa: GPU inatozwa kwa saa wakati seva inafanya kazi. Seva ya saa iliyosimama inatozwa tu kwa diski yake.
Mizunguko ya malipo: kila mwezi, kila robo mwaka, nusu mwaka au kila mwaka, kukiwa na punguzo lolote linaloonyeshwa kabla ya kulipa.
Uhifadhi wa diski unatozwa kwa kila GB pamoja na bei ya GPU.
Bei ziko katika USD; unaweza kuzionyesha kwa VND kwa kiwango cha sasa cha kubadilisha fedha.