Үндсэн хэсэг рүү очих
Cloudj
GPU Cloud · NVIDIA · Pascal

24 GB VRAM бүхий NVIDIA Tesla P40 GPU түрээслэх

Cloudj дээр Tesla P40 cloud GPU серверийг цагаар түрээслээрэй: NVIDIA Pascal архитектур дээрх 24 GB VRAM, ойролцоогоор 9.4 TFLOPS FP32 ба 257 GB/s санах ойн зурвасын өргөн. Энэ нь 250 W чадлын хязгаартайгаар квантчилсан (quantized) LLM inference, сонирхогчийн төслүүд болон сонгодог CUDA ажлуудад 24 GB санах ой авах хамгийн хэмнэлттэй арга юм. Темплэйтийнхээ CUDA шаардлагыг шалгаад, Ollama эсвэл PyTorch image-ээс эхлүүлэн SSH-ээр шууд холбогдоорой.

Tesla P40 техникийн үзүүлэлтүүд

GPU тус бүрийн VRAM

24 GB

Архитектур

NVIDIA Pascal

Compute capability

6.1

FP32 тооцоолох чадвар

≈ 9.4 TFLOPS

Санах ойн зурвасын өргөн

≈ 257 GB/s

Цахилгаан зарцуулалт (TDP)

250 W

Одоо бүртгэлтэй байгаа машинуудын дэд бүтцийн нийлүүлэгчээс өгсөн үзүүлэлтүүд; бодит гүйцэтгэл төхөөрөмжөөс хамаарч өөр байж болно.

Tesla P40-ийн бодит тохиргоо болон үнэ

Бодит нөөц болон үнэ байнга шинэчлэгдэнэ. Эцсийн үнэ захиалга хийхээс өмнө баталгаажна.

Түрээслэх

Tesla P40 үүлэн GPU дээр юу ажиллуулах боломжтой вэ

Ollama ашиглан квантчилсан LLM ажиллуулах

24 GB санах ойд 4-bit бүхий 30B хүртэлх параметртэй GGUF загварууд багтах бөгөөд энэ нь өнөө үед P40-ийг ашиглах хамгийн тохиромжтой сонголт юм.

Хувийн чат болон RAG прототайпууд

Баримт бичгүүдээ гаднын API руу илгээхгүйгээр дотооддоо найдвартай ажиллуулах хувийн туслах үүсгэхийн тулд Ollama-г Open WebUI-тай хамт ажиллуулаарай.

Сонгодог FP32 тооцооллын ажлууд

Tensor Cores шаарддаггүй хуучны CUDA кодууд, симуляци болон FP32 сургалтуудыг (training) ажиллуулах боломжтой.

Сургалт, дадлага болон судалгааны ажил

Жижиг хэмжээний туршилтууд хийж, GPU сервер, драйвер болон CUDA-тай 24 GB санах ой дээр биечлэн танилцаж туршаарай.

Tesla P40 нь таны ажлын ачаалалд тохирох GPU мөн үү?

Хэрэв таны гол шаардлага бол санах ой их шаарддаг inference эсвэл Pascal архитектур хангалттай байх хөгжүүлэлтийн ажилд зориулсан 24 GB VRAM бол Tesla P40-ийг сонгоорой. Хүнд хэмжээний сургалтад (training) зориулж санах ойн өндөр хурд эсвэл орчин үеийн tensor хурдасгуур шаардлагатай бол илүү шинэ эсвэл хүчирхэг GPU-г, харин таны ажлын ачаалал бага санах ой ашигладаг бол илүү жижиг GPU-г сонгох нь зүйтэй.

Tesla P40 болон төстэй үүлэн GPU-үүдийн харьцуулалт

GPUGPU тус бүрийн VRAMFP32 тооцоолох чадварЦахилгаан зарцуулалт (TDP)
NVIDIA Tesla P4024 GB≈ 9.4 TFLOPS250 W
NVIDIA L422 GB≈ 24.2 TFLOPS72 WДэлгэрэнгүй →
NVIDIA Tesla V10016 GB≈ 12.5 TFLOPS300 WДэлгэрэнгүй →
NVIDIA A100 PCIE40 GB≈ 15.6 TFLOPS250 WДэлгэрэнгүй →
NVIDIA A100 SXM440 GB≈ 15.6 TFLOPS400 WДэлгэрэнгүй →

Tesla P40 үүлэн GPU: түгээмэл асуулт, хариулт

Tesla P40 үүлэн GPU-г цагаар түрээслээрэй

Бэлэн загвар болон тохиргоогоо сонгоод SSH эсвэл хөтчийн терминалаар шууд холбогдоорой. GPU-г устгахад төлбөр тооцоо шууд зогсоно.