Er Tesla P40 hentugt til að þjálfa nútímalíkön?

Ekki beint. Pascal hefur hvorki Tensor Cores né stuðning við BF16, og FP16-afköstin eru mjög lág, þannig að mixed-precision þjálfun er hægvirk. Notaðu það frekar í quantized-ályktun eða FP32-verkefni; fyrir líkanaþjálfun hentar RTX 3090 eða nýrra kort mun betur.

Hvaða stór mállíkön (LLM) keyra vel á 24 GB?

4-bita GGUF-líkön með allt að um 30B stikum, og 7B–14B líkön í 8-bitum, í gegnum Ollama eða llama.cpp. Búast má við meðalhraða: 257 GB/s takmarkar fjölda tákna á sekúndu.

Virka nýjustu útgáfur af PyTorch og vLLM á Tesla P40?

Það veltur á viðkomandi smíði (build). P40 er með reiknigetu (compute capability) 6.1 og sumar nýlegar útgáfur af CUDA og umhverfum styðja ekki lengur eldri GPU. Sniðmát hjá Cloudj tiltaka lágmarksútgáfu CUDA og bjóða aðeins upp á samhæf GPU.

Tesla P40 á móti RTX 3090: hver er fórnarkostnaðurinn?

Bæði kortin bjóða upp á 24 GB. RTX 3090 er gefið upp með 35.4 TFLOPS og 805 GB/s ásamt nútímalegum Tensor Cores, svo það er mun hraðvirkara. P40 er eldri valkostur þegar 24 GB skipta meira máli en hraði.

GPU Cloud · NVIDIA · Pascal

Leigðu NVIDIA Tesla P40 GPU með 24 GB VRAM

Leigðu Tesla P40 GPU-skýjaþjóna í tímaleigu á Cloudj: 24 GB VRAM á NVIDIA Pascal með um 9.4 TFLOPS FP32 og 257 GB/s minnisbandbreidd. Einföld og hagkvæm leið til að fá 24 GB minni fyrir quantized LLM-keyrslu, áhugamálaverkefni og hefðbundna CUDA-vinnslu, með 250 W aflmarki. Kannaðu CUDA-kröfur sniðmátsins, byrjaðu með Ollama- eða PyTorch-kerfismynd og tengstu með SSH.

Leigja Tesla P40 Öll GPU

Tæknilýsing fyrir Tesla P40

VRAM á hvert GPU

24 GB

Arkitektúr

NVIDIA Pascal

Reiknigeta

6.1

FP32-reiknigeta

≈ 9.4 TFLOPS

Bandvídd minnis

≈ 257 GB/s

Aflmörk

250 W

Gildi gefin upp af innviðaveitanda fyrir vélar sem nú eru á skrá; raunveruleg afköst eru breytileg eftir vélum.

Virkar Tesla P40 uppsetningar og verð

Rauntímabirgðir og verð, uppfært stöðugt. Lokaverð er staðfest áður en þú pantar.

Leigja núna

Hvað þú getur keyrt á Tesla P40 skýja-GPU

Quantized LLM með Ollama

24 GB rúma GGUF-líkön með allt að um 30B stikum í 4-bitum, sem er besta notagildi P40 í dag.

Einkaspjall og RAG-frumgerðir

Keyrðu Ollama með Open WebUI til að fá persónulegan aðstoðarmann yfir skjölin þín án þess að senda gögn í gegnum API.

Hefðbundin FP32-vinnsluálög

Keyrðu eldri CUDA-kóða, hermun og FP32-þjálfun sem reiða sig ekki á Tensor Cores.

Nám og verkefnavinna

Fáðu verklega reynslu af GPU-þjónum, reklum og CUDA á 24 GB minni fyrir smærri tilraunir.

Er Tesla P40 rétta GPU-kortið fyrir þitt vinnuálag?

Veldu Tesla P40 ef aðalkrafan er 24 GB VRAM fyrir minnisfreka ályktun (inference) eða þróunarvinnu þar sem eldri Pascal-reiknigeta dugar. Veldu nýrra eða öflugra GPU ef þú þarft meiri minnisbandbreidd eða nútímalega tensor-hröðun fyrir þunga þjálfun, eða minna GPU ef vinnuálagið krefst lítils minnis.

Tesla P40 samanborið við svipuð skýja-GPU

GPU	VRAM á hvert GPU	FP32-reiknigeta	Aflmörk
NVIDIA Tesla P40	24 GB	≈ 9.4 TFLOPS	250 W
NVIDIA L4	22 GB	≈ 24.2 TFLOPS	72 W	Skoða nánar →
NVIDIA Tesla V100	16 GB	≈ 12.5 TFLOPS	300 W	Skoða nánar →
NVIDIA A100 PCIE	40 GB	≈ 15.6 TFLOPS	250 W	Skoða nánar →
NVIDIA A100 SXM4	40 GB	≈ 15.6 TFLOPS	400 W	Skoða nánar →

Tesla P40 skýja-GPU: Algengar spurningar

Leigðu Tesla P40 skýja-GPU á klukkustund

Veldu sniðmát, veldu virka uppsetningu og tengstu með SSH eða skipanalínu í vafra. Gjaldtaka stöðvast þegar þú eyðir GPU-kortinu.

Leigja Tesla P40 Öll GPU