ជួល GPU NVIDIA Tesla P40 ដែលមាន 24 GB VRAM
ជួល cloud GPU server ប្រភេទ Tesla P40 គិតថ្លៃតាមម៉ោងនៅលើ Cloudj៖ VRAM ទំហំ 24 GB លើស្ថាបត្យកម្ម NVIDIA Pascal ជាមួយកម្លាំងប្រហែល 9.4 TFLOPS FP32 និង memory bandwidth ទំហំ 257 GB/s។ នេះជាជម្រើសសន្សំសំចៃបំផុតដើម្បីទទួលបានអង្គចងចាំ 24 GB សម្រាប់ដំណើរការ quantized LLM inference គម្រោងសាកល្បងផ្ទាល់ខ្លួន និងការងារ CUDA បែបបុរាណ ជាមួយកម្រិតថាមពលត្រឹមតែ 250 W។ ពិនិត្យមើលតម្រូវការ CUDA របស់ template ចាប់ផ្ដើមដំណើរការពី image របស់ Ollama ឬ PyTorch ហើយភ្ជាប់ទំនាក់ទំនងតាមរយៈ SSH។
លក្ខណៈបច្ចេកទេស Tesla P40
VRAM ក្នុងមួយ GPU
24 GB
ស្ថាបត្យកម្ម
NVIDIA Pascal
សមត្ថភាពគណនា
6.1
ការគណនា FP32
≈ 9.4 TFLOPS
កម្រិតបញ្ជូនអង្គចងចាំ
≈ 257 GB/s
ដែនកំណត់ថាមពល
250 W
តម្លៃដែលបានរាយការណ៍ដោយអ្នកផ្តល់ហេដ្ឋារចនាសម្ព័ន្ធសម្រាប់ម៉ាស៊ីនដែលមានក្នុងបញ្ជីបច្ចុប្បន្ន។ ប្រសិទ្ធភាពជាក់ស្តែងអាចប្រែប្រួលទៅតាមម៉ាស៊ីន។
ជម្រើសកំណត់រចនាសម្ព័ន្ធ និងតម្លៃ Tesla P40 ជាក់ស្តែង
ស្តុកជាក់ស្តែង និងតម្លៃត្រូវបានធ្វើបច្ចុប្បន្នភាពជាបន្តបន្ទាប់។ តម្លៃចុងក្រោយនឹងត្រូវបានបញ្ជាក់មុនពេលអ្នកបញ្ជាទិញ។
ជួលឥឡូវនេះអ្វីដែលអ្នកអាចដំណើរការនៅលើ cloud GPU Tesla P40
ដំណើរការ Quantized LLMs ជាមួយ Ollama
ទំហំ 24 GB អាចផ្ទុកម៉ូដែល GGUF រហូតដល់ប្រហែល 30B parameters នៅកម្រិត 4-bit ដែលជាការប្រើប្រាស់ដ៏ល្អបំផុតរបស់ P40 នាពេលបច្ចុប្បន្ន។
ការបង្កើត Chat ផ្ទាល់ខ្លួន និងគំរូ RAG សាកល្បង
ដំណើរការ Ollama ជាមួយ Open WebUI ដើម្បីបង្កើតជំនួយការផ្ទាល់ខ្លួនលើឯកសាររបស់អ្នក ដោយមិនបាច់បញ្ជូនទិន្នន័យទៅកាន់ API ខាងក្រៅឡើយ។
ការងារគណនា FP32 បែបបុរាណ
ដំណើរការកូដ CUDA ជំនាន់មុន ការក្លែងធ្វើ (simulations) និងការបណ្តុះបណ្តាល FP32 ដែលមិនពឹងផ្អែកលើ Tensor Cores។
ការសិក្សាស្រាវជ្រាវ និងការងារសាលា
អនុវត្តផ្ទាល់លើ GPU server, driver និង CUDA ជាមួយអង្គចងចាំ 24 GB សម្រាប់ការពិសោធន៍ខ្នាតតូច។
តើ Tesla P40 ជា GPU ដ៏ស័ក្តិសមសម្រាប់បន្ទុកការងាររបស់អ្នកដែរឬទេ?
ជ្រើសរើស Tesla P40 ប្រសិនបើតម្រូវការចម្បងរបស់អ្នកគឺ VRAM ទំហំ 24 GB សម្រាប់កិច្ចការ inference ឬការអភិវឌ្ឍដែលត្រូវការអង្គចងចាំធំ ហើយកម្លាំងគណនារបស់ Pascal ជំនាន់មុនគឺគ្រប់គ្រាន់។ ជ្រើសរើស GPU ជំនាន់ថ្មីជាង ឬធំជាង ប្រសិនបើអ្នកត្រូវការ memory bandwidth ខ្ពស់ជាងនេះ ឬមុខងារបង្កើនល្បឿន tensor ទំនើបសម្រាប់ការបណ្តុះបណ្តាលកម្រិតធ្ងន់ ឬជ្រើសរើស GPU តូចជាងនេះ ប្រសិនបើការងាររបស់អ្នកប្រើប្រាស់អង្គចងចាំតិច។
Tesla P40 ធៀបនឹង cloud GPU ស្រដៀងគ្នា
| GPU | VRAM ក្នុងមួយ GPU | ការគណនា FP32 | ដែនកំណត់ថាមពល | |
|---|---|---|---|---|
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | |
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | ព័ត៌មានលម្អិត → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | ព័ត៌មានលម្អិត → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | ព័ត៌មានលម្អិត → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | ព័ត៌មានលម្អិត → |
cloud GPU Tesla P40៖ សំណួរដែលសួរញឹកញាប់
ជួល cloud GPU Tesla P40 គិតជាម៉ោង
ជ្រើសរើស template, ជ្រើសរើសការកំណត់រចនាសម្ព័ន្ធជាក់ស្តែង ហើយភ្ជាប់តាមរយៈ SSH ឬ browser terminal។ ការគិតប្រាក់នឹងបញ្ឈប់ភ្លាមៗនៅពេលអ្នកលុប GPU។