ជួល GPU NVIDIA H100 SXM ដែលមាន 80 GB VRAM
ជួលម៉ាស៊ីន cloud GPU H100 SXM គិតថ្លៃតាមម៉ោងនៅលើ Cloudj៖ 80 GB VRAM, ស្ថាបត្យកម្ម NVIDIA Hopper, កម្លាំងគណនាប្រហែល 53.5 TFLOPS FP32 និងកម្រិតបញ្ជូនអង្គចងចាំ 2869 GB/s។ ជាមួយនឹងដែនកំណត់ថាមពល 700 W នេះជាជម្រើស H100 ដ៏ល្អឥតខ្ចោះសម្រាប់ក្រុមការងារដែលត្រូវការបណ្តុះបណ្តាល (train), fine-tune និងដាក់ដំណើរការម៉ូដែល AI ធំៗ ហើយចង់បានម៉ូឌុល Hopper ដែលមានល្បឿនគណនាលឿនជាងគេបំផុត។ ចាប់ផ្តើមដំណើរការជាមួយ template ដូចជា PyTorch, vLLM ឬ Unsloth ហើយភ្ជាប់តាម SSH ត្រឹមតែប៉ុន្មានជំហានប៉ុណ្ណោះ។
លក្ខណៈបច្ចេកទេស H100 SXM
VRAM ក្នុងមួយ GPU
80 GB
ស្ថាបត្យកម្ម
NVIDIA Hopper
សមត្ថភាពគណនា
9
ការគណនា FP32
≈ 53.5 TFLOPS
កម្រិតបញ្ជូនអង្គចងចាំ
≈ 2869 GB/s
ដែនកំណត់ថាមពល
700 W
តម្លៃដែលបានរាយការណ៍ដោយអ្នកផ្តល់ហេដ្ឋារចនាសម្ព័ន្ធសម្រាប់ម៉ាស៊ីនដែលមានក្នុងបញ្ជីបច្ចុប្បន្ន។ ប្រសិទ្ធភាពជាក់ស្តែងអាចប្រែប្រួលទៅតាមម៉ាស៊ីន។
ជម្រើសកំណត់រចនាសម្ព័ន្ធ និងតម្លៃ H100 SXM ជាក់ស្តែង
ស្តុកជាក់ស្តែង និងតម្លៃត្រូវបានធ្វើបច្ចុប្បន្នភាពជាបន្តបន្ទាប់។ តម្លៃចុងក្រោយនឹងត្រូវបានបញ្ជាក់មុនពេលអ្នកបញ្ជាទិញ។
ជួលឥឡូវនេះអ្វីដែលអ្នកអាចដំណើរការនៅលើ cloud GPU H100 SXM
ការបណ្តុះបណ្តាលដែលត្រូវការកម្លាំងគណនាខ្លាំង
កម្លាំង 53.5 TFLOPS FP32 និងកម្រិតថាមពល 700 W ធ្វើឱ្យ H100 SXM មានកម្លាំងគណនាខ្លាំងជាងគេបំផុតក្នុងចំណោមប្រភេទកាត Hopper ទាំងអស់នៅទីនេះ។
ដំណើរការ LLM inference បានលឿនរហ័ស
កម្រិតបញ្ជូនទិន្នន័យ 2869 GB/s ជួយពន្លឿនការបង្កើត token សម្រាប់ម៉ូដែល 13B–34B ក្នុងកម្រិត 16-bit ឬម៉ូដែល 70B ដែលបាន quantized។
Full fine-tuning សម្រាប់ម៉ូដែល 7B–13B
ទំហំ 80 GB ផ្តល់លទ្ធភាពគ្រប់គ្រាន់សម្រាប់ full-parameter fine-tuning លើម៉ូដែល LLM ខ្នាតតូច មិនមែនត្រឹមតែ adapters នោះទេ នៅពេលកំណត់ optimizer ឱ្យបានត្រឹមត្រូវ។
ការ train ម៉ូដែល Diffusion និងវីដេអូ
Train ឬ fine-tune ម៉ូដែលរូបភាព និងវីដេអូ ដែលទាមទារទាំងទំហំអង្គចងចាំ និងកម្លាំងគណនាខ្ពស់ ដើម្បីកាត់បន្ថយរយៈពេលដំណើរការ។
តើ H100 SXM ជា GPU ដ៏ស័ក្តិសមសម្រាប់បន្ទុកការងាររបស់អ្នកដែរឬទេ?
ជ្រើសរើសយក H100 SXM ប្រសិនបើការងារបណ្តុះបណ្តាល ឬ inference របស់អ្នកត្រូវការអង្គចងចាំ datacenter ល្បឿនលឿនទំហំ 80 GB ព្រមទាំងមុខងារពិសេសៗនៃស្ថាបត្យកម្ម Hopper។ ការប្រើ GPU កម្រិត workstation ឬ consumer ខ្នាតតូចជាងនេះ គឺជាជម្រើសសមស្របជាងសម្រាប់ការអភិវឌ្ឍកម្រិតស្រាល ឬម៉ូដែលតូចៗ ខណៈដែល GPU datacenter ស៊េរីថ្មី ឬមានសមត្ថភាពខ្ពស់ជាងនេះ គឺជាជម្រើសល្អប្រសើរជាង ប្រសិនបើម៉ូដែលទាំងមូលរបស់អ្នកមិនអាចផ្ទុកអស់នៅលើ VRAM ទំហំ 80 GB នៃម៉ាស៊ីនតែមួយ។
H100 SXM ធៀបនឹង cloud GPU ស្រដៀងគ្នា
| GPU | VRAM ក្នុងមួយ GPU | ការគណនា FP32 | ដែនកំណត់ថាមពល | |
|---|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | ព័ត៌មានលម្អិត → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | ព័ត៌មានលម្អិត → |
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | ព័ត៌មានលម្អិត → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | ព័ត៌មានលម្អិត → |
cloud GPU H100 SXM៖ សំណួរដែលសួរញឹកញាប់
ជួល cloud GPU H100 SXM គិតជាម៉ោង
ជ្រើសរើស template, ជ្រើសរើសការកំណត់រចនាសម្ព័ន្ធជាក់ស្តែង ហើយភ្ជាប់តាមរយៈ SSH ឬ browser terminal។ ការគិតប្រាក់នឹងបញ្ឈប់ភ្លាមៗនៅពេលអ្នកលុប GPU។