94 GB VRAM உடன் NVIDIA H100 NVL GPU வாடகைக்கு எடுக்கவும்
Cloudj-இல் மணிநேர அடிப்படையில் H100 NVL கிளவுட் GPU சர்வர்களை வாடகைக்கு எடுங்கள்: பெரிய மாடல் இன்ஃபெரன்ஸுக்கு 94 GB VRAM, NVIDIA Hopper மற்றும் சுமார் 3381 GB/s மெமரி பேண்ட்விட்த். 80 GB H100-ஐ விட அதிக மெமரி மற்றும் அதிவேக டிகோடிங் தேவைப்படும் LLM குழுக்களுக்காக பிரத்யேகமாக உருவாக்கப்பட்டது; இது 400 W பவர் வரம்பில் 48.3 TFLOPS FP32 செயல்திறனை வழங்குகிறது. vLLM அல்லது SGLang டெம்ப்ளேட்டைத் தொடங்கி, நேரடி H100 NVL கட்டமைப்பைத் தேர்ந்தெடுத்து, SSH மூலம் உடனடியாக இணையுங்கள்.
H100 NVL விவரக்குறிப்புகள்
ஒரு GPU-க்கான VRAM
94 GB
ஆர்க்கிடெக்ச்சர்
NVIDIA Hopper
கம்ப்யூட் திறன் (Compute capability)
9
FP32 கம்ப்யூட்
≈ 48.3 TFLOPS
மெமரி பேண்ட்வித்
≈ 3381 GB/s
பவர் லிமிட்
400 W
தற்போது பட்டியலிடப்பட்டுள்ள கணினிகளுக்கான தகவல்கள் உள்கட்டமைப்பு வழங்குநரால் தெரிவிக்கப்பட்டவை; உண்மையான செயல்திறன் கணினிக்கு ஏற்ப மாறுபடலாம்.
நேரடி H100 NVL உள்ளமைவுகள் மற்றும் கட்டணங்கள்
நேரடி இருப்பு மற்றும் விலைகள் தொடர்ந்து புதுப்பிக்கப்படுகின்றன. ஆர்டர் செய்வதற்கு முன் இறுதி விலை உறுதிப்படுத்தப்படும்.
இப்போதே வாடகைக்கு எடுக்கவும்H100 NVL கிளவுட் GPU-வில் நீங்கள் எவற்றை இயக்கலாம்
அதிவேக (High-throughput) LLM சர்விங்
3381 GB/s பேண்ட்விட்த் டோக்கன் உருவாக்கத்தை விரைவுபடுத்துகிறது; மேலும் 94 GB மெமரி குவாண்டைஸ் செய்யப்பட்ட 70B மாடல் மற்றும் பெரிய KV கேச் ஆகியவற்றை ஒரே GPU-இல் இயக்க அனுமதிக்கிறது.
நீண்ட கான்டெக்ஸ்ட் மற்றும் RAG பைப்லைன்கள்
80 GB கார்டை விடக் கிடைக்கும் கூடுதல் 14 GB, நேரடியாக கான்டெக்ஸ்ட் நீளத்திற்கும் ஒரே நேரத்தில் வரும் கோரிக்கைகளுக்கும் (concurrent requests) பயன்படுகிறது.
30B–70B மாடல்களின் ஃபைன்-டியூனிங்
ஒரே Hopper GPU-வில் Unsloth மூலம் 30B-வகை மாடல்களை BF16-லும், 70B-வகை மாடல்களை QLoRA-விலும் எளிதாக இயக்குங்கள்.
பெரிய அளவில் மாடல் மதிப்பீடு (Evaluation at scale)
செக்பாயிண்ட்கள் முழுவதும் பெஞ்ச்மார்க் தொகுப்புகள் மற்றும் A/B மதிப்பீடுகளை விரைவாக இயக்கிவிட்டு, மதிப்பெண்கள் கிடைத்ததும் சர்வரை நீக்கிவிடுங்கள்.
H100 NVL உங்கள் பணிச்சுமைக்கு ஏற்ற சரியான GPU-வா?
நிலையான டேட்டாசென்டர் கார்டுகள் வழங்குவதை விட அதிக மெமரி (94 GB VRAM வரை) தேவைப்படும் AI அல்லது கணினி பணிச்சுமைகளுக்கு H100 NVL-ஐத் தேர்வுசெய்யுங்கள். இலகுவான இன்ஃபெரன்ஸ் மற்றும் உருவாக்கப் பணிகளுக்கு சிறிய பணிநிலையம் (workstation) அல்லது வாடிக்கையாளர் GPU சிறந்த தேர்வாகும்; அதே சமயம் உங்கள் மாடல்கள் 94 GB-க்கு மேல் இருந்தால் மல்டி-GPU கட்டமைப்பு அல்லது பெரிய மெமரி அடுக்கு அவசியமாகும்.
H100 NVL vs ஒத்த கிளவுட் GPU-கள்
| GPU | ஒரு GPU-க்கான VRAM | FP32 கம்ப்யூட் | பவர் லிமிட் | |
|---|---|---|---|---|
| NVIDIA H100 NVL | 94 GB | ≈ 48.3 TFLOPS | 400 W | |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | விவரங்கள் → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | விவரங்கள் → |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | விவரங்கள் → |
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | விவரங்கள் → |
H100 NVL கிளவுட் GPU: அடிக்கடி கேட்கப்படும் கேள்விகள்
H100 NVL கிளவுட் GPU-வை மணிநேர அடிப்படையில் வாடகைக்கு எடுங்கள்
ஒரு டெம்ப்ளேட்டைத் தேர்ந்தெடுங்கள், நேரடி உள்ளமைவைத் தேர்வுசெய்து SSH அல்லது பிரவுசர் டெர்மினல் மூலம் இணையுங்கள். நீங்கள் GPU-வை நீக்கியதும் கட்டணம் வசூலிப்பது நிறுத்தப்படும்.