64 GB VRAM সহ NVIDIA CMP 170HX GPU ভাড়া নিন
Cloudj-এ ঘণ্টাপ্রতি ভাড়ায় CMP 170HX ক্লাউড GPU সার্ভার রেন্ট নিন: এতে রয়েছে 64 GB VRAM, Ampere আর্কিটেকচার এবং মেমরি-বাউন্ড কম্পিউটের জন্য প্রায় 1516 GB/s মেমরি ব্যান্ডউইথ। যেসব ডেভেলপার FP32 স্পিডের (12.1 TFLOPS, 250 W, compute capability 8.0) চেয়ে ব্যান্ডউইথ ও ক্যাপাসিটিকে বেশি গুরুত্ব দেন, তাদের জন্য এটি একটি হেডলেস কম্পিউট কার্ড। প্রথমে একটি PyTorch বা Ollama টেমপ্লেটে ছোট টেস্ট চালিয়ে নিন, এরপর কাজের পরিধি বড় করুন।
CMP 170HX স্পেসিফিকেশন
প্রতি GPU-তে VRAM
64 GB
আর্কিটেকচার
NVIDIA Ampere
কম্পিউট ক্যাপাবিলিটি
8
FP32 কম্পিউট
≈ 12.1 TFLOPS
মেমরি ব্যান্ডউইথ
≈ 1516 GB/s
পাওয়ার লিমিট
250 W
বর্তমানে তালিকাভুক্ত মেশিনের জন্য ইনফ্রাস্ট্রাকচার প্রদানকারীর দেওয়া মান; মেশিনভেদে প্রকৃত পারফরম্যান্স ভিন্ন হতে পারে।
লাইভ CMP 170HX কনফিগারেশন এবং মূল্য
লাইভ স্টক ও দাম, ক্রমাগত আপডেট করা হয়। অর্ডার করার আগেই চূড়ান্ত দাম নিশ্চিত করা হয়।
এখনই ভাড়া নিনCMP 170HX ক্লাউড GPU-তে আপনি যা যা রান করতে পারবেন
ব্যান্ডউইথ-বাউন্ড ইনফারেন্স
LLM টোকেন জেনারেশন মূলত মেমরি ব্যান্ডউইথের ওপর নির্ভরশীল, আর এর 1516 GB/s ব্যান্ডউইথ A100-ক্লাসের কার্ডগুলোর সমপর্যায়ের।
কোয়ান্টাইজড LLM হোস্টিং
Ollama বা llama.cpp-তে কোয়ান্টাইজড মডেল লোড করুন এবং টেস্টিং কিংবা ইন্টারনাল টুলের জন্য API-এর মাধ্যমে সার্ভ করুন।
CUDA কার্নেল এক্সপেরিমেন্ট
বড় কোনো হার্ডওয়্যারে নেওয়ার আগে compute capability 8.0 সহ এই Ampere কার্ডে মেমরি-ইনটেনসিভ কার্নেলগুলোর প্রোফাইলিং করে নিন।
ব্যাচ ডেটা প্রসেসিং
মেমরি অ্যাক্সেস-বাউন্ড ট্রান্সফর্ম, হ্যাশিং বা অ্যানালিটিক্স কাজের জন্য GPU মেমরির মধ্য দিয়ে বড় বড় অ্যারে স্ট্রিম করুন।
CMP 170HX কি আপনার ওয়ার্কলোডের জন্য উপযুক্ত GPU?
খাঁটি সিঙ্গেল-প্রিসিশন কম্পিউটের চেয়ে আপনার কাজের চাপ যদি মূলত মেমরি ক্যাপাসিটি এবং ব্যান্ডউইথের সীমাবদ্ধতায় আটকে থাকে, তবে CMP 170HX বেছে নিন। দ্রুত ট্রেনিং ইটারেশনের প্রয়োজন হলে উচ্চ কম্পিউট থ্রুপুটযুক্ত GPU নিন, অথবা আপনার মডেলের জন্য 64 GB VRAM-এর প্রয়োজন না হলে আরও ছোট কনজিউমার কার্ড বেছে নিন।
CMP 170HX বনাম সমমানের ক্লাউড GPU
| GPU | প্রতি GPU-তে VRAM | FP32 কম্পিউট | পাওয়ার লিমিট | |
|---|---|---|---|---|
| NVIDIA CMP 170HX | 64 GB | ≈ 12.1 TFLOPS | 250 W | |
| NVIDIA A800 PCIE | 80 GB | ≈ 15.6 TFLOPS | 300 W | বিস্তারিত → |
| NVIDIA H100 PCIE | 80 GB | ≈ 41 TFLOPS | 350 W | বিস্তারিত → |
| NVIDIA H100 SXM | 80 GB | ≈ 53.5 TFLOPS | 700 W | বিস্তারিত → |
| NVIDIA A40 | 45 GB | ≈ 29.9 TFLOPS | 300 W | বিস্তারিত → |
CMP 170HX ক্লাউড GPU: সাধারণ প্রশ্নোত্তর
ঘণ্টা হিসেবে CMP 170HX ক্লাউড GPU ভাড়া নিন
একটি টেমপ্লেট বেছে নিন, লাইভ কনফিগারেশন সিলেক্ট করুন এবং SSH বা ব্রাউজার টার্মিনাল দিয়ে কানেক্ট করুন। GPU ডিলিট করলেই বিলিং বন্ধ হয়ে যাবে।