22 GB VRAM সহ NVIDIA L4 GPU ভাড়া নিন
Cloudj-এ ঘণ্টাপ্রতি ভাড়ায় নিন L4 ক্লাউড GPU সার্ভার: মাত্র 72 W পাওয়ার লিমিটে পাবেন 22 GB VRAM, Ada Lovelace আর্কিটেকচার এবং প্রায় 24.2 TFLOPS FP32। এটি সেইসব ডেভেলপারদের জন্য আদর্শ, যারা কোনো ফ্ল্যাগশিপ কার্ডের অতিরিক্ত খরচ ছাড়াই 8–16 GB কার্ডের চেয়ে বেশি মেমরি চান এবং সাশ্রয়ী ইনফারেন্স, ট্রান্সক্রিপশন, এমবেডিংস ও ভিডিও পাইপলাইন চালাতে চান। PyTorch, vLLM বা Ollama টেমপ্লেট দিয়ে নিমেষেই শুরু করুন এবং SSH-এর মাধ্যমে কানেক্ট করুন।
L4 স্পেসিফিকেশন
প্রতি GPU-তে VRAM
22 GB
আর্কিটেকচার
NVIDIA Ada Lovelace
কম্পিউট ক্যাপাবিলিটি
8.9
FP32 কম্পিউট
≈ 24.2 TFLOPS
মেমরি ব্যান্ডউইথ
≈ 221 GB/s
পাওয়ার লিমিট
72 W
বর্তমানে তালিকাভুক্ত মেশিনের জন্য ইনফ্রাস্ট্রাকচার প্রদানকারীর দেওয়া মান; মেশিনভেদে প্রকৃত পারফরম্যান্স ভিন্ন হতে পারে।
লাইভ L4 কনফিগারেশন এবং মূল্য
লাইভ স্টক ও দাম, ক্রমাগত আপডেট করা হয়। অর্ডার করার আগেই চূড়ান্ত দাম নিশ্চিত করা হয়।
এখনই ভাড়া নিনL4 ক্লাউড GPU-তে আপনি যা যা রান করতে পারবেন
16-bit-এ 7B–8B LLM
22 GB মেমরিতে চ্যাটবট, এজেন্ট এবং ইন্টারনাল API-এর জন্য 16-bit-এর একটি 8B মডেল অথবা একটি কোয়ান্টাইজড 13B–14B মডেল অনায়াসেই চালানো যায়।
স্পিচ-টু-টেক্সট এবং এমবেডিংস
একটি লো-পাওয়ার কার্ডেই সার্বক্ষণিক (24/7) চালান Whisper-স্টাইলের ট্রান্সক্রিপশন, রি-র্যাংকার এবং এমবেডিং মডেল।
SDXL ইমেজ জেনারেশন
FP8 বা GGUF ফরম্যাটে SDXL এবং Flux সহ ComfyUI খুব স্বাচ্ছন্দ্যে 22 GB-তে ফিট হয়ে যায়।
অলওয়েজ-অন ইনফারেন্স এন্ডপয়েন্ট
মাত্র 72 W পাওয়ার লিমিটের কারণে L4 এমন সব ছোট সার্ভিসের জন্য একটি বাস্তবসম্মত কার্ড, যেগুলোর সাময়িক স্পাইকের বদলে সার্বক্ষণিক সচল থাকা প্রয়োজন।
L4 কি আপনার ওয়ার্কলোডের জন্য উপযুক্ত GPU?
ইনফারেন্স বা মাঝারি মানের ট্রেনিং ওয়ার্কলোডের জন্য যখন আপনার 22 GB VRAM এবং Ada Lovelace কম্পিউট ক্যাপাবিলিটি 8.9 প্রয়োজন, তখন L4 বেছে নিন। আপনার মডেল যদি 22 GB ছাড়িয়ে যায় বা প্রায় 221 GB/s-এর বেশি মেমরি ব্যান্ডউইথ প্রয়োজন হয়, তবে আরও বড় ডেটাসেন্টার GPU-তে আপগ্রেড করুন; অথবা কম মেমরি প্রয়োজন এমন বেসিক ডেভেলপমেন্ট কাজের জন্য ছোট কোনো কার্ড বেছে নিন।
L4 বনাম সমমানের ক্লাউড GPU
| GPU | প্রতি GPU-তে VRAM | FP32 কম্পিউট | পাওয়ার লিমিট | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | বিস্তারিত → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | বিস্তারিত → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | বিস্তারিত → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | বিস্তারিত → |
L4 ক্লাউড GPU: সাধারণ প্রশ্নোত্তর
ঘণ্টা হিসেবে L4 ক্লাউড GPU ভাড়া নিন
একটি টেমপ্লেট বেছে নিন, লাইভ কনফিগারেশন সিলেক্ট করুন এবং SSH বা ব্রাউজার টার্মিনাল দিয়ে কানেক্ট করুন। GPU ডিলিট করলেই বিলিং বন্ধ হয়ে যাবে।