იქირავეთ NVIDIA L4 GPU 22 GB VRAM-ით
იქირავეთ L4 ღრუბლოვანი GPU სერვერები საათობრივად Cloudj-ზე: 22 GB VRAM, Ada Lovelace-ის არქიტექტურა და დაახლოებით 24.2 TFLOPS FP32 სულ რაღაც 72 W ენერგომოხმარებით. ის იდეალურად ერგება დეველოპერებს, რომლებიც უშვებენ ეფექტურ inference-ს, ტრანსკრიფციას, embedding-ებსა და ვიდეო დამუშავების პროცესებს და სურთ 8–16 GB ბარათზე მეტი მეხსიერება ფლაგმანური ფასის გადახდის გარეშე. დაიწყეთ PyTorch, vLLM ან Ollama შაბლონით და დაუკავშირდით SSH-ით.
L4-ის სპეციფიკაციები
VRAM თითოეულ GPU-ზე
22 GB
არქიტექტურა
NVIDIA Ada Lovelace
Compute capability
8.9
FP32 გამოთვლები
≈ 24.2 TFLOPS
მეხსიერების გამტარობა
≈ 221 GB/s
სიმძლავრის ლიმიტი (TDP)
72 W
მნიშვნელობები მოწოდებულია ინფრასტრუქტურის პროვაიდერის მიერ ამჟამად განთავსებული სერვერებისთვის; რეალური წარმადობა შეიძლება განსხვავდებოდეს კონკრეტული აპარატურის მიხედვით.
L4-ის მიმდინარე კონფიგურაციები და ფასები
მარაგები და ფასები განახლებადია რეალურ დროში. საბოლოო ფასის დადასტურება ხდება შეკვეთამდე.
იქირავეთ ახლავერა შეგიძლიათ გაუშვათ L4 ღრუბლოვან GPU-ზე
7B–8B LLM მოდელები 16-bit-ში
22 GB თავისუფლად იტევს 8B მოდელს 16-bit-ში ან დაკვანტულ 13B–14B მოდელს ჩატბოტებისთვის, AI აგენტებისა და შიდა API-ებისთვის.
Speech-to-text და embedding-ები
გაუშვით Whisper-ის ტიპის ტრანსკრიფცია, reranker-ები და embedding მოდელები 24/7 რეჟიმში დაბალი ენერგომოხმარების ბარათზე.
SDXL გამოსახულების გენერაცია
ComfyUI, SDXL და Flux (FP8 ან GGUF ფორმატში) სრულიად თავისუფლად თავსდება 22 GB მეხსიერებაში.
მუდმივად აქტიური inference endpoint-ები
72 W ენერგომოხმარების ლიმიტი L4-ს გონივრულ არჩევნად აქცევს მცირე სერვისებისთვის, რომლებსაც პიკური დატვირთვის ნაცვლად მუდმივი ხელმისაწვდომობა სჭირდებათ.
არის თუ არა L4 შესაფერისი GPU თქვენი დატვირთვისთვის?
აირჩიეთ L4, როდესაც გჭირდებათ 22 GB VRAM და Ada Lovelace compute capability 8.9 inference-ისთვის ან ზომიერი წვრთნის (training) დავალებებისთვის. გადადით უფრო მძლავრ დატაცენტრის GPU-ზე, თუ თქვენი მოდელები 22 GB-ს აღემატება ან დაახლოებით 221 GB/s-ზე მეტი მეხსიერების გამტარუნარიანობა სჭირდება, ან აირჩიეთ შედარებით პატარა ბარათი საბაზისო დეველოპერული ამოცანებისთვის, რომლებიც ნაკლებ მეხსიერებას მოითხოვს.
L4 vs მსგავსი ღრუბლოვანი GPU-ები
| GPU | VRAM თითოეულ GPU-ზე | FP32 გამოთვლები | სიმძლავრის ლიმიტი (TDP) | |
|---|---|---|---|---|
| NVIDIA L4 | 22 GB | ≈ 24.2 TFLOPS | 72 W | |
| NVIDIA Tesla P40 | 24 GB | ≈ 9.4 TFLOPS | 250 W | დეტალები → |
| NVIDIA Tesla V100 | 16 GB | ≈ 12.5 TFLOPS | 300 W | დეტალები → |
| NVIDIA A100 PCIE | 40 GB | ≈ 15.6 TFLOPS | 250 W | დეტალები → |
| NVIDIA A100 SXM4 | 40 GB | ≈ 15.6 TFLOPS | 400 W | დეტალები → |
L4 ღრუბლოვანი GPU: ხშირად დასმული კითხვები
იქირავეთ L4 ღრუბლოვანი GPU საათობრივად
აირჩიეთ შაბლონი, შეარჩიეთ ხელმისაწვდომი კონფიგურაცია და დაუკავშირდით SSH-ით ან ბრაუზერის ტერმინალით. გადახდა ჩერდება GPU-ის წაშლისთანავე.