השכרת GPU מדגם NVIDIA CMP 170HX עם 64 GB VRAM
שכרו שרתי GPU בענן מדגם CMP 170HX לפי שעה ב-Cloudj: נפח של 64 GB VRAM, ארכיטקטורת Ampere ורוחב פס זיכרון של כ-1516 GB/s לעיבוד מבוסס זיכרון (memory-bound). זהו כרטיס מחשוב headless למפתחים שרוחב הפס והנפח חשובים להם יותר מביצועי FP32 נקיים (12.1 TFLOPS, 250 W, compute capability 8.0). הריצו בדיקה קצרה תחילה על תבנית PyTorch או Ollama, ולאחר מכן הרחיבו את עומס העבודה.
מפרט טכני של CMP 170HX
VRAM לכל GPU
64 GB
ארכיטקטורה
NVIDIA Ampere
יכולת חישוב (Compute capability)
8
ביצועי חישוב FP32
≈ 12.1 TFLOPS
רוחב פס זיכרון
≈ 1516 GB/s
מגבלת הספק
250 W
ערכים שנמסרו על ידי ספק התשתית עבור מכונות המוצגות כעת; הביצועים בפועל משתנים ממכונה למכונה.
תצורות ומחירי CMP 170HX בזמן אמת
מלאי ומחירים בזמן אמת, מתעדכנים באופן שוטף. המחיר הסופי מאושר לפני ביצוע ההזמנה.
שכרו עכשיומה אפשר להריץ על ה-GPU בענן מדגם CMP 170HX
הסקה (Inference) מוגבלת רוחב פס
יצירת טוקנים במודלי שפה (LLM) מוגבלת בעיקר על ידי רוחב פס הזיכרון, וקצב של 1516 GB/s נמצא באותו הטווח של כרטיסים מקטגוריית A100.
אירוח מודלי LLM שעברו קוונטיזציה
טענו מודלים מכווצים (quantized) ב-Ollama או ב-llama.cpp וספקו אותם דרך API עבור בדיקות או כלים פנימיים.
ניסויי קרנלים ב-CUDA
בצעו פרופיילינג לקרנלים עתירי זיכרון על כרטיס Ampere עם compute capability 8.0 לפני שתעבירו אותם לחומרה גדולה יותר.
עיבוד נתונים באצוות (Batch)
הזרימו מערכים גדולים דרך זיכרון ה-GPU למשימות טרנספורמציה, hashing או אנליטיקה המוגבלות על ידי גישה לזיכרון.
האם CMP 170HX הוא ה-GPU המתאים לעומסי העבודה שלך?
בחרו ב-CMP 170HX כאשר צוואר הבקבוק בעומס העבודה שלכם נובע מנפח הזיכרון ומרוחב הפס, ולא מעוצמת חישוב גולמית בדרגת דיוק יחידה. בחרו ב-GPU בעל תפוקת חישוב גבוהה יותר אם אתם זקוקים למחזורי אימון מהירים יותר, או בחרו בכרטיס צרכני קטן יותר אם המודלים שלכם אינם זקוקים ל-64 GB של VRAM.
GPU ענן מדגם CMP 170HX: שאלות נפוצות
שכרו GPU ענן מדגם CMP 170HX לפי שעה
בחרו תבנית, בחרו תצורה פעילה והתחברו באמצעות SSH או דרך הטרמינל בדפדפן. החיוב נפסק ברגע שמוחקים את ה-GPU.