השכרת GPU מדגם NVIDIA H100 SXM עם 80 GB VRAM
השכרת שרתי ענן GPU מדגם H100 SXM לפי שעה ב-Cloudj: זיכרון 80 GB VRAM, ארכיטקטורת NVIDIA Hopper, כ-53.5 TFLOPS FP32 ורוחב פס זיכרון של 2869 GB/s. עם מעטפת הספק של 700 W, זהו כרטיס ה-H100 המוביל לצוותים שמאמנים, מכווננים (fine-tune) ומריצים מודלים גדולים (inference), ומחפשים את מודול ה-Hopper המהיר ביותר לעיבוד וחישוב. הרימו תבנית מוכנה של PyTorch, vLLM או Unsloth והתחברו ב-SSH בכמה צעדים פשוטים.
מפרט טכני של H100 SXM
VRAM לכל GPU
80 GB
ארכיטקטורה
NVIDIA Hopper
יכולת חישוב (Compute capability)
9
ביצועי חישוב FP32
≈ 53.5 TFLOPS
רוחב פס זיכרון
≈ 2869 GB/s
מגבלת הספק
700 W
ערכים שנמסרו על ידי ספק התשתית עבור מכונות המוצגות כעת; הביצועים בפועל משתנים ממכונה למכונה.
תצורות ומחירי H100 SXM בזמן אמת
מלאי ומחירים בזמן אמת, מתעדכנים באופן שוטף. המחיר הסופי מאושר לפני ביצוע ההזמנה.
שכרו עכשיומה אפשר להריץ על ה-GPU בענן מדגם H100 SXM
אימון עתיר חישוב
ביצועים של 53.5 TFLOPS FP32 ומעטפת הספק של 700 W מעניקים ל-H100 SXM את עוצמת החישוב הגבוהה ביותר מבין כל כרטיסי ה-Hopper המוצגים כאן.
הסקה מהירה למודלי LLM
רוחב פס של 2869 GB/s מאיץ את קצב ייצור הטוקנים עבור מודלים של 13B–34B ב-16-bit או מודלים מכווצים (quantized) של 70B.
Fine-tuning מלא למודלים של 7B–13B
זיכרון של 80 GB משאיר מקום ל-fine-tuning מלא של כל הפרמטרים במודלי LLM קטנים יותר, ולא רק מתאמים (adapters), בהגדרות אופטימייזר נכונות.
אימון מודלי דיפוזיה ווידאו
אימון או fine-tuning למודלי תמונה ווידאו, שבהם גם הזיכרון וגם כוח העיבוד קובעים את משך הריצה.
האם H100 SXM הוא ה-GPU המתאים לעומסי העבודה שלך?
בחרו ב-H100 SXM כאשר עומסי העבודה שלכם באימון או ב-inference דורשים 80 GB של זיכרון חוות שרתים (datacenter) ברוחב פס גבוה ואת היכולות של ארכיטקטורת Hopper. כרטיס GPU לתחנות עבודה או כרטיס צרכני קטן יותר יהיה בחירה מעשית יותר לפיתוח קל או למודלים קטנים, בעוד שכרטיס datacenter חדיש יותר או בעל קיבולת גבוהה יותר עדיף אם שרת יחיד אינו יכול להכיל את המודל המלא שלכם ב-80 GB של VRAM.
GPU ענן מדגם H100 SXM: שאלות נפוצות
שכרו GPU ענן מדגם H100 SXM לפי שעה
בחרו תבנית, בחרו תצורה פעילה והתחברו באמצעות SSH או דרך הטרמינל בדפדפן. החיוב נפסק ברגע שמוחקים את ה-GPU.