የNVIDIA H100 SXM GPU ከ80 GB VRAM ጋር ይከራዩ
የH100 SXM ክላውድ GPU ሰርቨሮችን በሰዓት በCloudj ይከራዩ፡ 80 GB VRAM፣ NVIDIA Hopper፣ ወደ 53.5 TFLOPS FP32 እና 2869 GB/s የማህደረ ትውስታ ባንድዊድዝ። በ700 W የኃይል ገደብ፣ ይህ H100 ግዙፍ ሞዴሎችን ለሚያሰለጥኑ፣ fine-tune ለሚያደርጉና ለሚያሰማሩ፣ እንዲሁም ለስሌት ፈጣኑን የHopper ሞጁል በዝርዝሩ ውስጥ ለሚፈልጉ ቡድኖች ተመራጭ ነው። የPyTorch፣ vLLM ወይም Unsloth ቴምፕሌትን ያስጀምሩና በጥቂት እርምጃዎች በSSH ይገናኙ።
H100 SXM ዝርዝር መግለጫዎች
VRAM በእያንዳንዱ GPU
80 GB
አርክቴክቸር
NVIDIA Hopper
የስሌት አቅም (Compute capability)
9
የ FP32 ስሌት
≈ 53.5 TFLOPS
የሜሞሪ ባንድዊድዝ
≈ 2869 GB/s
የሃይል ገደብ
700 W
በአሁኑ ጊዜ በዝርዝሩ ውስጥ ላሉ ማሽኖች በመሰረተ-ልማት አቅራቢው የተገለጹ እሴቶች፤ ትክክለኛው አፈጻጸም እንደ ማሽኑ ሊለያይ ይችላል።
የወቅቱ የH100 SXM ኮንፊገሬሽኖች እና ዋጋዎች
የቀጥታ ክምችት እና ዋጋዎች ያለማቋረጥ ይዘመናሉ። ትዕዛዝዎን ከማረጋገጥዎ በፊት የመጨረሻው ዋጋ ይታወቃል።
አሁን ይከራዩበH100 SXM ክላውድ GPU ላይ ምን ማስኬድ ይችላሉ?
ከፍተኛ ስሌት የሚጠይቅ ስልጠና
53.5 TFLOPS FP32 እና የ700 W የኃይል ገደብ H100 SXM እዚህ ከተዘረዘሩት ማንኛውም የHopper ካርዶች የላቀ የስሌት አቅም እንዲኖረው ያደርጉታል።
ፈጣን የLLM ኢንፈረንስ
2869 GB/s ባንድዊድዝ ለ13B–34B ሞዴሎች በ16-bit ወይም ለquantized 70B ሞዴሎች የቶከን ማመንጨት ሂደትን ያፋጥናል።
የ7B–13B ሞዴሎች ሙሉ fine-tuning
80 GB በትክክለኛ የoptimizer ቅንብሮች ከአዳፕተሮች በተጨማሪ ለአነስተኛ LLMs ሙሉ-ፓራሜትር fine-tuning በቂ ቦታ ይሰጣል።
የDiffusion እና ቪዲዮ ሞዴሎች ስልጠና
የስራውን የቆይታ ጊዜ ማህደረ ትውስታም ሆነ የስሌት አቅም በሚወስኑባቸው የምስል እና ቪዲዮ ሞዴሎች ላይ ስልጠና ወይም fine-tuning ያካሂዱ።
H100 SXM ለእርስዎ የሥራ ጫና ትክክለኛው GPU ነው?
የስልጠና ወይም የኢንፈረንስ ስራዎችዎ 80 GB ከፍተኛ ባንድዊድዝ ያለው የዳታ ሴንተር ማህደረ ትውስታ እና የHopper አርክቴክቸር ባህሪያትን የሚሹ ከሆነ H100 SXMን ይምረጡ። አነስተኛ ዎርክስቴሽን ወይም የሸማች GPU ለቀላል ልማት ወይም ለአነስተኛ ሞዴሎች ይበልጥ ተግባራዊ ምርጫ ሲሆን፣ አንድ ኢንስታንስ ሙሉ ሞዴልዎን በ80 GB VRAM ውስጥ መያዝ የማይችል ከሆነ አዲስ ወይም ከፍተኛ አቅም ያለው የዳታ ሴንተር GPU ይመረጣል።
H100 SXM ክላውድ GPU፡ በተደጋጋሚ የሚጠየቁ ጥያቄዎች
H100 SXM ክላውድ GPUን በሰዓት ይከራዩ
ቴምፕሌት ይምረጡ፣ የወቅቱን ኮንፊገሬሽን ይምረጡ እና በSSH ወይም በብሮውዘር ተርሚናል ይገናኙ። GPUውን ሲሰርዙ ክፍያ ይቆማል።