Tóg GPU NVIDIA H100 SXM ar cíos le 80 GB VRAM
Tóg freastalaithe néal-GPU H100 SXM ar cíos de réir na huaire ar Cloudj: 80 GB VRAM, NVIDIA Hopper, thart ar 53.5 TFLOPS FP32 agus 2869 GB/s de bhandaleithead cuimhne. Le teorainn chumhachta 700 W, seo an H100 d'fhoirne a bhíonn ag traenáil, ag mionchoigeartú agus ag freastal ar mhúnlaí móra ar mian leo an modúl Hopper is sciobtha sa líne le haghaidh ríomhaireachta. Seol teimpléad PyTorch, vLLM nó Unsloth agus ceangail trí SSH i gcúpla céim shimplí.
Sonraíochtaí H100 SXM
VRAM in aghaidh an GPU
80 GB
Ailtireacht
NVIDIA Hopper
Cumas ríomhaireachta
9
Ríomh FP32
≈ 53.5 TFLOPS
Bandaleithead cuimhne
≈ 2869 GB/s
Teorainn chumhachta
700 W
Luachanna tuairiscithe ag an soláthraí bonneagair do mheaisíní atá liostaithe faoi láthair; athraíonn an fheidhmíocht iarbhír de réir an mheaisín.
Cumraíochtaí beo agus praghsanna H100 SXM
Stoc beo agus praghsanna á nuashonrú go leanúnach. Deimhnítear an praghas deiridh sula n-ordaíonn tú.
Tóg ar cíos anoisCad is féidir leat a rith ar an GPU scamall H100 SXM
Traenáil throm ríomhaireachta
Tugann 53.5 TFLOPS FP32 agus teorainn chumhachta 700 W an cumas ríomhaireachta is mó don H100 SXM thar aon chárta Hopper eile atá liostaithe anseo.
Tátal gasta LLM
Cuireann 2869 GB/s de bhandaleithead dlús le giniúint comharthaí (tokens) do mhúnlaí 13B–34B i 16-giotán nó múnlaí cainníochtaithe 70B.
Mionchoigeartú iomlán ar mhúnlaí 7B–13B
Fágann 80 GB go leor spáis do mhionchoigeartú lán-pharaiméadair ar LLManna níos lú, ní hamháin cuibheoirí, leis na socruithe optamóra cearta.
Traenáil múnlaí idirleata agus físe
Traenáil nó mionchoigeartaigh múnlaí íomhá agus físe nuair a bhíonn idir chuimhne agus ríomhaireacht ag socrú cé chomh fada a thógann rith.
An é an H100 SXM an GPU ceart do d'ualach oibre?
Roghnaigh an H100 SXM nuair a theastaíonn 80 GB de chuimhne lárionaid sonraí ard-bhandaleithid agus gnéithe ailtireachta Hopper ó do thascanna oibre traenála nó tátais. Is rogha níos praiticiúla é GPU stáisiún oibre níos lú nó GPU tomhaltóra d'fhorbairt éadrom nó do mhúnlaí beaga, ach is fearr GPU lárionaid sonraí níos nuaí nó le toilleadh níos airde mura féidir le cás aonair do mhúnla ar fad a choinneáil i 80 GB de VRAM.
H100 SXM vs GPUanna scamall cosúla
GPU scamall H100 SXM: ceisteanna coitianta
Cíosaigh an GPU scamall H100 SXM de réir na huaire
Roghnaigh teimpléad, roghnaigh cumraíocht bheo agus ceangail trí SSH nó teirminéal an bhrabhsálaí. Stopann an billeáil nuair a scriosann tú an GPU.