A100 SXM4 eller A100 PCIE: vilken ska jag välja?

De angivna specifikationerna för minne, FP32 och bandbredd är identiska: 40 GB, 15.6 TFLOPS och 1313 GB/s. SXM4 körs på 400 W istället för 250 W, så välj den för ihållande tunga jobb och PCIE-kortet när vilket som helst fungerar och du vill ha det billigare tillgängliga alternativet.

Räcker 40 GB för att finjustera en 70B-modell?

Inte med god marginal. 40 GB hanterar LoRA på 7B–13B-modeller och QLoRA på medelstora modeller. För finjustering i 70B-klassen bör du titta på kort med 80 GB och mer, såsom H100 SXM eller H200 NVL.

Har A100 SXM4 stöd för BF16?

Ja. Ampere med compute capability 8.0 har stöd för BF16, vilket är standardprecisionen för de flesta moderna metoder för LLM-träning och finjustering.

Hur faktureras en A100 SXM4-server på Cloudj?

Timbaserade servrar debiteras per timme från ditt kontosaldo medan de körs; för en stoppad timserver betalar du endast för dess lagring. Månadsvisa och längre faktureringsperioder erbjuds också, och eventuella rabatter visas innan du betalar.

GPU Cloud · NVIDIA · Ampere

Hyr en NVIDIA A100 SXM4 GPU med 40 GB VRAM

Hyr A100 SXM4 GPU:er per timme på Cloudj: 40 GB VRAM på NVIDIA Ampere med cirka 1313 GB/s minnesbandbredd och en effektgräns på 400 W för ihållande AI-arbete. Byggd för team som kör långa tränings- eller serving-jobb och vill ha SXM-modulens termiska utrymme, med 15.6 TFLOPS FP32 och compute capability 8.0. Välj en aktiv A100 SXM4-konfiguration, starta från en PyTorch- eller vLLM-mall och anslut via SSH.

Hyr A100 SXM4 Alla GPU:er

Specifikationer för A100 SXM4

VRAM per GPU

40 GB

Arkitektur

NVIDIA Ampere

Beräkningskapacitet

FP32-prestanda

≈ 15.6 TFLOPS

Minnesbandbredd

≈ 1313 GB/s

Effektgräns

400 W

Värden som rapporterats av infrastrukturleverantören för nu listade maskiner; faktisk prestanda kan variera mellan olika maskiner.

Aktuella konfigurationer och priser för A100 SXM4

Aktuellt lager och priser i realtid, uppdateras kontinuerligt. Det slutgiltiga priset bekräftas före beställning.

Hyr nu

Vad du kan köra på moln-GPU:n A100 SXM4

Långvariga träningsjobb

Effektgränsen på 400 W passar fleratimmars BF16-träning där klockfrekvenserna måste hållas stabila från första till sista epoken.

LLM-serving i produktionsmiljö

Driftsätt en 13B-modell i 16-bit eller en kvantiserad modell i 30B-klassen bakom vLLM eller SGLang och testa genomströmningen innan du binder upp infrastruktur.

Instruktionsfinjustering med Unsloth

Kör LoRA eller QLoRA på 7B–13B-modeller med längre sekvenser än vad ett 24 GB-kort tillåter.

Reproduktion av forskningsresultat

Reproducera forskningsrapporter som benchmarkats på hårdvara i A100-klassen med samma Ampere-arkitektur och minnesstorlek.

Är A100 SXM4 rätt GPU för din arbetsbelastning?

Välj 40 GB A100 SXM4 när dina tränings- eller inferenslaster överskrider minnesgränserna för konsument-GPU:er och kräver minnesbandbredd i datacenterklass. Välj en datacenter-GPU med mer VRAM om dina okvantiserade modeller överskrider 40 GB, eller välj ett mindre arbetsstations- eller konsumentkort för lättare inferens och utveckling.

A100 SXM4 jämfört med liknande moln-GPU:er

GPU	VRAM per GPU	FP32-prestanda	Effektgräns
NVIDIA A100 SXM4	40 GB	≈ 15.6 TFLOPS	400 W
NVIDIA A100 PCIE	40 GB	≈ 15.6 TFLOPS	250 W	Detaljer →
NVIDIA A40	45 GB	≈ 29.9 TFLOPS	300 W	Detaljer →
NVIDIA L40S	45 GB	≈ 73.3 TFLOPS	350 W	Detaljer →
NVIDIA Tesla P40	24 GB	≈ 9.4 TFLOPS	250 W	Detaljer →

A100 SXM4 moln-GPU: vanliga frågor och svar

Hyr A100 SXM4 moln-GPU per timme

Välj en mall, välj en aktuell konfiguration och anslut via SSH eller webbläsarterminalen. Debiteringen upphör när du tar bort din GPU.

Hyr A100 SXM4 Alla GPU:er