SXM — Server Module Form Factor (NVIDIA)
NVIDIAs hochdichter GPU-Formfaktor für Server-Baseboards (HGX): SXM-GPUs sind über NVLink verbunden und erreichen wesent…
SXM (Server PCI Express Module) ist NVIDIAs proprietärer GPU-Steckverbinder für den Einsatz auf HGX-Baseboards. SXM-GPUs (z. B. A100 SXM, H100 SXM5) sind nicht in einem Standard-PCIe-Slot verwendbar, sondern werden direkt auf das HGX-Baseboard gelötet/gesteckt.
SXM vs. PCIe
| Merkmal | PCIe-Karte | SXM |
|---|---|---|
| Formfaktor | Standard PCIe x16 | Proprietäres Baseboard |
| NVLink | Nein (nur GPU-zu-GPU per PCIe) | Ja (NVLink/NVSwitch) |
| TDP / Leistung | 300–350 W | 400–700 W |
| Bandbreite (GPU↔GPU) | ~64 GB/s (PCIe 5.0 ×16) | ~900 GB/s (H100 NVLink 4.0) |
| Einsatz | Inferenz, Workstations | LLM-Training, HPC |
Für großes KI-Training ist SXM technisch notwendig — PCIe-Varianten (z. B. H100 PCIe) sind für Inferenz und kleinere Trainingsläufe gedacht.