NVIDIA HGX — High-Performance GPU Baseboard
NVIDIAs Serverplattform für KI-Training und HPC: mehrere A100/H100/H200-GPUs verbunden über NVLink und NVSwitch auf eine…
NVIDIA HGX (High-Performance GPU Baseboard) ist NVIDIAs Plattform-Standard für KI- und HPC-Server. HGX bündelt mehrere GPUs auf einem gemeinsamen Baseboard und verbindet sie über NVLink und NVSwitch mit extrem hoher Bandbreite — weit mehr als PCIe erlaubt.
HGX-Versionen
- HGX A100: 4 oder 8× NVIDIA A100 GPUs (80 GB HBM2e), NVLink 3.0, bis 600 GB/s GPU-zu-GPU-Bandbreite
- HGX H100: 4 oder 8× H100 (80 GB HBM3), NVLink 4.0, bis 900 GB/s; Standard für LLM-Training
- HGX H200: 8× H200 (141 GB HBM3e) — größerer VRAM für noch größere Modelle (GPT-4-Klasse und darüber)
- HGX B200/B300: Blackwell-Generation ab 2025
Server mit HGX
Dell PowerEdge XE-Serie (z. B. XE9640, XE9680), HPE Cray XD, Supermicro SYS-821GE-TNHR — alle basieren auf dem HGX-Standard. NVIDIA vertreibt das Baseboard an OEM-Partner, die es in eigene Servergehäuse integrieren.