NVIDIA H200 GPU
Nachfolger der H100: 141 GB HBM3e VRAM (vs. 80 GB beim H100) — optimiert für sehr große Sprachmodelle, die nicht in den…
Die NVIDIA H200 ist eine Beschleuniger-GPU auf Basis der Hopper-Architektur — baugleich mit der H100, aber mit deutlich mehr und schnellerem Speicher:
- VRAM: 141 GB HBM3e (vs. 80 GB HBM3 beim H100)
- Speicherbandbreite: 4,8 TB/s (vs. 3,35 TB/s)
- Rechenleistung: Identisch zur H100 (keine neuen Recheneinheiten)
- Formfaktor: SXM5 (HGX-Baseboard) und PCIe
Wann H200 statt H100?
Der entscheidende Vorteil liegt im VRAM: Modelle mit mehr als ~70 Milliarden Parametern passen nicht auf eine einzelne H100. Mit der H200 können größere Modelle auf weniger GPUs ausgeführt werden — das reduziert die Inter-GPU-Kommunikation und beschleunigt Inferenz. Für LLM-Anbieter (RAG, Fine-Tuning, Batch-Inferenz) ist der H200 daher die Referenzplattform ab 2025.
Passende Blog-Beiträge
