{"id":1628,"date":"2026-06-14T15:06:30","date_gmt":"2026-06-14T13:06:30","guid":{"rendered":"https:\/\/www.it-resell.com\/blog\/?p=1628"},"modified":"2026-08-19T15:43:27","modified_gmt":"2026-08-19T13:43:27","slug":"gpu-ki-hpc-server-kaufen","status":"publish","type":"post","link":"https:\/\/www.it-resell.com\/blog\/it-kaufberatung\/gpu-ki-hpc-server-kaufen","title":{"rendered":"GPU-, KI- & HPC-Server kaufen 2026: Refurbished oder Neu? Die ehrliche Kaufberatung"},"content":{"rendered":"\n
\u221240 %<\/b>sanken Cloud-GPU-Raten f\u00fcr H100 seit Mitte 2025 \u2013 Sekund\u00e4rmarkt profitiert direkt<\/span><\/div>
75\u201385 %<\/b>Werterhalt einer H100 in den ersten 24 Monaten \u2013 flachste Kurve der Vorgenerationen<\/span><\/div>
96 GB VRAM<\/b>bietet die RTX PRO 6000 Blackwell \u2013 genug f\u00fcr 70B-Modell-Inferenz lokal<\/span><\/div>
700 W TDP<\/b>ben\u00f6tigt eine H100 SXM \u2013 Strom & K\u00fchlung sind 2026 der eigentliche Engpass<\/span><\/div>
50\u201360 %<\/b>Auslastungsschwelle: ab hier ist On-Premise g\u00fcnstiger als Cloud-GPU-Miete<\/span><\/div>
Stufe 1\u20133<\/b>Workstation \u2192 GPU-Server \u2192 HGX-Cluster: die richtige Stufe schl\u00e4gt die gr\u00f6\u00dfte Hardware<\/span><\/div><\/div>\n\n\n\n

Wer 2026 einen GPU-Server kaufen<\/strong> will, steht vor einer Lage, die sich in den letzten zw\u00f6lf Monaten grundlegend ver\u00e4ndert hat: Die neue Blackwell-Generation ist auf Monate ausverkauft, gleichzeitig fallen die Preise f\u00fcr die Vorg\u00e4ngergeneration sp\u00fcrbar. Genau dadurch wird die Frage \u201ePower-Hardware neu oder aufbereitet?\u201c f\u00fcr Unternehmen erstmals wirklich entscheidend \u2013 und sie l\u00e4sst sich nicht pauschal beantworten.
Diese Kaufberatung ordnet den Markt ein, zeigt drei klar abgegrenzte Hardware-Stufen \u2013 von der lokalen KI-Workstation \u00fcber den GPU-Server bis zum HPC-Cluster \u2013 und liefert ein ehrliches Entscheidungsframework f\u00fcr Refurbished gegen Neu. Mit aktuellen Marktzahlen, Komponenten-Checkliste und konkreten Empfehlungen f\u00fcr den deutschen Mittelstand.<\/p>\n\n\n\n

Der GPU-Markt 2026: Warum die Kauffrage neu zu stellen ist<\/strong><\/h2>\n\n\n\n

Der Markt f\u00fcr KI-Beschleuniger ist 2026 zweigeteilt. Auf der einen Seite die neue Blackwell-Generation (B200\/GB200): zeitweise ausverkauft, mit langen Lieferzeiten und entsprechend hohen Preisen. Auf der anderen Seite genau diese Vorg\u00e4ngergeneration: Mit dem Hochlauf von Blackwell sind die Preise f\u00fcr H100- und A100-Hardware unter Druck geraten \u2013 Cloud-Raten fielen teils um 40 % seit Mitte 2025, der Sekund\u00e4rmarkt f\u00fcr aufbereitete Hardware wurde sp\u00fcrbar attraktiver.<\/p>\n\n\n\n

Hinzu kommt ein Faktor, der oft untersch\u00e4tzt wird: Strom. Der limitierende Engpass beim KI-Ausbau ist 2026 weniger die Chip-Verf\u00fcgbarkeit als die verf\u00fcgbare Kilowatt-Leistung im Rechenzentrum. Das verschiebt die Kaufentscheidung von \u201ewelche GPU?“ hin zu \u201ewelche GPU pro Kilowatt?“<\/p>\n\n\n\n

\n

Marktlage 2026 auf einen Blick<\/p>\n

    \n
  • Blackwell (B200\/GB200) zeitweise ausverkauft \u2013 lange Lieferzeiten f\u00fcr Neuware der Top-Generation.<\/li>\n
  • H100\/H200-Preise unter Druck: Cloud-Raten teils \u221240 % seit Mitte 2025, Sekund\u00e4rmarkt deutlich g\u00fcnstiger.<\/li>\n
  • Werterhalt H100: ca. 75\u201385 % in den ersten 24 Monaten, danach 10\u201320 % Wertverlust pro Jahr.<\/li>\n
  • Engpass verschiebt sich von \u201eChips“ zu \u201eKilowatt“ \u2013 Strom & K\u00fchlung werden zum Kaufkriterium.<\/li>\n <\/ul>\n<\/div>\n\n\n\n

    GPU-Server, KI-Server und HPC-Server \u2013 wo liegt der Unterschied?<\/strong><\/h2>\n\n\n\n

    Die Begriffe werden im Vertrieb oft synonym verwendet, meinen aber nicht dasselbe. Ein KI-Server ist ein GPU-Server, der f\u00fcr Machine-Learning-Workloads \u2013 Training oder Inferenz \u2013 optimiert ist. Ein HPC-Server kann GPU-beschleunigt sein, ist aber ebenso oft CPU-dominiert und auf hohe Speicherbandbreite oder spezielle Interconnects (InfiniBand) ausgelegt. F\u00fcr die Kaufentscheidung z\u00e4hlt der Workload, nicht das Label.<\/p>\n\n\n\n

    Formfaktor: SXM gegen PCIe<\/strong><\/p>\n\n\n\n

    Eine der wichtigsten Kaufentscheidungen betrifft den Formfaktor der GPU. PCIe-Karten lassen sich in jedem kompatiblen Server nachr\u00fcsten und sind einfacher handelbar \u2013 auch als Refurbished-Hardware gut verf\u00fcgbar. SXM-GPUs (wie H100 SXM5) sind direkt auf einem Baseboard verl\u00f6tet, bieten h\u00f6here Bandbreite \u00fcber NVLink, sind aber teurer, weniger flexibel und fast ausschlie\u00dflich in Komplettsystemen erh\u00e4ltlich.<\/p>\n\n\n\n

    Die Komponenten jenseits der GPU<\/strong><\/p>\n\n\n\n

    Eine starke GPU allein macht noch keinen guten KI-Server. Entscheidend ist das Zusammenspiel: gen\u00fcgend PCIe-Bandbreite zwischen CPU und GPU, ausreichend Systemspeicher (RAM) f\u00fcr gro\u00dfe Datenbatches, schnelle NVMe-SSDs f\u00fcr das Laden von Modellen und Trainingsdaten sowie eine Netzwerkanbindung, die dem GPU-Durchsatz nicht im Weg steht. Wer diese Punkte bei der Konfiguration \u00fcbersieht, kauft sich einen Flaschenhals.<\/p>\n\n\n\n

    Workstation, GPU-Server oder HPC-Cluster \u2013 welche Stufe passt?<\/strong><\/h2>\n\n\n\n

    Bevor es um Refurbished oder Neu geht, sollten Sie die richtige Gr\u00f6\u00dfenordnung w\u00e4hlen. Viele Unternehmen \u00fcberkaufen \u2013 ein achtfaches HGX-System ist beeindruckend, aber f\u00fcr reine Inferenz vortrainierter Modelle h\u00e4ufig massiv \u00fcberdimensioniert. Drei Stufen decken die meisten B2B-Anforderungen ab:<\/p>\n\n\n\n

    \"Vergleich<\/picture><\/figure>\n\n\n\n

    Die drei Stufen der GPU-Kauf-Leiter f\u00fcr Unternehmen \u2013 von der Workstation bis zum HGX-Cluster. <\/em><\/p>\n\n\n\n

    Stufe 1: Die lokale KI-Workstation<\/strong><\/p>\n\n\n\n

    F\u00fcr Inferenz, Fine-Tuning, RAG-Anwendungen und Entwicklungsarbeit ist eine einzelne professionelle GPU oft ausreichend. Die NVIDIA RTX PRO 6000 Blackwell (96 GB GDDR7) l\u00e4uft lokal, ben\u00f6tigt keine Serverinfrastruktur und ist datenschutzkonform \u2013 Daten verlassen das Unternehmensnetz nicht. F\u00fcr viele KMU ist das der richtige Einstieg.<\/p>\n\n\n\n

    Diese Stufe ist ideal f\u00fcr Teams, die lokal und datenschutzkonform mit KI arbeiten wollen, ohne sofort eine vollst\u00e4ndige Serverinfrastruktur aufzubauen.<\/p>\n\n\n\n

    Stufe 2: Der GPU-Server im Rack<\/strong><\/p>\n\n\n\n

    Wenn mehrere Workloads parallel laufen, Abteilungen zentral versorgt werden oder Inferenz im Dauerbetrieb l\u00e4uft, lohnt der Schritt zum dedizierten GPU-Server. Typische Konfigurationen: 1\u20134 PCIe-GPUs (A100, H100) in einem 1U- oder 2U-Server, guter K\u00fchlung und redundanter Stromversorgung. Refurbished-Hardware ist hier besonders attraktiv: Ein aufbereiteter A100-Server kostet einen Bruchteil der Neuware und liefert f\u00fcr Inferenz-Workloads identische Leistung.<\/p>\n\n\n\n

    Stufe 3: HPC- und HGX-Cluster<\/strong><\/p>\n\n\n\n

    Erst f\u00fcr ernsthaftes Modelltraining oder rechenintensive Simulationen lohnt der Schritt zum HGX-System. Diese Systeme (DGX H100, HGX H200) bestehen aus 8 SXM-GPUs mit NVLink-Verbund, erfordern dediziertes Daten-Center-Know-how, InfiniBand-Netzwerke und erhebliche K\u00fchllast. F\u00fcr die meisten Unternehmen ist Cloud hier die wirtschaftlichere Alternative \u2013 es sei denn, Compliance oder dauerhafte Auslastung erzwingen On-Premise.<\/p>\n\n\n\n

    Welche GPU-Generation? A100, H100, H200 und Blackwell im Vergleich<\/strong><\/h2>\n\n\n\n

    Die Wahl der GPU-Generation entscheidet \u00fcber Preis, Leistung und Werterhalt. Ein \u00dcberblick \u00fcber die relevanten Rechenzentrumsklassen 2026:<\/p>\n\n\n\n\n\n\n