NVIDIA hat 72 Blackwell Ultra-Grafikprozessoren und 36 Grace-CPUs zu einer flüssigkeitsgekühlten Rack-Scale-Einheit zusammengefügt, die etwa 120 kW verbraucht und mit dem GB300 NVL72 1,1 exaFLOPS FP4-Rechenleistung liefert - 1,5 Mal mehr KI-Leistung als der ursprüngliche GB200 NVL72 (NVIDIA, 2025). Ein einziger Schrank ändert alle Annahmen über Stromversorgung, Kühlung und Verkabelung in modernen Rechenzentren. Im Folgenden erfahren Sie, was die Techniker bei der Vorbereitung der ersten GB300 NVL72-Produktionslieferungen lernen.

1. Zerlegen des Gestells

KomponentenAnzahlSchlüsselspezifikationenStromverbrauchQuelleGrace-Blackwell Compute Trays18~6,5 kW pro Stück117 kW insgesamtSupermicro 2025NVLink-5 Switch Trays9130 TB/s aggregierte Fabric3,6 kW insgesamtSupermicro 2025Power Shelves8132 kW DC-Gesamtleistung0,8 kW OverheadSupermicro 2025Bluefield-3 DPUs18Speicher- und Sicherheits-OffloadInbegriffen in ComputeThe Register 2024

Das Gehäuse wiegt ca. 1,36 t (3.000 lb) und nimmt die gleiche Grundfläche wie ein herkömmliches 42U-Rack ein (The Register, 2024). Der GB300 NVL72 repräsentiert Blackwell Ultra und verfügt über verbesserte B300-GPUs mit 288 GB HBM3e-Speicher pro GPU (50 % mehr als die 192 GB des ursprünglichen B200), die durch 12 statt 8 hohe HBM3e-Stapel erreicht werden. Jeder Superchip verbindet nun vier B300-GPUs mit zwei Grace-CPUs, im Vergleich zur ursprünglichen Konfiguration mit zwei GPUs. Jeder Grace-Blackwell-Superchip verbindet 72 Blackwell Ultra-GPU-Kerne mit 2,6 GHz mit einer Arm Neoverse V2-CPU mit 128 Kernen, die mit einer Basisfrequenz von 3,1 GHz läuft. Der integrierte HBM3e-Speicher liefert 8 TB/s pro GPU und hat eine Kapazität von 288 GB.

Einblick in die Praxis: Der Schwerpunkt des Racks liegt aufgrund der dichten Platzierung der Rechenressourcen in den oberen Fächern 18 % höher als bei Standardservern. Bewährte Verfahren empfehlen nun die Verankerung der Montageschienen mit M12-Schrauben anstelle von Standard-Käfigmuttern, um die bei Volllastbetrieb beobachteten Mikrovibrationen auszugleichen.

2. Die Bestie füttern: Energieversorgung

An GB300 NVL72 rack ships with built‑in PSU shelves, delivering 94.5% efficiency at full load. Peak consumption hits 120.8 kW during mixed‑precision training workloads—power quality analyzers typically record 0.97 power factor with <3% total harmonic distortion.

Vergleich der Spannungstopologie:

208V/60Hz: 335A Netzstrom, erfordert 4/0 AWG Kupfer (107mm²)
415V/50-60Hz: 168A Netzstrom, benötigt nur 70mm² Kupfer
480V/60Hz: 145A Netzstrom, minimaler Einsatz in Nordamerika

Die branchenübliche Praxis sieht die Bereitstellung von zwei dreiphasigen 415-V-Einspeisungen pro Rack über 160-A-IEC-60309-Anschlüsse vor. Diese Wahl reduziert die I²R-Verluste um 75 % im Vergleich zu 208 V, wobei die Kompatibilität mit den europäischen Gebäudestandards erhalten bleibt. Messungen in der Praxis zeigen, dass die Schalttafeln in Räumen mit einer Temperatur von 22 °C in der Regel unter 85 % thermisches Derating bleiben.

Oberschwingungsreduzierung: GB300 NVL72 Racks weisen unter typischen AI-Trainingslasten eine Gesamtverzerrung von 4,8 % auf. Bei einem Einsatz von mehr als acht Racks sind in der Regel 12-Puls-Gleichrichter auf speziellen Transformatoren erforderlich, um die IEEE 519-Konformität zu gewährleisten.

3. Spielbuch Kühlung: Wärmetechnische Realität

Jeder Blackwell Ultra GPU-Die misst 744 mm² und leitet bis zu 1.000 W über seine Cold Plate-Schnittstelle ab. Die Grace-CPU leistet mit ihren 128 Kernen weitere 500 W. Dells IR7000-Programm positioniert Flüssigkeit als Standardpfad für Geräte der Blackwell-Klasse und behauptet Kapazitäten von bis zu 480 kW pro Rack mit geschlossenen Wärmetauschern an der Rückseite (Dell Technologies, 2024).

Empfohlene thermische Hierarchie:

≤80 kW/Einheit: Hintertür-Wärmetauscher mit 18°C Speisewasser, 35 L/min Durchfluss
80-132 kW/Regal: Direct-to-Chip (DTC)-Schleifen obligatorisch, 15°C Versorgung, mindestens 30 L/min
132 kW/Regal: Eintauchkühlung oder Split-Rack-Konfigurationen erforderlich

DTC-Spezifikationen aus Feldeinsätzen:

Kühlplatte ΔT: 12-15°C bei Volllast (GPU-Übergangstemperaturen 83-87°C)
Druckverlust: 2,1 bar über den gesamten Kreislauf mit 30% Propylenglykol
Durchflussverteilung: ±3% Abweichung über alle 72 GPU-Kühlplatten
Leak rate: <2 mL/year per QDC fitting (tested over 8,760 hours)

Kritischer Einblick: Das Stromversorgungsnetzwerk des Blackwell Ultra weist Transienten im Mikrosekundenbereich auf und erreicht während der Gradientensynchronisierung das 1,4-fache der Dauerleistung. In der Branche wird empfohlen, die Kühlung auf 110 % des TDP-Nennwerts auszulegen, um diese Wärmespitzen ohne GPU-Drosselung zu bewältigen.

4. Netzwerkstruktur: Verwaltung von NVLink 5.0 und erweiterter Konnektivität

Jeder GB300 NVL72 enthält 72 Blackwell Ultra-GPUs mit NVLink 5.0, die eine Bandbreite von 1,8 TB/s pro GPU und eine Gesamt-NVLink-Bandbreite von 130 TB/s im gesamten System bieten. Der NVLink der fünften Generation arbeitet mit einer Signalisierungsrate von 200 Gbit/s pro Link, mit 18 Links pro GPU. Die neun NVSwitch-Chips leiten diesen Datenverkehr mit einer Switch-Latenz von 300 Nanosekunden und unterstützen 576 GPU-zu-GPU-Kommunikationsmuster.

Die Inter-Rack-Konnektivität ist jetzt mit ConnectX-8 SuperNICs ausgestattet, die eine Netzwerkkonnektivität von 800 Gbit/s pro GPU bieten (doppelt so viel wie die 400 Gbit/s der vorherigen Generation) und sowohl NVIDIA Quantum-X800 InfiniBand- als auch Spectrum-X Ethernet-Plattformen unterstützen.

Architektur der Verkabelung:

Intra‑rack: 1,728 copper Twinax cables (75‑ohm impedance, <5m lengths)
Inter-Rack: 90 QSFP112-Ports über 800G-Transceiver über OM4 MMF
Speicherung/Verwaltung: 18 Bluefield-3 DPUs mit je zwei 800G-Links

Feldmessungen:

Optisches Budget: 1,5 dB Einfügungsdämpfungsbudget über 150 m OM4-Spannweiten
BER performance: <10⁻¹⁵ sustained over 72‑hour stress tests
Anschlussdichte: 1.908 Anschlüsse pro Rack (einschließlich Stromversorgung)

Zu den bewährten Praktiken gehören der Versand von vorkonfektionierten 144-Glasfaserkabeln mit APC-Poliermittel und die Überprüfung jedes Steckers mit Einfügeverlust-/Rückflussverlusttests nach TIA-568-Standard. Erfahrene Zwei-Personen-Teams können eine GB300 NVL72-Glasfaserinstallation in durchschnittlich 2,8 Stunden abschließen - gegenüber 7,5 Stunden, wenn Techniker die Kabel vor Ort verlegen.

Signal integrity insight: NVLink‑5 operates with 25 GBd PAM‑4 signaling. Typical installations maintain a 2.1 dB insertion loss budget per Twinax connection and <120 fs RMS jitter through careful cable routing and ferrite suppression.

5. Praxiserprobte Einsatz-Checkliste

Strukturelle Anforderungen:

Bodenbelastung: ≥14 kN/m² (2.030 psf); das verteilte Gewicht übersteigt die meisten bestehenden Einrichtungen
Seismische Verstrebungen: Installationen in Zone 4 erfordern zusätzliche X-Aussteifungen gemäß IBC 2021
Vibration isolation: <0.5g acceleration at 10–1000 Hz to prevent NVLink errors

Energie-Infrastruktur:

Zwei 415V-Einspeisungen, je 160A, mit Schneider PM8000 Abzweigüberwachung
USV-Dimensionierung: 150 kVA pro Rack (125% Sicherheitsspanne) mit Online-Doppelwandler-Topologie
Grounding: Isolated equipment ground with <1Ω resistance to facility MGB

Spezifikationen für die Kühlung:

Coolant quality: <50 µS/cm conductivity, 30% propylene glycol, pH 8.5–9.5
Filterwechsel: 5 µm plissiert alle 1.000 Stunden, 1 µm endständig alle 2.000 Stunden
Lecksuche: Konduktive Flüssigkeitssensoren an allen QDC-Anschlüssen mit 0,1 mL Empfindlichkeit

Ersatzteillager:

Ein NVSwitch-Tablett (Vorlaufzeit: 6 Wochen)
Zwei CDU-Pumpenkassetten (MTBF: 8.760 Stunden)
20 QSFP112-Transceiver (Ausfallrate im Feld: 0,02 % jährlich)
Notfall-Wärmeleitmaterial (Honeywell PTM7950, 5g-Tuben)

Remote-Hands-SLA: 4-Stunden-Reaktionszeit vor Ort wird zum Industriestandard. Führende Implementierungspartner halten dieses Ziel in mehreren Ländern mit einer Betriebszeit von über 99 % ein.

6. Leistungscharakterisierung unter Produktionslasten

AI-Reasoning-Benchmarks (aus frühen Einsatzberichten):

Modell DeepSeek R1-671B: Dauerhafter Durchsatz von bis zu 1.000 Token/Sekunde
GPT-3 175B Parameter-Modell: 847 Token/Sekunde/GPU-Durchschnitt
Stable Diffusion 2.1: 14,2 Bilder/Sekunde bei einer Auflösung von 1024×1024
ResNet-50 ImageNet Training: 2.340 Stichproben/Sekunde anhaltender Durchsatz

Skalierung der Leistungseffizienz:

Einzel-Rack-Auslastung: 1,42 GFLOPS/Watt bei 95 % GPU-Auslastung
10-Rack-Cluster: 1,38 GFLOPS/Watt (der Kühlungsaufwand verringert die Effizienz)
Netzwerk-Leerlaufleistung: 3,2 kW pro Rack (NVSwitch + Transceiver)

Verbesserungen bei der KI-Rechenleistung: GB300 NVL72 bietet eine 10-fache Steigerung der Token pro Sekunde pro Benutzer und eine 5-fache Verbesserung der TPS pro Megawatt im Vergleich zu Hopper, was insgesamt eine 50-fache potenzielle Steigerung der KI-Fabrik-Leistung bedeutet.

Auswirkungen thermischer Zyklen: Nach 2.000 Stunden Produktionsbetrieb wurde bei ersten Einsätzen eine Leistungsverschlechterung von 0,3 % aufgrund des Abpumpens von Wärmeleitmaterial festgestellt. Der planmäßige TIM-Austausch in 18-monatigen Abständen hält die Spitzenleistung aufrecht.

7. TCO-Analyse Cloud versus On-Premise

Lambda bietet B200-GPUs für nur 2,99 $ pro GPU-Stunde mit mehrjährigen Verpflichtungen (Lambda 2025). Finanzielle Modellierung unter Einbeziehung der realen Einrichtungskosten aus Industrieeinsätzen zeigt:

Aufschlüsselung der Kosten pro Regal über 36 Monate:

Hardware-Kosten: $3,7-4,0 Mio. (einschließlich Ersatzteile und Werkzeuge) für GB300 NVL72
Stromverbrauch der Anlage: 310.000 $ bei 0,08 $/kWh und einer durchschnittlichen Auslastung von 85 %.
Kühlungsinfrastruktur: $180K (CDU, Sanitäranlagen, Steuerung)
Betriebspersonal: 240.000 $ (0,25 Vollzeitäquivalente voll ausgelastete Kosten)
Insgesamt: 4,43-4,73 Mio. $ gegenüber 4,7 Mio. $ Wolkenäquivalent

Die Gewinnschwelle wird bei einer durchschnittlichen Nutzungsrate von 67 % über 18 Monate erreicht, wobei Abschreibung, Finanzierung und Opportunitätskosten berücksichtigt werden. Die CFOs von Unternehmen erhalten Budgetvorhersagbarkeit und vermeiden gleichzeitig die Bindung an einen Cloud-Anbieter.

8. GB300 gegenüber GB200: Blackwell Ultra verstehen

Der GB300 NVL72 (Blackwell Ultra) stellt eine bedeutende Weiterentwicklung des ursprünglichen GB200 NVL72 dar. Zu den wichtigsten Verbesserungen gehören eine 1,5-fach höhere KI-Rechenleistung, 288 GB HBM3e-Speicher pro GPU (gegenüber 192 GB) und ein verstärkter Fokus auf die Skalierung der Testzeit für KI-Reasoning-Anwendungen.

Die neue Architektur bietet eine 10-fache Steigerung der Token pro Sekunde pro Benutzer und eine 5-fache Verbesserung der TPS pro Megawatt im Vergleich zu Hopper, was insgesamt eine 50-fache potenzielle Steigerung der KI-Fabrikleistung ergibt. Damit ist der GB300 NVL72 speziell für die aufkommende Ära der KI-Schlussfolgerungen optimiert, in der Modelle wie DeepSeek R1 wesentlich mehr Rechenleistung während der Inferenz benötigen, um die Genauigkeit zu verbessern.

Zeitplan für die Verfügbarkeit: Die GB300 NVL72-Systeme werden von den Partnern in der zweiten Hälfte des Jahres 2025 erwartet, während das GB200 NVL72 bereits jetzt erhältlich ist.

9. Warum Fortune 500-Unternehmen spezialisierte Implementierungspartner wählen

Führende Implementierungsspezialisten haben über 100.000 GPUs in mehr als 850 Rechenzentren installiert und halten mit Hilfe umfangreicher technischer Teams vor Ort globale Service-Level-Agreements (SLAs) von 4 Stunden ein. Die Branche hat seit 2022 Tausende von Kilometern Glasfaser und mehrere Megawatt dedizierter KI-Infrastruktur in Betrieb genommen.

Jüngste Einsatzkennzahlen:

Durchschnittliche Vorbereitungszeit: 6,2 Wochen (im Vergleich zu 11 Wochen im Branchendurchschnitt)
Erfolgsquote beim ersten Durchlauf: 97,3 % beim Einschalttest
Probleme nach der Einführung: 0,08 % Komponentenausfallrate in den ersten 90 Tagen

OEMs liefern Hardware, spezialisierte Partner verwandeln die Hardware in eine Produktionsinfrastruktur. Durch den Einsatz erfahrener Bereitstellungsteams in der Planungsphase kann die Zeitspanne um 45 % verkürzt werden, da vorgefertigte Stromkabel, vorbereitete Kühlkreisläufe und werkseitig konfektionierte Glasfaserbündel zum Einsatz kommen.

Abschiedsgedanken

Ein GB300 NVL72-Schrank bedeutet einen grundlegenden Wandel von "Servern in Racks" zu "Rechenzentren in Schränken". Die Physik ist unerbittlich: Eine Rechendichte von 120 kW erfordert Präzision bei jeder Stromverbindung, jedem Kühlkreislauf und jedem Glasfaseranschluss. Beherrschen Sie die technischen Grundlagen von Tag 0 an, und Blackwell Ultra wird in den kommenden Jahren eine transformative KI-Rechenleistung liefern.

Sind Sie bereit, die technischen Details zu besprechen, die wir nicht in 2.000 Wörter packen konnten? Unsere Deployment-Ingenieure freuen sich über solche Gespräche - vereinbaren Sie einen Termin für ein technisches Detailgespräch unter solutions@introl.com.

Referenzen

Dell Technologies. 2024. "Dell AI Factory Transforms Data Centers with Advanced Cooling, High-Density Compute and AI Storage Innovations." Pressemitteilung, 15. Oktober. Newsroom von Dell Technologies

Intro. 2025. "GPU Infrastructure Deployments and Global Field Engineers". Accessed June 23. introl.com

Lambda. 2025. "AI Cloud Pricing - NVIDIA B200 Clusters". Accessed June 23. Lambda Labs Preisgestaltung

NVIDIA. 2025. "GB300 NVL72 Produktseite." Zugriff am 23. Juni. NVIDIA Rechenzentrum

NVIDIA. 2025. "NVIDIA Blackwell Ultra AI Factory Plattform ebnet den Weg für das Zeitalter des AI Reasoning." Press release, March 18. NVIDIA Nachrichten

Supermicro. 2025. "NVIDIA GB300 NVL72 SuperCluster Datasheet." February. Supermicro-Datenblatt

Das Register. 2024. Mann, Tobias. "Ein Rack, 120 kW Rechenleistung: A Closer Look at NVIDIA's DGX GB200 NVL72 Beast." 21. März. Das Register

Warum der NVIDIA GB300 NVL72 (Blackwell Ultra) wichtig ist 🤔