NVIDIA Mellanox 920-9B110-00FH-0D0 Technische Referenz: Optimierte Niedrigverzögerungsinterkonnektion für RDMA/HPC/AI

NVIDIA Mellanox 920-9B110-00FH-0D0 Technische Referenz: Optimierte Niedrigverzögerungsinterkonnektion für RDMA/HPC/AI-Cluster bei 200Gb/s HDR

1. Projekthintergrund und Bedarfsanalyse

Da HPC- und KI-Cluster weiter skalieren, erfordern verteilte Schulungs- und wissenschaftliche Simulations-Workloads immer strengere Netzwerkbandbreite, Latenz und Skalierbarkeit. not every cluster requires 400Gb/s NDR infrastructure—a significant number of production environments are already standardized on 200Gb/s HDR and seek performance improvements within a controlled budgetZu den typischen Anforderungen gehören:

• Deterministische niedrige Latenzzeit:Die MPI-Kollektivkommunikation muss eine Port-to-Port-Verzögerung von unter einer Mikrosekunde aufrechterhalten, um zu verhindern, dass die Schwanzlatenz die Konvergenz der Ausbildung beeinträchtigt.
• mit einem Durchmesser von mehr als 50 cm3Zero-Pakete fallen unter Überlastung ab, um RDMA-Effizienz zu gewährleisten und Leistungsabbrüche zu vermeiden.
• Auslastung des Netzwerkrechners:Offloading von kollektiven Operationen wie All-Reduce auf die Netzwerkstruktur, um Host-CPU/GPU-Ressourcen zu befreien.
• Geschmeidige Skalierbarkeit:Unterstützung für die nicht blockierende Erweiterung von Hunderten bis zu Tausenden von Knoten, mit Kompatibilität für bestehende HDR-Kabel und optische Transceiver.

Um diesen Anforderungen gerecht zu werden, setzt diese Lösung dieNVIDIA Mellanox 920-9B110-00FH-0D0als Kernbaustein eine 200Gb/s HDR InfiniBand-Schalter, die Leistung, Dichte und Wirtschaftlichkeit für mittlere bis große Bereitstellungen ausgleicht.

2. Gesamtarchitekturentwurf

Die vorgeschlagene Lösung verwendet eine zweistufige Blatt-Rücken-Topologie, die ein skalierbares, nicht blockierendes Gewebe mit vorhersehbarer Latenz und vereinfachter Verkabelung bietet.Jedes Rechnerrack ist mit einem920-9B110-00FH-0D0 InfiniBand-Schalter OPN(Ordering Part Number), die 40 Ports mit HDR-Verbindung von 200 Gb/s zu GPU-Servern über OSFP-OSFP-Direktanschluss-Kupfer (DAC) oder aktive optische Kabel (AOC) anbietet.eine zweite Schicht von MQM8790-HS2F-Schaltern920-9B110-00FH-0D0 MQM8790-HS2F 200 Gb/s HDR¢verknüpft alle Blattschalter und erzeugt so ein Fettbaumgewebe mit voller Bandbreite.

Für größere Cluster mit mehr als 1.500 Knoten kann eine dreistufige Folded-Clos-Architektur implementiert werden.mit dem 920-9B110-00FH-0D0, der sowohl als Blatt als auch als Rückgrat dient, um eine gleichbleibende Leistung auf allen Ebenen zu erhaltenDie folgende Tabelle fasst die wichtigsten Skalierungsparameter für ein 2-stufiges HDR-Gewebe zusammen, das um diesen Schalter herum gebaut wurde:

3. Rolle und Schlüsselmerkmale des NVIDIA Mellanox 920-9B110-00FH-0D0

Innerhalb dieser ArchitekturNVIDIA Mellanox 920-9B110-00FH-0D0dient als grundlegendes Schaltelement und bietet mehrere kritische Fähigkeiten:

• 40 Ports mit 200 Gb/s HDR:Jeder OSFP-Port unterstützt bidirektionale 200Gb/s mit Vorwärtsfehlerkorrektur (FEC) für eine zuverlässige Verlängerung der Konnektivität.
• Integriertes SHARPv2 (skalierbares Hierarchieaggregation- und Reduktionsprotokoll):Entlastet kollektive Kommunikationsoperationen und reduziert die MPI All-Reduce-Latenz um bis zu 30% bei typischen HPC-Workloads.
• Adaptive Routing- und Überlastungskontrolle:Dynamische Umleitung des Verkehrs, um Hotspots zu vermeiden, um eine vorhersehbare Leistung unter widersprüchlichen Verkehrsmustern zu gewährleisten.
• Fortgeschrittene Telemetrie:Die Zähler pro Fluss und Port sowie die Überwachung der Bufferbesetzung ermöglichen eine tiefe Sichtbarkeit der Stoffgesundheit.

Nach Angaben derDas Datenblatt 920-9B110-00FH-0D0, bietet der Schalter eine Durchschnittslatenz von unter 200 ns und unterstützt bis zu 8,0 Tb/s Gesamtschaltkapazität.920-9B110-00FH-0D0 SpezifikationenSie müssen auch doppelte, redundante Stromversorgungen und warmwechselbare Lüftermodule hervorheben, um eine Verfügbarkeit von 99,999% für missionskritische Arbeitslasten zu gewährleisten.

4. Empfehlungen für Bereitstellung und Skalierbarkeit

Für Organisationen, die die920-9B110-00FH-0D0 InfiniBand-Switch-OPN-Lösung, werden folgende Einsatzrichtlinien empfohlen:

• Kabelstrategie:Verwenden Sie OSFP-zu-OSFP-DAC-Kabel für Anschlüsse innerhalb des Racks (bis zu 3 m) und AOC- oder optische Transceiver für Anschlüsse zwischen den Racks und zwischen den Spinalleaf-Anschlüssen (bis zu 100 m).920-9B110-00FH-0D0 kompatibelNach der NVIDIA Kompatibilitätsmatrix.
• Entlassungen:Verwenden Sie zwei Stromversorgungen, die an getrennte PDUs angeschlossen sind, und verwenden Sie mindestens zwei Spinalschalter pro Blatt, um einzelne Fehlerpunkte zu beseitigen.
• Firmware-Management:Stellen Sie sicher, dass alle Switches identische NVIDIA-Firmware-Versionen ausführen.
• Skalierbarkeitsweg:Bei Clustern über 1.600 Knoten hinweg ist der Übergang zu einer dreistufigen Folded-Clos Topologie oder die Nutzung von Dragonfly+ mit adaptivem Routing erforderlich.Der 920-9B110-00FH-0D0 unterstützt bis zu 64 Schalter in einem einzigen Gewebe unter einem einzigen Subnetzmanager.

Bei der Berechnung der Gesamtbetriebskosten berücksichtigen Sie die geringere Anzahl von Schaltstufen und vereinfachte Verkabelung im Vergleich zu Alternativen mit niedrigerem Radix.920-9B110-00FH-0D0 PreisDie Kosten pro Port sind deutlich niedriger als die NDR, was sie zu einer optimalen Wahl für kostengerechte HDR-Einführungen macht.

5. Betrieb, Überwachung und Fehlerbehebung

Ein wirksames Management eines HDR-Fabrics erfordert ein umfassendes Überwachungs- und Fehlerbehebungs-Framework.NVIDIA Mellanox 920-9B110-00FH-0D0- aus Gewebe, das folgende Waren anbietet:

• Visualisierung der Topologie:Automatische Entdeckung und grafische Darstellung aller Schalter, Verbindungen und Endpunkte.
• Leistungstabellen:Echtzeit-Ansichten der Hafennutzung, Fehlerraten und Stausindikatoren.
• Proaktive Warnung:Alarmschwellen für Verletzungen der Verbindung, Temperaturanomalien und Stromversorgungsfehler.
• Fehlerisolierung:Geführte Fehlerbehebungs-Workflows, die fehlerhafte Kabel, Transceiver oder Schalterorte identifizieren.

Für eine erweiterte Fehlerbehebung nutzen Sie die integrierten Diagnosewerkzeuge des Switches, einschließlich Loopback-Tests und BER-Analyse (Bit-Fehlerrate),Um die Verbindungsintegrität vor der Bereitstellung von Produktionsarbeitslasten zu validierenZu den häufigsten Problemen bei frühen Einsätzen gehören unteroptimale Routing durch ungleiche Verbindungsgeschwindigkeiten oder nicht übereinstimmende Kabeltypen.Durch die Aktivierung von adaptivem Routing und die Überprüfung, ob alle Verbindungen mit 200 Gb/s (mit aktiviertem FEC) arbeiten, werden die meisten Leistungsstörungen behoben. Die920-9B110-00FH-0D0 InfiniBand-Schalter OPNunterstützt auch redundante Konfigurationen für Subnetzmanager, so dass die Fabric-Neukonfiguration im Falle eines Managementknotenfehlers ohne manuelle Eingriffe erfolgt.

6. Zusammenfassung und Wertbewertung

Die920-9B110-00FH-0D0bietet ein überzeugendes Mehrwertangebot für Unternehmen, die HDR-basierte HPC- und KI-Cluster erstellen oder erweitern.und unternehmerische Verwaltung in einer kostengünstigen 1U-PlattformZu den wichtigsten Wertpunkten gehören:

• Leistung:Bis zu 35% reduzierte Arbeitszeit bei kommunikationsintensiven Arbeitslasten durch SHARPv2-Ablastung und adaptive Routing.
• Kosteneffizienz:Niedrigere TCO im Vergleich zu NDR-Alternativen, wobei die Kosten pro Port für HDR-Einführungen optimiert sind.
• Einfachheit des Betriebs:Tiefe Integration mit UFM für einheitliches Management, proaktive Überwachung und automatisierte Failover.
• Investitionsschutz:Vollkompatibilität mit bestehenden HDR-Kabeln, Optiken und Software-Stacks, so dass stufenweise Upgrades ohne Produktionsstörungen möglich sind.

Für Organisationen, die die920-9B110-00FH-0D0 zum VerkaufWir empfehlen Ihnen, die detailliertenDas Datenblatt 920-9B110-00FH-0D0Sie können sich mit einem zertifizierten Lösungsarchitekten beschäftigen, um das Design für Ihre spezifischen Anforderungen an Arbeitsbelastung und Größenordnung zu validieren.NVIDIA Mellanox 920-9B110-00FH-0D0ist bereits heute produktionsbereit und bietet eine ausgewogene, leistungsstarke Verbindung für die nächste Generation von HPC- und KI-Innovationen.