NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch Technische Lösung

NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch Technische Lösung zur Optimierung von Low-Latency-Interconnect für RDMA, HPC und KI-Cluster

Analyse des Projekthintergrunds und der Anforderungen

Moderne Rechenzentren, die die Ausbildung von KI-Großmodellen, die HPC-Simulation und den verteilten Speicher unterstützen, wandern rasch von 200Gb/s HDR auf 400Gb/s NDR um.Die Kernspannung für Netzwerkarchitekten ist, dass die GPU-Knotendichte steigt, während die Kommunikationslatenz und der Jitter zwischen den Knoten zum begrenzenden Faktor für die Effizienz des Clusters werden.Ein einziger überlasteter Hop oder eine falsch konfigurierte Stoffschicht kann die effektive GPU-Auslastung über Hunderte von Knoten hinweg reduzieren.

Zu den typischen Anforderungen für ein solches Projekt gehören eine deterministische geringe Latenzzeit für kollektive Arbeiten, ein verlustfreier Transport für RDMA und NVMe über Fabrics, ein hoher Radix, um den Stoff flach zu halten,und einen klaren Upgrade-Pfad, der bestehende Investitionen schütztDer NVIDIA Mellanox MQM9790-NS2F ist als 400Gb/s NDR InfiniBand-Switch innerhalb der Quantum-2-Familie für diese Anforderungen geeignet.

Gesamtkonstruktion der Netzwerk- und Systemarchitektur

Die empfohlene Architektur ist ein zweistufiges InfiniBand-Baustein, das vollständig auf NDR-Verbindungen basiert.Während die Rückenwirbelschalter die Verbindung zwischen den Blättern und die Wege der Pfade ermöglichenDieses Design hält die Hop-Zählung niedrig und gewährleistet eine nicht blockierende Bandbreite für den Ost-West-Verkehr, der die KI- und HPC-Workloads dominiert.

An der Endpunktschicht arbeiten die Host-Kanal-Adapter im RDMA-Modus und ermöglichen Speicher-zu-Speicher-Transfers ohne CPU-Eingriff.und kollektive BeschleunigungDer Management- und Telemetrieverkehr teilt die gleiche physische Infrastruktur, ist aber durch Qualitätssicherungsrichtlinien isoliert, so dass die Überwachung die Produktionsbelastungen nicht beeinträchtigt.

Zu den wichtigsten Konstruktionsprinzipien gehören:

• Flattopologie zur Minimierung der Latenz und Vereinfachung der Fehlerbehebung
• Nicht blockierende Verbindungen zwischen Ebenen oder Verbindungen mit geringem Überabonnement
• Konsistente End-to-End-NDR-Verfahren zur Vermeidung von Engpässen bei der gemischten Erzeugung
• Redundante Wege für hohe Verfügbarkeit und Lastbilanz
• Standard-InfiniBand-Management für die betriebliche Konsistenz

Rolle und Hauptmerkmale des NVIDIA Mellanox MQM9790-NS2F

Der NVIDIA Mellanox MQM9790-NS2F dient als Baustein dieses Gewebes. Als MQM9790-NS2F 400Gb/s NDR 64-Port OSFP-Switch liefert er eine hohe Portdichte in einer einzigen Einheit.Architekten ermöglichen, ein flacheres Netz mit weniger Ebenen zu entwerfenJeder OSFP-Anschluss kann mit NDR-Geschwindigkeit betrieben werden, und die 64-Anschlusskonfiguration unterstützt Blatt- und Rückenrollen mit hohem Radix.

Für Teams, die die MQM9790-NS2F-Spezifikationen überprüfen, unterstützt die Plattform NVIDIA SHARPv3 für kollektive Beschleunigung, erweiterte Stausregelung und adaptive Routing.Diese Funktionen zielen direkt auf die Probleme mit der Schwanzlatenz und Incasts ab, die häufig bei KI-Ausbildung und MPI-Workloads auftreten. Der MQM9790-NS2F InfiniBand-Switch ist auch mit Standard-InfiniBand-Management-Tools integriert, wodurch die Lernkurve des Betriebs reduziert wird.

Bei der Planung einer MQM9790-NS2F-InfiniBand-Switch-Lösung sollten Architekten MQM9790-NS2F-kompatible Komponenten, einschließlich OSFP-Kabel, Host-Kanaladapter und Firmware-Versionen, bestätigen.Überprüfung des MQM9790-NS2F-Datenblatts früh in der Konstruktionsphase hilft bei der Validierung der Leistung, Kühl- und Rackflächenanforderungen vor der Beschaffung.

Empfehlungen für den Einsatz und die Skalierung

Eine typische Bereitstellung beginnt mit einem Pilot-Pod von 32 bis 64 GPU-Knoten, die an ein Paar MQM9790-NS2F-Leaf-Switches angeschlossen sind.Verwendung zusätzlicher MQM9790-NS2F-Einheiten zur Aufrechterhaltung einer nicht blockierenden BandbreiteDieser inkrementelle Ansatz ermöglicht die Validierung von Latenz und Durchsatz vor der vollständigen Einführung.

Bei der Skalierung ist es empfehlenswert, den Stoff symmetrisch zu halten: Zusätzliche Blatt- und Rückgratkapazität in entsprechenden Schritten, so dass Überabonnementquoten vorhersehbar bleiben.Kabelverwaltung und Hafenkennzeichnung sollten von Anfang an standardisiert werden, da OSFP-Bereitstellungen mit hoher Dichte schwierig zu warten sein können, wenn das physische Layout inkonsistent ist.

Die nachstehende Tabelle fasst eine repräsentative zweistufige Konstruktionsüberlegung zusammen:

Betrieb, Überwachung, Fehlerbehebung und Optimierung

InfiniBand-Fabriken bieten Zähler für Linkfehler, Staus und Puffernutzung.Diese sollten kontinuierlich gesammelt und mit den Daten des Arbeitsplaners verknüpft werden, so dass Leistungsregressionen auf bestimmte Stoffsegmente zurückgeführt werden können, anstatt zu erraten.

Zu den häufigsten Fehlerbehebungsszenarien gehören Kredit-Stalls, falsch konfigurierte QoS und Firmware-Ausfälle zwischen Switches und Adaptern.Bestätigen Sie die Routing-Richtlinie, die Überlastungs-Telemetrie zu überprüfen, kann die durchschnittliche Auflösungszeit verkürzen.Da KI- und HPC-Workloads für das schlechteste Verhalten empfindlich sind.

Für Beschaffungs- und Lebenszykluplanung vergleichen Teams oft den Preis von MQM9790-NS2F und die Verkaufsoptionen von MQM9790-NS2F über autorisierte Kanäle hinweg.und Region, so dass eine frühzeitige Zusammenarbeit mit Distributoren und NVIDIA-Unternehmensvertretern empfohlen wird.

Der NVIDIA Mellanox MQM9790-NS2F bietet eine hohe Radix, 400Gb/s NDR Basis für RDMA, HPC und KI Cluster Interconnect.und einen verlustfreien Transport mit geringer Latenzzeit ermöglichen, befasst sich mit den Leistungsengpässen, die die Effizienz von Clustern in der realen Welt einschränken.Es stellt einen praktischen und skalierbaren Baustein für InfiniBand-Gewebe der nächsten Generation dar.