Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 InfiniBand Switch Technische Lösung

1. Projekthintergrund und Bedarfsanalyse

Moderne KI-Trainingscluster und Hochleistungsrechenumgebungen (HPC) stehen vor einer gemeinsamen Skalierungs-Herausforderung:Traditionelle Ethernet-Fabriken werden aufgrund der TCP/IP-Überlastung zum primären EngpassFür Arbeitslasten, die auf RDMA (Remote Direct Memory Access) angewiesen sind, kann sogar ein Jitter auf Mikrosekundenebene die effektive GPU-Auslastung um 30-40% reduzieren.Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0Der InfiniBand-Switch befasst sich direkt mit diesen Herausforderungen, indem er ein verlustfreies, deterministisches Gewebe bereitstellt, das für kollektive Operationen, All-Reducing-Algorithmen und Hochfrequenz-MPI-Kommunikation optimiert ist.

Zu den wichtigsten Anforderungen für KI/HPC-Netzwerke der nächsten Generation gehören: Schaltverzögerung von unter einer Mikrosekunde, Unterstützung von 400 Gb/s NDR-Geschwindigkeiten, Hardware-basiertes In-Network-Computing (SHARP v2),und nahtlose Rückwärtskompatibilität mit der bestehenden HDR-Infrastruktur. Die920-9B210-00FN-0D0Erfüllt alle diese Kriterien und bietet gleichzeitig eine unternehmerische Steuerbarkeit und Telemetrie.

2. Gesamter Netzwerk- und Systemarchitekturentwurf

Die empfohlene Architektur konzentriert sich auf eine zweischichtige Fat-Tree-Topologie.die eine volle Bisection-Bandbreite und eine deterministische Latenzzeit für alle-zu-alle-Kommunikationsmuster bietet, die typisch für verteiltes Training sindDie Wirbelsäule besteht ausNVIDIA Mellanox 920-9B210-00FN-0D0Leaf-Switches (z. B. der QM9700-Serie) werden über ConnectX-7 oder BlueField-3-Adapter mit Rechenknoten verbunden,während die Uplinks zur Wirbelsäule mit 400 Gb/s NDR-Geschwindigkeiten laufen.

Für großflächige Bereitstellungen mit mehr als 2.000 GPUs kann eine dreistufige Architektur (Core-Aggregation-Access) implementiert werden.920-9B210-00FN-0D0 MQM9790-NS2F 400 Gbit/s NDRDiese Konstruktion sorgt für eine lineare Skalierung der Leistung und unterstützt eine zukünftige Erweiterung auf NDR200 (800Gb/s) ohne Upgrade eines Gabelstaplers.Der Beamte920-9B210-00FN-0D0 InfiniBand-Schalter OPNvereinfacht die Beschaffung von mehreren Standorten und gewährleistet die Konsistenz der Firmware im gesamten System.

3. Rolle und wesentliche Merkmale des 920-9B210-00FN-0D0 in der Lösung

Die920-9B210-00FN-0D0dient als leistungsstarkes Rückgrat/Kernelement innerhalb des InfiniBand-Fabriks. Zu seinen wichtigsten Funktionen gehören:

• 400 Gbit/s NDR-Portdichte:Jeder920-9B210-00FN-0D0 MQM9790-NS2F 400 Gbit/s NDRDer Schalter bietet bis zu 32 400Gb/s-Ports und unterstützt sowohl Kupfer- als auch optische Transceiver für eine flexible Verkabelung bis zu 500 Meter (Single-Mode).
• In-Network Computing (SHARP v2):Hardware-beschleunigte All-Reduce-Operationen reduzieren die Zeit der kollektiven Kommunikation um bis zu 8x für KI-Training-Workloads und verbessern die GPU-Auslastung direkt.
• Adaptive Routing und Überlastungskontrolle:Die dynamische Pfadwahl verhindert die Bildung von Hotspots und gewährleistet eine deterministische Latenzzeit bei Incastraten.
• RDMA über konvergiertes Ethernet (RoCE) AlternativeIm Gegensatz zu RoCE, native InfiniBand auf dem920-9B210-00FN-0D0erfordert keine PFC-Konfiguration und liefert eine gleichbleibende Leistung auch bei einer Verknüpfungsauslastung von 95%.

Die Ingenieure können dieDatenblatt 920-9B210-00FN-0D0undSpezifikationen 920-9B210-00FN-0D0Der Schalter ist vollständig ausgeschaltet, um die Leistung (typischerweise 350 W), die Wärme und die Latenz (Unter-200ns Schaltverzögerung) zu bestimmen.920-9B210-00FN-0D0 kompatibelmit allen wichtigen NVIDIA InfiniBand Endpunkten und NDR-Optiken von Drittanbietern.

4. Empfehlungen für Bereitstellung und Skalierung (Topologiebeispiele)

Kleiner Cluster (128-256 GPUs):Einzelner Rücken von 2x920-9B210-00FN-0D0Sie bietet eine vollständige Durchschnittsbandbreite und Redundanz.Mittlerer Cluster (512-1024 GPUs):Vier Spine-Switches in einer nicht blockierenden Konfiguration, wobei jeder Leaf-Switch 4 Uplinks (2 pro Spine) hat.Großer Cluster (2048+ GPUs):Kernschicht von 8xNVIDIA Mellanox 920-9B210-00FN-0D0Alle Verbindungen mit 400 Gb/s NDR, mit optionaler NDR200-Bereitschaft.

Für Organisationen, die Kosten bewerten, ist die920-9B210-00FN-0D0 PreisBei der Berücksichtigung der Gesamtbetriebskosten (TCO) sind die Einheiten als920-9B210-00FN-0D0 zum VerkaufDurch das autorisierte Vertriebsnetzwerk von NVIDIA, mit typischen Lieferzeiten von 4-6 Wochen.

5. Betrieb, Überwachung, Fehlerbehebung und Optimierung

Das Management wird über den NVIDIA Unified Fabric Manager (UFM) zentralisiert, der Echtzeit-Telemetrie, prädiktive Ausfallanalyse und automatisierte Abhilfe bietet.920-9B210-00FN-0D0 InfiniBand-Switch-OPN-Lösungumfassen:

• Leistungsbasis:Verwenden Sie die Latenz-Wärmepläne von UFM, um Mikrobersten zu identifizieren.Spezifikationen 920-9B210-00FN-0D0die Hardwarezähler für ECN-Markierungen und die Bufferbesetzung bestätigen.
• Firmware-Management:Halten Sie alle Einheiten auf demselben NDR-Firmware-Branch.Datenblatt 920-9B210-00FN-0D0enthält eine Kompatibilitätsmatrix für ConnectX-7 und BlueField-3.
• Szenarien für Fehler:Redundante Stromversorgungen und Lüftermodule ermöglichen eine N+1-Redundanz. UFM kann den Datenverkehr automatisch um versagte Verbindungen oder Schalter umleiten.
• Tipps zur Optimierung:Aktivieren Sie adaptive Routing auf allen Spinal Ports; deaktivieren Sie globale Pause-Frames; konfigurieren Sie SHARP für alle reduzieren-intensiven Arbeitslasten; verwenden Sie die920-9B210-00FN-0D0 InfiniBand-Schalter OPNIdentifikatoren, um physische Ports logischen Rollen zuzuordnen.

6. Zusammenfassung und Wertbewertung

DieMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0stellt einen grundlegenden Baustein für leistungsstarke KI- und HPC-Stoffe dar. Durch die Bereitstellung von 400 Gb/s NDR-Bandbreite, Submikrosekunden-Schaltverzögerung und SHARP v2 In-Network-Computinges beseitigt Netzwerkengpässe, die typischerweise die Skalierung der GPU einschränken. Die920-9B210-00FN-0D0ist nicht nur ein Schalter es ist eine vollständige920-9B210-00FN-0D0 InfiniBand-Switch-OPN-LösungDies beinhaltet eine vollständige Kompatibilität mit bestehenden HDR-Infrastrukturen, eine unternehmensweite Verwaltung durch UFM und einen klaren Übergangspfad zu zukünftigen NDR200-Geschwindigkeiten.Für Netzwerkarchitekten und IT-Manager, die die Leistung von RDMA/HPC/AI-Clusterverbindungen optimieren möchten, bietet dieser Schalter einen messbaren ROI durch höhere GPU-Auslastung, verkürzte Bearbeitungszeiten und geringere Betriebskosten.

Referenz für die wichtigsten Spezifikationen