NVIDIA Mellanox 920-9B210-00FN-0D0 angekündigt: Neudefinition der Ultra-Scale-KI-Netzwerkgrundlage mit 400 Gbit/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 angekündigt: Neudefinition der Ultra-Scale-KI-Netzwerkgrundlage mit 400 Gbit/s NDR

Da große Sprachmodelle von Hunderten von Milliarden auf Billionen von Parametern skaliert werden, zeigen herkömmliche 200 Gbit/s HDR-Netzwerke ihre Grenzen in dichten kollektiven Kommunikationsszenarien wie All-to-All, bei denen die GPU-Auslastung aufgrund von Netzwerküberlastung oft stark abfällt. NVIDIA hat offiziell den NVIDIA Mellanox 920-9B210-00FN-0D0 vorgestellt, einen 400 Gbit/s NDR InfiniBand-Switch, der entwickelt wurde, um die Bandbreite, Dichte und In-Network-Intelligenz zu liefern, die für die anspruchsvollsten KI- und HPC-Workloads erforderlich sind.

Die Herausforderung: Wenn HDR zum Flaschenhals wird

Für Organisationen, die ihre GPU-Cluster über 2.000 Knoten hinaus skalieren, werden die Einschränkungen von 200 Gbit/s HDR immer deutlicher. Bei All-Reduce- und All-to-All-Operationen, die für das verteilte Training grundlegend sind, kann die Netzwerküberlastung die GPU-Auslastung von 85 % auf unter 50 % reduzieren, was Millionen von Dollar an Recheninvestitionen effektiv verschwendet. Netzwerkarchitekten stehen vor der doppelten Herausforderung, deterministische Latenzzeiten im Sub-Mikrosekundenbereich zu liefern und gleichzeitig eine verlustfreie Leistung über Tausende von Endpunkten aufrechtzuerhalten.

Der 920-9B210-00FN-0D0 InfiniBand-Switch OPN (Ordering Part Number) adressiert diese Herausforderungen direkt, indem er 400 Gbit/s NDR-Leistung auf eine 64-Port-OSFP-Plattform bringt und den nötigen Spielraum und die Intelligenz bietet, um netzwerkbedingte Ausfälle selbst in den anspruchsvollsten KI-Trainingsumgebungen zu eliminieren.

Wichtige technische Merkmale

Aufgebaut auf demselben Silizium wie der weit verbreitete MQM9790-NS2F, liefert die 920-9B210-00FN-0D0 MQM9790-NS2F 400 Gbit/s NDR-Plattform eine umfassende Reihe von Funktionen, die für Exascale-Klasse-Bereitstellungen entwickelt wurden. Laut dem 920-9B210-00FN-0D0 Datenblatt bietet der Switch:

• 64 Ports mit 400 Gbit/s NDR: Jeder OSFP-Port unterstützt bidirektionale 400 Gbit/s mit Forward Error Correction (FEC) und liefert eine aggregierte Schaltkapazität von 51,2 Tbit/s.
• Ultra-niedrige Latenz: Eine Cut-Through-Latenz von unter 100 ns, wie im 920-9B210-00FN-0D0 Spezifikationen dokumentiert, sorgt für minimalen Overhead für RDMA- und MPI-Operationen.
• Integrierte SHARPv3: Lagert kollektive Operationen (All-Reduce, All-to-All, Broadcast) direkt in das Switch-Fabric aus und reduziert die Kommunikationslatenz bei großen Aufträgen um bis zu 40 %.
• Adaptive Routing und Congestion Control: Leitet den Datenverkehr dynamisch um, um Hotspots zu vermeiden und eine vorhersagbare Leistung auch unter ungünstigen Verkehrsmustern aufrechtzuerhalten.
• Erweiterte Telemetrie: Pro-Flow- und Pro-Port-Zähler sowie die Überwachung der Pufferbelegung bieten tiefe Einblicke für ein proaktives Management.

Der 920-9B210-00FN-0D0 kompatible Ökosystem umfasst eine breite Palette von NVIDIA-zertifizierten OSFP-Kabeln, optischen Transceivern und Software-Tools, die eine nahtlose Integration in bestehende HDR- oder Greenfield-NDR-Umgebungen gewährleisten. Für Organisationen, die ihre Infrastruktur der nächsten Generation planen, unterstützt der Switch gemischte HDR/NDR-Fabrics und ermöglicht so schrittweise Upgrades, ohne Produktions-Workloads zu unterbrechen.

Anforderungen an reale Bereitstellungen

Für Netzwerkarchitekten, die neue KI-Trainingscluster entwerfen oder bestehende HDR-Fabrics aufrüsten, bietet die 920-9B210-00FN-0D0 InfiniBand-Switch OPN-Lösung mehrere überzeugende Vorteile. Seine 64-Port-Dichte ermöglicht Top-of-Rack-Bereitstellungen mit bis zu 64 Dual-Port-Servern pro Switch, wodurch die Anzahl der benötigten Switches und Kabel im Vergleich zu 40-Port-Alternativen reduziert wird. In Leaf-Spine-Topologien führt dies zu weniger Spine-Ebenen, geringerer Latenz und reduzierten Gesamtbetriebskosten.

Der Switch erbt auch die robusten Verwaltungsfunktionen des InfiniBand-Portfolios von NVIDIA. Mit dem Unified Fabric Manager (UFM) von NVIDIA können Administratoren tiefe Einblicke in den Fabric-Zustand gewinnen, die Bereitstellung automatisieren und Anomalien proaktiv erkennen, bevor sie Produktions-Workloads beeinträchtigen. Die redundanten Netzteile und die Hot-Swap-Lüftermodule des Switches gewährleisten eine Verfügbarkeit von 99,999 % für geschäftskritische Anwendungen.

Bei der Bewertung des 920-9B210-00FN-0D0 Preises und der Gesamtbetriebskosten bietet der Switch eine überzeugende Wirtschaftlichkeit für groß angelegte Bereitstellungen. Während die Anschaffungskosten höher sind als bei HDR-Alternativen, sind die Kosten pro Port und die Kosten für das GPU-Netzwerk bei Amortisation über einen großen Cluster deutlich niedriger, was NDR zu einer zunehmend kostengünstigen Wahl für Exascale-Projekte macht. Der 920-9B210-00FN-0D0 zum Verkauf ist ab sofort über die Channel-Partner von NVIDIA erhältlich, wobei die ersten Kundenlieferungen bereits laufen.

Zusammenfassung: Die NDR-Grundlage für die KI der nächsten Generation

Der NVIDIA Mellanox 920-9B210-00FN-0D0 stellt einen bedeutenden Fortschritt im Hochleistungsnetzwerk dar und liefert die Bandbreite, Dichte und Intelligenz, die für die nächste Generation von KI- und HPC-Clustern erforderlich sind. Durch die Kombination von 400 Gbit/s NDR-Geschwindigkeit mit 64-Port-OSFP-Dichte und SHARPv3 In-Network-Computing ermöglicht dieser Switch Architekten den Aufbau skalierbarer, deterministischer Fabrics, die mit den anspruchsvollsten Workloads mit Billionen von Parametern Schritt halten können.

Für Organisationen, die ihre Infrastruktur der nächsten Generation planen, bietet der 920-9B210-00FN-0D0 einen klaren, leistungsstarken Weg nach vorn – sei es als Greenfield-Bereitstellung oder als strategisches Upgrade von bestehenden HDR-Fabrics. Mit seinem robusten Funktionsumfang, der Enterprise-Grade-Verwaltungsfähigkeit und der nahtlosen Kompatibilität mit dem breiteren NVIDIA-Ökosystem ist dieser Switch bereit, ein Eckpfeiler der Exascale-Klasse-Netzwerke zu werden.