RDMA/RoCE Niedrige Latenz Transport & Server Durchsatz Durchbruch

Ein schnell wachsendes KI-Forschungslabor kämpfte mit einem bekannten Problem: Ihre 100GbE-Infrastruktur lieferte eine Bandbreite von übertragbaren Daten, aber die Applikationslatenz blieb hartnäckig hoch.Verteilte Ausbildungsplätze leiden unter häufigen Netzwerk-Jitter, und NVMe-over-Fabrics Speicherzugriff hinzugefügt unvorhersehbare Verzögerungen. Die Ursache? traditionelle TCP/IP-Stacks verbraucht fast 30% der CPU-Kerne nur für die Paketverarbeitung,weniger Rechenleistung für tatsächliche ArbeitslastenDas Team brauchte eine grundlegende Veränderung, um Daten ohne Belastung der Host-CPU zu bewegen.Mellanox (NVIDIA Mellanox) MCX653105A-HDATNIC des Servers.

Das Labor hat dieDie in Absatz 1 genannten Anforderungen gelten nicht für die Berechnung der Leistungen.Die Datenverarbeitung erfolgt über 24 Rechenknoten, die jeweils mit einer Dual-Port 100GbE-Konnektivität ausgestattet sind.MCX653105A-HDAT ConnectX Adapter PCIe-Netzwerkkarte, unterstützt es Hardware-offloaded RoCE (RDMA über Converged Ethernet), so dass Daten den Kernel umgehen und direkt zwischen Speicherregionen wechseln können.nach ÜberprüfungMCX653105A-HDAT kompatibelIn den letzten Jahren haben sich die Entwickler in den meisten der neuen Server (Supermicro und Dell PowerEdge) die neuesten MLNX_OFED-Treiber installiert und RoCE mit DCQCN-Überlastungskontrolle aktiviert.MCX653105A-HDAT Ethernet-AdapterkarteSie entladen die Netzwerkverarbeitung sofort von der CPU und reduzieren den Software-Overhead nahezu auf Null.

Für den Speicherverkehr hat das Team NVMe-Namespaces direkt über RDMA abgebildet.NVIDIA Mellanox MCX653105A-HDATDie Datenbewegung wurde mit einer Latenzzeit von weniger als einer Mikrosekunde verarbeitet, während die hardwarebasierte Steuerung die Isolierung zwischen Rechen- und Speicherflüssen gewährleistete.Datenblatt MCX653105A-HDAT, unterstützt der Adapter bis zu 200Gb/s Gesamtdurchsatz und in der Praxis erreichte das Labor eine Linienrate von 100GbE pro Port, ohne dass ein einzelnes Paket unter voller Last abgeworfen wurde.

• 50%ige Verringerung der End-to-End-Latenz:Die MPI-Pingpong-Tests sanken von 2,8 μs (TCP) auf 1,4 μs (RoCE).
• CPU-Auslastung um 70% reduziert:Die Netzwerkstapelverarbeitung wurde vollständig auf Hardware übertragen, wodurch Kerne für das Modelltraining freigegeben wurden.
• Speicher-IOPS verdoppelt:NVMe-oF über RDMA eliminierte die Softwarebrücke und drückte die Latenzzeit für kleine Blockzüge unter 10 μs.

Das Team validierteMCX653105A-HDAT-SpezifikationenIm Rahmen der Planung der Kapazitäten haben sie eine Reihe von Vorhaben durchgeführt, um die Kapazitätsentwicklung zu erleichtern.MCX653105A-HDAT PreisBei der Suche nach einem Adapter, der in der Lage ist, die Kosten für den Betrieb zu decken, wird der Adapter innerhalb von drei Monaten durch eine geringere Ausbreitung von Servern und eine bessere Arbeitslastdichte ausgeglichen.MCX653105A-HDAT zum VerkaufDurch autorisierte Händler fanden sie mehrere Konfigurationsmöglichkeiten (ein- oder zweiporteig, mit oder ohne sicheren Boot).

Diese Einführung bestätigt, daß dieNVIDIA Mellanox MCX653105A-HDATist mehr als nur ein Hochgeschwindigkeits-NIC, es ist eine vollständige Datenausgleichsplattform, die die Netzwerkverarbeitung in die Hardware überführt und echte RDMA/RoCE ermöglicht.Unternehmen können sich von CPU-gebundenen Netzwerken ohne Gabelstapler-Upgrades befreien. Ob Sie KI-Trainings, verteilte Datenbanken oder hyperkonvergiertes Speichern betreiben, dieMCX653105A-HDAT ConnectX Adapter PCIe-NetzwerkkarteDie Entwicklung von Infrastrukturanlagen ist ein wichtiger Faktor für die Erweiterung derDatenblatt MCX653105A-HDATundMCX653105A-HDAT-SpezifikationenDer Adapter ist weit verbreitet.MCX653105A-HDAT zum VerkaufDie Kompatibilität mit führenden Serverplattformen sorgt für einen reibungslosen Migrationsweg.MCX653105A-HDAT Ethernet-AdapterkarteWir haben unsere 100GbE-Materie von einem Engpass in einen Leistungsmultiplikator verwandelt".