Der Supercomputer NVIDIA DGX A100 hat Organisationen und Forschungseinrichtungen ganz neue Kapazitäten für ihre KI-Workloads verliehen. Mit dem Wachstum dieser Projekte stieg auch die Anzahl kleinerer Cluster aus NVIDIA DGXs.  Dadurch wiederum wurden und werden immer höhere Anforderungen an die Speichersysteme gestellt.

Während viele Speicheranbieter sich darum bemühten, schnellstmöglich Lösungen für Multi-Petabyte-Superpods zu entwickeln, hat sich PNY auf eine Lösung für Durchschnittskunden konzentriert.  Zusammen mit einem Entwicklerteam, das auf softwaregesteuerte Speicher spezialisiert ist, entwickelte PNY eine maßgeschneiderte Lösung, die sich ausschließlich auf NVIDIA-Schlüsselfunktionen wie etwa HDR/200Gbe und GPUDirect konzentriert, jedoch schon bei 30 TB startet.  Die Anwendungen sind kostengünstig, liefern dennoch die volle HDR/200Gbe-Leistung.  Der 1U ist auf 150 TB und der 2U auf 360 TB erweiterbar, mit optionalen 1U / 2U Erweiterungsboxen, sollten Projekte skaliert werden.

Der 1U wurde für den wachsenden POD-/Edge-Markt konzipiert, wo ultraschnelle Speicher für Inferencing benötigt werden, Budget und Platz jedoch begrenzt sind.

„Gelder für neue Projekt werden am besten für GPUs ausgegeben, denn sie liefern den Anwendern den höchsten Mehrwert und die beste Rentabilität (ROI).  Dennoch müssen wir sicherstellen, dass der Speicher die GPUs am Laufen halten kann und über die notwendige Qualität verfügt, um solch hohe Leistungsniveaus aufrechtzuerhalten.  Unsere Lösung der ersten Generation war bestens dafür geeignet, war aber mit NVMe-oF als Konnektivität meist auf einzelne Server beschränkt.  Mit anspruchsvolleren Projekten, auch wenn es nur zwei Server waren, stieg ebenso der Bedarf an Speicherleistung und die Nachfrage nach gemeinsamer Datennutzung.  Dies war eine große Herausforderung und erforderte einen hohen Arbeits-und Zeitaufwand als auch beträchtliche Investitionen. Die Ergebnisse, so glauben wir, werden jedoch die Vorstellung wie eine Standard-A.I.-POD-Lösung auszusehen hat, maßgeblich verändern.  Wenn Anwender also ein A.I.-Projekt planen und dabei den Speicher zu berücksichtigen haben, während sie auch sicherstellen müssen, dass ihre finanziellen Mittel hauptsächlich für die GPU ausgegeben werden, können sie bei uns eine einfache Plug-and-Play-Appliance-Anwendung finden", so Laurent Chapoulaud, Marketingdirektor für Professional Solutions bei PNY EMEAI.

Die Lösung von PNY ist derzeit einzigartig auf dem Markt. Obwohl ihr Hauptaugenmerk auf dem Preis, der Leistung und der Benutzerfreundlichkeit liegt, werden in Anbetracht der wachsenden Herausforderungen, denen sich Remote und Edge-basierte Lösungen gegenübersehen, zusätzliche weitere Funktionen entwickelt, um die Vereinheitlichung des kompletten PNY POD zu gewährleisten, z. B. die vollständige Steuerung durch NVIDIA; der PNY-Speicher kontrolliert nicht nur sich selbst, sondern auch den NVIDIA DGX und den Mellanox-Switch, wodurch ein einziger, einheitlicher Supportpfad für Partner geschaffen wird, um eine vollständige Fernüberwachung zu ermöglichen.

„Bei PNY wollen wir unseren Partnern alle notwendigen Bausteine für eine Komplettlösung zur Verfügung stellen. Die Ergänzung der einheitlichen PNY POD-Option zur Fernkontrolle ist nur eine Erweiterung des Engagements von PNY, Resellern bei der Bereitstellung von Lösungen zu helfen."

Um die Lösung zu optimieren, arbeitete PNY mit Mark Klarzynski zusammen, einem erfahrenen Speicherexperten und einem Pionier der Software Defined Storage-Bewegung und des All Flash Array-Konzepts.  „Der Fokus auf Leistung hat sich eindeutig ausgezahlt.  In unseren Tests hat sogar eine 1U-Einstiegslösung einen All-Flash-Array der Enterprise-Class übertroffen. Im Speicherbereich haben wir viele Testmethoden, um großartige Benchmark-Ergebnisse zu erzielen. In der Regel verwenden wir mehrere Server, um den Speicher schneller zu machen und konkurrenzfähige und aussagekräftige Leistungszahlen zu erreichen.  Bei den PNY-Lösungen konnte jedoch ein einzelner NVIDIA A100-Server die HDR/200Gbe-Verbindung problemlos sättigen.  Kurzum, er übertraf ohne Mühe die meisten führenden Anbieter bei einem Bruchteil der Kosten", kommentiert Mark Klarzynski.

„Für reale Deep-Learning-Tests hatten wir einfach nicht genug Hardware. Wir hatten drei DGX-Server, die voll ausgelastet waren, und der Speicher sah aus, als wäre er kaum beansprucht.  Das neue Design hat die RDMA-Stärken von NVIDIA Mellanox optimal umgesetzt und einen neuen Speicher-Stack erschaffen, um die ultra-niedrige Latenz und die hohe Bandbreite voll auszunutzen. Aber am meisten hat mich die einfache Handhabung des Systems beeindruckt. Wir haben den Speicher einfach eingesteckt und innerhalb von Minuten war er einsatzbereit", fügt Mark Klarzynski hinzu.

Weitere Informationen über die finden Sie unter www.pny.eu.