Kommt IBM Power10 ohne GPUs aus?

Die MMA-Engine ist die Antwort der IBM auf externe Beschleuniger wie FGPAs und GPUs für Maschine-Learning-Workloads, denn mit MMAs lassen sich vor allem KI-Applikationen deutlich effizienter, schneller und direkter in die Kernanwendungen integrieren. So entsteht eine Alternative zur Verwendung separater GPUs, weil sich dank der In-Core-Fähigkeiten des Power10 mit seinen MMA-Engines die Berechnungen direkt im Datenstrom durchführen lassen. Ein Offload auf die GPU ist daher in vielen Fällen nicht mehr nötig.

GPUs im Power10-System überflüssig?

Die Frage ist: Machen die MMAs also GPUs im Power10-System überflüssig? Der Hersteller Nvidia, dessen Volta-, T4- und Tesla-GPU noch in die Power9-Server eingebaut werden, wollte diese Frage nicht beantworten. Stattdessen heißt es auf Anfrage von DV-Dialog: „Bei Nvidia konzentrieren wir uns auf die Demokratisierung unserer GPU-beschleunigten Computing-Plattform auf allen CPUs – einschließlich x86, Power und Arm.“

Bei Power9 war die GPU noch integraler Architekturbestandteil – und trägt z.B. maßgeblich zur Performance des Supercomputers Summit bei. Nun ist die GPU ebensowenig im neuen Power10-System zu finden wie Nvidias Verbindungstechnologie NVLink, die nach IBM-Angaben ausgedient hat. Im Power10-Prozessor will IBM die externen Schnittstellen Poweraxon 2.0 und „Open Memory Interface“ (OMI) auf eine Bandbreite bis zu 1 Terabyte/s beschleunigen. Außerdem wird PCI Express 5.0 integriert, um den inzwischen genügend performanten Industriestandard PCIe auch zur CPU/GPU-Kopplung zu nutzen. Beide Hersteller sind sich einig, dass NVLink bei Power10 überflüssig ist, weil PCIe 5.0 für den Anschluss von GPUs schnell genug ist; allerdings war die High-Speed-Unterstützung von NVLink auf dem Chip bisher ein Alleinstellungsmerkmal für die Power-Systeme.

Nvidia und IBM arbeiten weiter zusammen

Auf unsere Frage, ob und in welchen Bereichen Nvidia weiterhin mit IBM zusammenarbeitet, antwortet der GPU-Hersteller: „Wir arbeiten mit IBM zusammen, um unsere GPU-Beschleunigung in die IBM Cloud zu bringen, und mit IBM Storage, was die Datenlokalität und die Software-Stack-Beschleunigung betrifft. IBM Storage unterstützt nicht nur Nvidia-Technologien wie das Quantum Infiniband Networking, sondern ist auch ein qualifizierter DGX-POD-Partner und wird für die Verwendung auf dem DGX Super-POD qualifiziert. Zu den Bemühungen um Software-Stack-Beschleunigung gehört auch die Software Maximo, die GPU-beschleunigt ist.“

Bleibt die Frage, wo Nvidia langfristig den Einsatz von Grafikprozessoren im Rechenzentrum sieht, wenn man bedenkt, dass neben IBM auch die Prozessorhersteller AMD, ARM und Intel neue CPU-Designs mit nativen Mathematik-Engines vorgestellt haben, so dass MMAs in Zukunft nicht nur in Power10-Systemen, sondern wahrscheinlich auch in vielen anderen Server-Prozessoren als zum Einsatz kommen werden. Die Antwort von Nvidia lautet: „Überall! Unsere End-to-End-Plattform für beschleunigtes Rechnen, die in Hardware und Software integriert ist, ermöglicht es Unternehmen, eine robuste und sichere Infrastruktur aufzubauen, die alle modernen Workloads im Rechenzentrum unterstützt – einschließlich KI, HPC, Datenanalyse und Grafik.“

Bildquelle: IBM / Nvidia