30.11.2023 Neue Systeme und Software mit KI-nativer Architektur

HPE erweitert das KI-Angebot

Von: Berthold Wesseler

Unternehmen müssen ihre Cloud-native Umgebung um einen KI-nativen Ansatz erweitern, wenn sie generative KI, Deep Learning, Computer Vision oder klassisches maschinelles Lernen effektiv für ihr Geschäft nutzen wollen. Dieser Meinung ist jedenfalls der IT-Konzern und will mit seiner Plattform Greenlake die dafür erforderliche Evolution unterstützen. Dazu wurden heute auf der Kundenveranstaltung Discover Barcelona 2023 eine Reihe neuer KI-nativer und Hybrid-Cloud-Produkte und die erweiterte Zusammenarbeit mit Nvidia angekündigt.

Die gemeinsamen Angebote für Generative KI von Nvidia und HPE
Die neuen Hardware-Bausteine für Generative KI
Eigenschaften der Enterprise Computing Solution für Generative KI

Die neuen Produkte von Hewlett Packard Enterprise unterstützen die Modellentwicklung, Datenanalysen, File-Storage sowie KI-Tuning und -Inferenz. Die Grundlage dafür ist eine offene, KI-native – also speziell für KI-Anforderungen entwickelte – Architektur, die darauf ausgelegt ist, den KI-Lebenszyklus zu beschleunigen. HPE die mit den folgenden Attributen liefern:

Data-first-Pipeline zur Verwaltung öffentlicher und unternehmenseigener Daten über mehrere IT-Generationen hinweg
Hybrides Design für den KI-Einsatz an jedem Ort, vom Edge bis zur Cloud
In das gesamte Portfolio integrierte Supercomputer-Funktionen zum Trainieren selbst größter Modelle
Software für das Management des KI-Lebenszyklus‘, um Workflows für Training, Tuning und Inferenz zu beschleunigen
Hochleistungs-Netze für Traffic-Management in großen Clustern
Offenes Ökosystem für Wahlfreiheit ohne Herstellerbindung.

Komplettsystem für generative KI

Gemeinsam mit Nvidia hat der US-Hersteller auf dieser Basis ein vorkonfiguriertes Komplettsystem für KI-Tuning- und -Inferenz entwickelt, das für Organisationen jeder Größe geeignet sein soll. Kunden können damit vortrainierte Basismodelle mit privaten Daten schnell anpassen und in den Betrieb bringen, verspricht HPE. Dabei verbessern so genannte RAG-Workstreams – kurz für „Retrieval-Augmented Generation“ – die Datenqualität und die Genauigkeit der Anwendung. Das neue System umfasst die folgenden Komponenten:

Eine Rack-Scale-Architektur mit dem Proliant-Server DL380a, bestückt mit L40S-GPUs, Bluefield-3-DPUs und der Spectrum-X Ethernet Networking Platform von Nvidia. Das System wurde für das Feintuning eines Llama-2-Modells mit 70 Mrd. Parametern so dimensioniert: 16 Server und 64 GPUs.
Das Machine Learning Development Environment erhält neue Funktionen zum schnellen Prototyping und Testen von Modellen. Die Software Ezmeral vereinfacht mit neuen GPU-fähigen Funktionen die Bereitstellung und beschleunigt die Datenvorbereitung für KI-Anwendungen in der Hybrid Cloud.
Die Nvidia-Software AI Enterprise beschleunigt die Entwicklung und Bereitstellung von KI-Produktionsumgebungen – durch Features für Sicherheit, Stabilität und Verwaltbarkeit. Sie umfasst Nemo-Framework, Guardrailing-Toolkits, Werkzeuge für die Datenkuratierung und vortrainierte Modelle zur Optimierung generativer KI im Unternehmen.

Das neue System ist auch als Greenlake Flex Solution erhältlich. Diese umfasst zusätzlich auch Greenlake for File Storage mit der Software Zerto Cyber Resilience Vault zum Schutz von KI-Modellen und Datenquellen sowie Ops-Ramp-Software, die für Transparenz und Automatisierung über den gesamten KI-Lebenszyklus in heterogenen Multi-Cloud-Umgebungen sorgen soll.

Das vorkonfigurierte Komplettsystem für generative KI mit Nvidia soll im ersten Quartal des Jahres 2024 bestellbar werden. Das Machine Learning Development Environment als Managed Service und die Updates für Ezmeral sind ab sofort verfügbar, Greenlake for File Storage mit 30 TB NVMe-SSDs und Nvidias Quantum-2 soll noch im ersten Halbjahr 2024 folgen. Übrigens ist Greenlake auch für Anwender von Power-Systemen der IBM nutzbar – und zwar über den Virtuellen I/O-Server (VIOS).

Bildquelle: Hewlett Packard Enterprise