Neue KI-Chips machen Nvidia Konkurrenz
Neue KI-Prozessoren aus dem Silicon Valley
NVIDIA beherrscht den Markt für KI-Beschleuniger (eigentlich Hochleistungs-Grafikkarten) und wurde damit zu einem der am besten verdienenden Unternehmen mit einem fantastischen Börsenwert. Das lockt natürlich Konkurrenz an und so präsentierten gleich drei Silicon-Valley-Riesen neue KI-Chips: Intel, Meta und Google.
Intel Gaudi 3 AI-Accelerator
Intel stellte auf einer Konferenz Intel Gaudi 3 KI-Accelerator vor. Er ist für den Einsatz in KI-Clustern aus zehntausenden dieser Beschleuniger gedacht, die über Ethernet verbunden sind. Intel Gaudi 3 verspricht 4x mehr KI-Rechenleistung für BF16 und eine 1,5x höhere Speicherbandbreite als sein Vorgänger. Im Vergleich zum Nvidia H100 soll Intel Gaudi 3 eine durchschnittlich 50% schnellere Trainingszeit für Llama2-Modelle sowie für das GPT-3-Modell bieten. Der Beschleuniger bietet offene, Community-basierte Software und Ethernet-Netzwerke nach Industriestandard. Und er ermöglicht Unternehmen eine flexible Skalierung von einem einzelnen Knoten bis hin zu Clustern, Super-Clustern und Mega-Clustern mit Tausenden von Knoten.
Meta Training and Inference Accelerator
Meta (Facebook) meldet die nächste, verbesserte Generation seines "Meta Training and Inference Accelerator MTIA". Diese neue Version von MTIA bietet mehr als die doppelte Rechen- und Speicherleistung im Vergleich zur vorherigen Versikon. Sie wurde entwickelt, um die Ranking- und Empfehlungsmodelle, die den Nutzern hochwertige Empfehlungen liefern, effizient zu bedienen. Die Architektur des Chips ist darauf ausgerichtet, das richtige Gleichgewicht zwischen Rechenleistung, Speicherbandbreite und Speicherkapazität für die Bedienung von Ranking- und Empfehlungsmodellen zu schaffen. Im Oktober gab das Unternehmen bekannt, dass es bis zu 35 Milliarden US-Dollar in die Infrastruktur zur Unterstützung von KI investieren wird.
Google Axion-Prozessor
Google arbeitet ebenfalls schon seit längeren an KI-Prozessoren und präsentierte der Öffentlichkeit jetzt die Axion-Prozessoren, eine neue Generation von ARM-basierten CPUs für das Rechenzentrum. Sie basieren auf der Arm Neoverse V2-CPU und bieten Leistungssprünge CPU-basiertes KI-Training und Inferencing und vieles mehr. KI-Instanzen erreichen damit eine bis zu 30 % bessere Leistung als die schnellsten heute in der Cloud verfügbaren Instanzen auf ARM-Basis sowie bis zu 50 % mehr Leistung und eine 60 % bessere Energieeffizienz als vergleichbare Anwendungen auf x86-Basis.
Bild: Pete Linforth / Pixabay
