Auf dem Global Summit des Open Compute Project (OCP) hat Intel den Schleier über der neuen GPU-D-Serie für den Bereich der KI-Inferenz gelüftet (Codename Crescent Island, auf der offiziellen Produktseite als D270 gekennzeichnet). Anders als herkömmliche, auf Gaming-Rendering fokussierte GPUs wurde diese Serie von Beschleunigerkarten speziell für die Lösung von Langkontext-Verarbeitung und mehreren gleichzeitigen Inferenzen entwickelt – ein erneuter kraftvoller Vorstoß Intels auf der Wettbewerbsstrecke der KI-Inferenz.
Kernpunkte mit Glanzleistung: hoher Speicherausbau, niedriger Energieverbrauch und nahtlose Kompatibilität
Gigantische Speicherobergrenze: Die D-Serie unterstützt bis zu 480 GB LPDDR5X-Videospeicher. Laut offiziellen Angaben kann eine einzelne Karte Modelle mit bis zu 300 Milliarden Parametern tragen, während ein Acht-Karten-System problemlos riesige Modelle mit über 1 Billion Parametern betreiben kann. (Hinweis: Die Standard-PCIe-Karte von Intel im Referenzdesign ist mit 160 GB Videospeicher ausgestattet, die 480-GB-Version ist die kundenspezifische Obergrenze für ODM-Partner)
Rechenleistung und Energieeffizienz: Basierend auf der neuen Xe3P-Architektur erreicht die Speicherbandbreite 1,5 TB/s (1.5 TB/s), bei FP8-Präzision werden 1,3 PFLOPS (1.3 PFLOPS) an Rechenleistung geliefert, während die Leistungsaufnahme der gesamten Karte auf 350 W begrenzt ist.
Einsatzbereit nach dem Auspacken: Dank standardmäßiger PCIe-Bauform und Luftkühlung sind keine kostspieligen Flüssigkeitskühlung-Umrüstungen bestehender Rechenzentren nötig, was die Einstiegshürde für Unternehmen erheblich senkt.
Warum LPDDR5X?
In der Regel setzen leistungsstarke, energiehungrige Top-KI-Beschleuniger auf hochbandbreitigen HBM-Speicher, während LPDDR5X üblicherweise in energieempfindlichen Mobilgeräten zu finden ist. Dass Intel nun bei einem GPU-Beschleuniger für Rechenzentren LPDDR5X wählt, liegt vor allem an dem außerordentlich hohen Wirkungsgrad und der sehr großen Kapazität.
Wenn bis zu 480 GB Kapazität direkt auf der Beschleunigerkarte untergebracht werden, können die Gewichtungsparameter großer Modelle und die Kontextdaten während der Inferenz möglichst im Speicher einer einzelnen Karte „verbleiben“. Dies reduziert den Netzwerkkommunikationsaufwand beim Aufteilen von Modellen über mehrere Karten erheblich und passt hervorragend zu häufigen Anwendungsszenarien wie der Verarbeitung langer Prompts, KI-Diensten auf Unternehmensebene, Multi-Tenant-Gleichzeitigkeit sowie Echtzeitreaktionen von Robotern.
Markteinführung
Die Intel-GPU-D-Serie befindet sich derzeit in der Phase der Kundenmuster; ein öffentlicher Verkaufspreis sowie ein genauer Termin für die offizielle Markteinführung wurden noch nicht bekannt gegeben. Mit dem Launch dieses Schwergewichts wird der Wettbewerb im Markt für KI-Inferenz in Rechenzentren zweifellos eine neue Runde der Eskalation erleben.