AIbase수정일

인텔, 대형 모델 추론 시장에 진입! GPU D 시리즈 출시: 최고 사양은 480GB의 그래픽 메모리가 있으며, 수조 개의 파라미터를 처리하기 위해 설계됨

OCP 글로벌 서밋에서 인텔은 AI 추론을 위한 새로운 GPU D 시리즈를 발표했습니다(코드명은 Crescent Island이며 제품 페이지는 D270입니다). 이 가속 카드는 게임 렌더링용 GPU와는 다르게 긴 컨텍스트 처리 및 다중 동시 추론을 위해 설계되었으며, 최대 480GB LPDDR5X 메모리를 지원합니다. 높은 메모리 용량과 저전력 소비, 원활한 호환성을 강조하며 AI 추론…

오픈 컴퓨팅 프로젝트(OCP) 글로벌 서밋에서 인텔은 AI 추론 분야를 위한 새로운 GPU D 시리즈(코드명 Crescent Island, 공식 제품 페이지에는 D270로 표기됨)의 비밀을 공개했습니다. 게임 렌더링에 초점을 맞춘 기존 GPU와는 달리, 이 시리즈의 가속 카드는 긴 �텍트 처리와 다중 동시 추론을 해결하기 위해 설계되었으며, 이는 인텔이 AI 추론 분야에서 또 한 번 강력한 움직임을 보인 것을 의미합니다.

핵심 뛰어난 지표: 높은 메모리 사용량, 낮은 전력 소비 및 부드러운 호환성

대규모 그래픽 메모리 상한치: D 시리즈는 최대 480GB LPDDR5X 그래픽 메모리를 지원합니다. 공식 데이터에 따르면, 단일 카드로는 3000억 개의 파라미터를 가진 모델을 처리할 수 있으며, 8개 카드 상호작용 시스템에서는 1조 개의 파라미터를 가진 거대한 모델도 원활하게 실행될 수 있습니다. (참고: 인텔 공식 PCIe 카드는 기본적으로 160GB 그래픽 메모리를 제공하며, 480GB 버전은 ODM 파트너에게 제공되는 맞춤형 상한치입니다.)

계산 및 에너지 효율 성능: 완전히 새로운 Xe3P 아키텍처를 기반으로, 래치 메모리 대역폭은 1.5TB/s에 달하며, FP8 정밀도에서 1.3PFLOPS의 연산 능력을 제공할 수 있고, 전체 칩의 소비 전력 상한은 350W로 제어됩니다.

쉬운 배포: 표준 PCIe 형태와 공기 냉각 방식의 디자인을 채택하여 기존 데이터 센터에 비싼 냉각 시스템을 개선할 필요가 없으며, 기업의 배포 장벽을 크게 낮춥니다.

왜 LPDDR5X를 선택하나요?

일반적으로 고전력 소모를 가진 최고급 AI 가속 카드는 고대역폭의 HBM 메모리를 선호하지만, LPDDR5X는 전력 소모가 중요한 모바일 기기에서 자주 사용됩니다. 인텔이 데이터 센터급 GPU에 LPDDR5X를 선택한 주된 이유는 매우 높은 에너지 효율과 대용량이라는 점입니다.

가장 큰 480GB의 용량을 가속 카드에 직접 장착함으로써, 대형 모델의 가중치 매개변수와 추론 과정에서의 컨텍스트 데이터를 단일 카드 메모리에 최대한 “부착”할 수 있습니다. 이로 인해 모델이 여러 카드로 분리되는 네트워크 통신 비용이 크게 줄어들며, 긴 프롬프트 처리, 엔터프라이즈급 AI 서비스, 멀티 테넌트 동시 접속 및 로봇 실시간 응답과 같은 고빈도 사용 시나리오에 매우 적합합니다.

 출시 진행 상황

현재 인텔 GPU D 시리즈는 고객에게 샘플을 제공하는 단계에 있으며, 공개된 가격과 정식 출시 시점은 아직 발표되지 않았습니다. 이 중요한 제품이 출시됨에 따라 데이터 센터 AI 추론 시장의 경쟁이 새로운 차원으로 진화할 것입니다.

원문 출처

AIbase

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요