IT지가 10월 29일 현장 소식, XHEART 신프레호투(新芯航途)가 오늘 대규모 모델 칩 X7 Ultra를 정식 발표했습니다. “대규모 모델이 칩을 정의한다”를 핵심 이념으로 삼아, 실제 양산 모델의 수요에서 출발하여 칩 아키텍처를 설계했으며,대규모 모델 연산력은 700 TOPS에 달합니다。
XHEART 신프레호투 CEO 리쭝린(李宗霖)은지능주행이 여러 소형 모델에서 엔드투엔드 대규모 모델로 이동함에 따라 칩 설계 방식도 이에 맞춰 변화해야 한다고 생각합니다. 이에 XHEART는 2023년 창업 초기에 실제 응용에서의 모델 수요를 출발점으로 삼아 칩 아키텍처를 역으로 도출하고, 연산·저장·데이터 흐름을 재구성하며, 미래 모델 진화를 위한 공간을 확보하기로 결정했습니다.
소개에 따르면, 신프레호투 X7 Ultra 대규모 모델 칩은 700 TOPS의 대규모 모델 연산력을 갖추었으며,양산 모델 실측 99.99% 정렬을 달성했습니다。
이 칩은 대규모 모델을 위해 전문 설계된 것으로 초대형 코어 NPU 아키텍처를 갖추었고, 코어 내 데이터 상호작용을 코어 간 데이터 상호작용과 비교할 때상호연결 속도가 TB/s 수준으로 크게 향상되었습니다. 또한칩의 다단계 캐시 아키텍처는 대용량·고동시성 특성을 지원하여 추론 지연과 전력 소모를 낮출 수 있습니다。
신프레호투 X7 Ultra는 고정밀 대규모 모델 전용 연산자 가속 엔진을 내장하고 있으며, Layernorm, Softmax, Transpose 등 일련의 Transformer 대규모 모델 핵심 연산자에 대해 극한의 하드웨어 최적화를 수행하고,FP16/FP32 고정밀 벡터 연산을 네이티브 지원하여모델 정밀도를 보장합니다.
이 칩의 NPU 하드웨어 병렬도 언락은 대규모 모델 추론의 잠재력을 충분히 발휘하게 하여,연산 활용률이 98.7%에 달합니다. 업계 플래그십 제품과 비교해 메모리 대역폭 소비가 80% 감소했고,에너지 효율이 100% 향상되었습니다。
신프레호투 X7 Ultra는 또한 중국 최초로 Armv9 차량용 CPU를 양산하며,성능이 20% 향상되고 에너지 효율이 10% 향상되었습니다. 또한 대형 클러스터 아키텍처는 멀티코어 협업 및 L3 메모리 접근 성능을 향상시켰으며,완전히 새로운 SVE2 벡터 처리 엔진을 통합하여이전 세대 NEON에 비해 더 강력한 DSP 성능을 갖추었습니다.
IT지가 신프레호투 지능주행 대규모 모델 칩 X7 Ultra의 핵심 하이라이트를 한 장의 그림으로 정리하여 아래와 같이 소개합니다: