모어스레드(摩尔线程), 꾀뛰星辰(阶跃星辰) Step 5 Preview 대형 모델의 Day-0 어댑테이션 최초 완료
AIbase 베이스
게시일AI 뉴스 정보 · 1분 분량 · Oct 16, 20268대형 모델과 국산 하드웨어의 생태계 융합이 액셀러레이터를 밟고 있다. 10월 15일, 꾀뛰星辰(阶跃星辰)이 공식적으로 신세대 대형 모델 Step5Preview를 오픈소스로 공개했다. 같은 날, 모어스레드(摩尔线程)는 공식 발표를 통해 자사의 MTT S5000 지능 컴퓨팅 카드 및 이에配套하는 MUSA 소프트웨어 스택이 첫 시간에 해당 모델의 Day-0 어댑테이션을 완료했다고 밝히며, 매우 높은 대응 및 반복 개발 효율을 보여주었다.
기술 사양 측면에서 Step5Preview는 진보된 희소 MoE 아키텍처를 채택했으며, 총 파라미터 수는 600B에 달하고, token당 활성 파라미터는 27B이며, 최대 100만 token의 초장문맥 윈도우를 네이티브로 지원한다. 강력한 하드웨어와 소프트웨어의 기반 지원에 힘입어, 모어스레드의 이번 어댑테이션 작업은 하이브리드 어텐션, 혼합 정밀도 추론, 투기 디코딩 등 핵심 환경을 깊이 있게 커버했다.
이번 양사의 효율적인 협력은 국산 지능 컴퓨팅 하드웨어가 최전선 초대형 모델 생태계를 지원하는 능력이 새로운 단계로 올라섰음을 보여줄 뿐만 아니라, 수많은 개발자들이 국산 컴퓨팅 플랫폼에서 복잡한 장문 대형 모델을 배포하고 실행할 수 있는 성숙하고 신뢰할 수 있는 기반 구현 경로를 제공한다.
본 문서는 AIbase 데일리에서 제공
【AI 데일리】코너에 오신 것을 환영합니다! 여기는 매일 인공지능의 세계를 탐험하는 안내서입니다. 매일 저희는 AI 분야의 핫한 콘텐츠를 제공하며, 개발자에 초점을 맞추어 기술 트렌드를 파악하고 혁신적인 AI 제품·응용을 이해하도록 돕습니다.
—— AIbase 데일리 팀 제작© Copyright AIbase 베이스 2024, 출처 보기 -