현지 시간 목요일, Meta는 공식적으로 지금까지 가장 뛰어난 성능의 오픈 웨이트 대형 모델인 Muse Spark Open을 출시했으며, 애플과의 협력을 발표해 해당 모델이 Mac 컴퓨터에서 로컬로 실행되도록 추진하고 있습니다.
혼합 전문가(MoE) 아키텍처를 채택한 네이티브 멀티모달 대형 모델인 Muse Spark Open은 총 파라미터 수가 8160억(그중 420억이 활성 파라미터)에 달하며, 최대 100만 토큰의 컨텍스트 윈도우를 지원합니다. Meta는 이 모델이 코딩과 지능형 에이전트 작업을 위해 설계되었으며, 장기 작업 처리, 복잡한 소프트웨어 엔지니어링 문제 및 다단계 추론에서 탁월한 성능을 보인다고 밝혔습니다. Meta가 공개한 벤치마크 테스트에서 이 모델은 워크플로, 도구 호출, 지식 추론, 지식 신뢰성, 복잡한 시각적 추론, 이미지 사실 질의응답의 여섯 가지 테스트에서 모두 1위를 차지했으며, 공식적으로는 지금까지 가장 뛰어난 성능의 미국 오픈 웨이트 모델로 불렸습니다. 다만 테스트 데이터에 따르면, 소프트웨어 개발 및 일부 다른 작업에서는 Kimi, Qwen(천문), Zhipu(즈푸) 등 중국 오픈소스 모델이 여전히 더 우수한 성능을 보였습니다.
이번 발표에서 가장 주목받는 하이라이트 중 하나는 Meta와 애플의 뜻밖의 협력입니다. 팀 쿡이 애플을 이끄는 동안 두 회사는 여러 차례 갈등을 빚었으며, 쿡은 Meta가 사용자 프라이버시를 침해했다고 비난했고 저커버그도 애플에 혁신이 부족하다고 조롱한 바 있습니다. 그러나 오픈소스 AI라는 공동의 이익에 힘입어 양사는 화해를 선택했습니다. Meta 컴퓨팅 부문 공동 책임자이자 애플 디렉터를 지낸 다니엘 그로스가 이번 협력을 성사시킨 핵심 인물 중 한 명이 되었습니다.
소프트웨어 및 하드웨어 호환성 측면에서 Meta는 애플 칩에 최적화된 최신 버전의 오픈소스 머신러닝 프레임워크인 MLX를 활용해 Muse Spark Open을 심층 최적화하여 M5Ultra 프로세서를 탑재한 Mac Studio에 완벽하게 적합하도록 만들었습니다. Meta는 이 두 가지의 결합이 개인용 컴퓨터에서 강력한 모델을 실행하는 최적의 방안이라고 밝혔습니다. 공식 소개에 따르면, 애플의 최신 Mac Studio(M5Ultra)는 최대 512GB 통합 메모리를 지원하며, 두 대의 머신을 연결하면 이 모델을 온전히 실행할 수 있습니다.
다만 높은 하드웨어 사양은 적지 않은 비용 장벽을 가져왔습니다. 저커버그가 이미 소셜 미디어에 최고 사양 Mac Studio 두 대로 이 모델을 실행하는 사진을 공개했지만, 애플이 공식 설정한 512GB 버전은 10월 말 판매 예정입니다. 현재 판매 중인 256GB Mac Studio(가격 1만 달러 이상) 기준으로 약 1TB 메모리의 클러스터를 구성하면 구매 비용이 4만 달러를 넘게 됩니다. 가격이 만만치 않지만, 장기적으로 클라우드 컴퓨팅 파워를 임대해야 하는 개발자에게는 로컬 하드웨어를 구매하는 것이 임대 비용 절감으로 비용을 회수할 수 있을 뿐만 아니라 컴퓨팅 파워 여유와 데이터 프라이버시도 함께 확보할 수 있습니다.
Meta AI 책임자 왕타오는 양사가 일부 분야에서 여전히 경쟁 관계에 있지만, 이것이 적합한 분야에서의 협력을 가로막지는 못한다고 지적했습니다. 애플 칩 외에도 Muse Spark Open은 엔비디아, AMD 및 인텔 칩에 대해 전면적으로 최적화되었으며, 다양한 주류 추론 엔진과 호환됩니다. 개발자는 여러 플랫폼을 통해 API를 호출하거나, 모델 가중치를 다운로드하여 직접 배포할 수도 있습니다.