최근 로컬에서 대형 모델을 실행하는 오픈소스 플랫폼 Ollama는 Mac 앱이 정식으로 대규모 업데이트를 맞이하며 텍스트 음성 변환 기능을 처음으로 추가했다고 발표했습니다. 이번 업그레이드는 로컬 AI 어시스턴트가 기존의 '읽고 쓸 수 있는' 단계에서 '말을 할 수 있는' 상호작용 단계로 전면적으로 나아가고 있음을 의미하며, Windows와 Linux 버전도 이후 뒤따를 예정입니다.
기반 기술과 프라이버시 보호 측면에서, 최초로 지원되는 음성 모델은 Gradium이 개발한 Phonon 시리즈입니다. 이 모델은 크기가 작고 기술 지표가 앞서 있으며, 사용자는 어떠한 클라우드 서비스에도 의존하지 않고 Ollama를 통해 직접 다운로드하여 Apple Silicon 칩을 탑재한 Mac 기기에서 실행할 수 있어, 데이터 프라이버시와 오프라인 사용을 중시하는 실제 시나리오에 매우 적합합니다. macOS 시스템을 기반으로 Ollama는 애플의 오픈소스 머신러닝 프레임워크 MLX를 채택하여 Apple Silicon의 통합 메모리 아키텍처가 지닌 하드웨어 장점을 최대한 활용해 실행 효율을 크게 향상시켰습니다.
공식 테스트 데이터에 따르면, M5Max 칩을 탑재한 MacBook Pro에서 Phonon을 실행할 경우 음성 생성 속도가 Gradium 자체 구현보다 35% 더 빠르며, 동시에 Hugging Face Transformers 참조 구현에 상응하는 극히 낮은 단어 오류률을 유지했습니다. 또한 이 기능은 실시간 음성 생성을 지원하여, 사용자는 AI가 전체 텍스트를 모두 출력하기를 기다릴 필요 없이 답변이 생성되는 과정에서 해당 음성을 동시에 들을 수 있어, 보다 자연스럽고 원활한 인간과 유사한 대화 경험을 제공합니다.
구체적인 음색과 언어 지원 측면에서, Phonon은 현재 영어, 프랑스어, 독일어, 스페인어, 포르투갈어 이 5개 언어의 독립 모델을 포괄하며, 5개 언어 전체를 지원하는 다국어 범용 모델도 갖추고 있고, 동시에 사용자가 취향에 따라 미국식 또는 영국식 등 서로 다른 억양을 자유롭게 선택할 수 있도록 허용합니다. GitHub에서 큰 인기를 얻은 오픈소스 프로젝트인 Ollama는 현재 약 18.5만 개의 Star와 약 1.86만 개의 Fork를 보유하고 있으며, 개발자와 일반 사용자에게 편리하고 안전한 로컬 대형 모델 실행 방안을 지속적으로 제공하고 있습니다.