IT之家 10월 27일 소식, 로컬에서 AI 모델을 실행하는 오픈소스 플랫폼 Ollama가 10월 24일 발표하기를,Mac 앱이 공식적으로 텍스트 음성 변환(TTS) 생성을 지원하며,Windows 및 Linux 버전도 이어서 지원할 예정이다.
테크 매체 9to5Mac은 이번이 Ollama에 음성 생성 기능이 처음 도입된 것으로, 로컬 AI가 '읽고 쓸 수 있는' 단계에서 한층 더 나아가 '말할 수 있는' 단계로 나아간 것이라고 평가했다.
최초로 지원되는 음성 모델은 Gradium이 개발한 Phonon 시리즈다. 이 모델은 크기가 작고 기술 지표가 앞서 있으며, 사용자는 클라우드 서비스에 의존할 필요 없이 Ollama를 통해 직접 다운로드하여 Apple Silicon Mac에서 실행할 수 있어 개인정보 보호를 중시하고 오프라인 사용이 필요한 상황에 더 적합하다.
macOS에서Ollama는 애플의 오픈소스 머신러닝 프레임워크 MLX를 채택하여Apple Silicon의 통합 메모리 아키텍처를 최대한 활용해 실행 효율을 높인다.
공식 테스트에 따르면, M5 Max 칩을 탑재한 MacBook Pro에서 Phonon은 Hugging Face Transformers 참조 구현과 동등한 단어 오류율을 유지하는 전제 아래,음성 생성 속도가 Gradium 자체 구현보다 35% 빠르다.
새 기능은 실시간 음성 생성도 지원하여, 사용자는 AI가 텍스트 전체를 출력하기를 기다릴 필요 없이 답변이 생성되는 과정에서 동시에 음성을 들을 수 있어 상호작용 경험이 자연스러운 대화에 더 가까워진다.
IT之家는 블로그 글을 인용해, Phonon은 현재 영어, 프랑스어, 독일어, 스페인어, 포르투갈어 5개 언어의 독립 모델을 제공하며 5개 언어를 모두 지원하는 다국어 모델도 함께 제공하고, 사용자는 미국식 영어나 영국식 영어 등 서로 다른 억양의 음색을 선택할 수도 있다고 소개했다.
Ollama는 GitHub에서 널리 사랑받는 AI 오픈소스 프로젝트 중 하나로, 약 18.5만 개의 Star와 약 1.86만 개의 Fork를 보유하고 있으며, 사용자는 로컬에서 오픈 AI 모델을 다운로드하고 실행할 수 있고 필요에 따라 클라우드의 더 강력한 모델에 연결할 수도 있다.