IT之家 Meldung vom 27. Oktober: Die Open-Source-Plattform Ollama zum lokalen Ausführen von KI-Modellen gab am 24. Oktober bekannt,dass ihre Mac-App nun offiziell die Erzeugung von Text-zu-Sprache (TTS) unterstützt,Versionen für Windows und Linux sollen folgen.
Das Technikmedium 9to5Mac sieht darin die erste Sprachgenerierungsfunktion von Ollama, mit der lokale KI vom „Lesen und Schreiben“ einen Schritt weiter zum „Sprechen“ gelangt.
Das erste unterstützte Sprachmodell ist die von Gradium entwickelte Phonon-Reihe. Das Modell ist relativ klein und technisch fortschrittlich; Nutzer benötigen keinen Cloud-Dienst, können es direkt über Ollama herunterladen und auf Apple Silicon Macs ausführen – ideal für datenschutzorientierte Szenarien mit Offline-Nutzung.
Unter macOSnutzt Ollama das Open-Source-Machine-Learning-Framework MLX von Appleund macht sich zur Steigerung der Effizienz voll die Unified-Memory-Architektur von Apple Silicon zunutze.
Laut offiziellen Tests erreicht Phonon auf einem MacBook Pro mit M5 Max Chip bei einer Wortfehlerrate, die der Referenzimplementierung von Hugging Face Transformers entspricht,eine bis zu 35% schnellere Sprachgenerierung als die eigene Implementierung von Gradium.
Die neue Funktion unterstützt zudem Echtzeit-Sprachgenerierung: Nutzer müssen nicht warten, bis die KI den vollständigen Text ausgegeben hat, sondern können die Sprache bereits während der Antwortgenerierung parallel hören – das Interaktionserlebnis kommt einem natürlichen Gespräch näher.
Wie IT之家 unter Verweis auf den Blogbeitrag berichtet, bietet Phonon derzeit eigenständige Modelle für fünf Sprachen – Englisch, Französisch, Deutsch, Spanisch und Portugiesisch – sowie ein multilinguales Modell, das alle fünf Sprachen unterstützt; Nutzer können außerdem Stimmen mit verschiedenen Akzenten wie amerikanischem oder britischem Englisch wählen.
Ollama ist eines der beliebtesten KI-Open-Source-Projekte auf GitHub mit fast 18.5 万 Stars und etwa 1.86 万 Forks; Nutzer können offene KI-Modelle lokal herunterladen und ausführen oder bei Bedarf leistungsstärkere Modelle in der Cloud einbinden.