据9to5Mac于10月26日报道,Ollama的Mac应用现已支持本地文本转语音生成,首批接入Gradium开发的Phonon系列模型,Windows和Linux版本的支持将稍后推出。
Ollama是一个可在本地下载和运行开放AI模型的平台,也提供云端更强大模型的访问,支持macOS、Windows和Linux。其项目开源,在GitHub上获得近18.5万颗星和约1.86万次复刻。在macOS上,Ollama使用苹果的MLX开源机器学习框架,利用Apple Silicon的统一内存架构,使受支持的AI模型运行得更快、更高效。用户可从Hugging Face等仓库下载兼容的开源AI模型,直接在Mac上运行,无需联网或将数据发送到外部服务器,但可运行模型的性能和规模取决于Mac硬件。
Ollama表示,文本现在可以转换为语音。首个语音模型是Phonon,这是Gradium推出的一组小型、先进的文本转语音模型。语音模型目前已在macOS上提供,Windows和Linux支持即将到来。语音可实时生成,用户能在AI生成回复的过程中收听,而不必等待整段回复完成。
Ollama称,得益于苹果MLX框架,在搭载M5 Max的MacBook Pro上测试时,语音生成速度比Gradium自己的实现快35%,同时词错误率与Hugging Face Transformers中的参考实现相当。Phonon支持英语、法语、德语、西班牙语和葡萄牙语五种语言,每种语言有独立模型,另有一个支持全部五种语言的多语言模型。根据模型不同,用户还可选择不同口音的多种声音,包括美式英语和英式英语。
新的语音模型现已面向运行Ollama 0.40.11或更高版本的Apple Silicon Mac提供,用户可通过Ollama直接下载Phonon。Ollama还提供了音频示例,以及通过其API使用这些模型的说明和代码示例。