跳到文章正文
开源项目 编辑推荐

Mac 版 Ollama 支持本地语音合成:断网也能让 AI 开口说话

本地跑 AI 模型的开源平台 Ollama,10 月 24 日宣布 Mac 应用正式支持文本转语…

本地跑 AI 模型的开源平台 Ollama,10 月 24 日宣布 Mac 应用正式支持文本转语音。第一个落地的是 Gradium 开发的 Phonon 系列模型,用户不用连云端,在 Apple Silicon 的 Mac 上就能让模型开口说话。Windows 和 Linux 版本会随后跟进。

一分钟速览

  • Ollama Mac 应用新增文本转语音,Windows 与 Linux 版本稍后支持。
  • 首个支持的语音模型是 Gradium 的 Phonon 系列,体积小、可离线运行。
  • macOS 上使用苹果的 MLX 框架,调用统一内存架构提升效率。
  • 在 M5 Max 的 MacBook Pro 上,生成速度比原实现快 35%,词错误率相当。
  • 支持实时语音,文字一边生成,声音一边输出。

为什么本地语音值得关注

过去一年,本地大模型解决的是能读会写,但输入输出仍以文字为主。加上语音合成之后,本地 AI 才真正具备完整的对话形态。对注重隐私的人来说,这一点很关键:会议记录、私人笔记、医疗信息都不必上传到别人的服务器,断网也能用。

语音还打开了另一类场景。视障用户读文档、老人在没有键盘的设备上操作、创作者快速给视频配音,这些需求原来要么依赖云服务,要么得装一堆专用软件。现在一个本地运行时就能覆盖,安装和切换模型都只需要一条命令。

技术细节:MLX 与 Phonon

在 macOS 上,Ollama 采用苹果开源的机器学习框架 MLX,利用 Apple Silicon 的统一内存架构来提升运行效率。官方测试显示,在搭载 M5 Max 芯片的 MacBook Pro 上,Phonon 在保持与 Hugging Face Transformers 参考实现相当的词错误率的前提下,语音生成速度比 Gradium 自己的实现快 35%。

速度快 35% 听起来不算爆炸性,但对实时语音意义很大。人说话时,延迟超过几百毫秒就会觉得对方在发呆。新功能支持实时生成,用户不必等整段文字写完再听,可以在回答生成的过程中同步播放,交互更接近自然对话。

语言与口音的现状

Phonon 目前提供英语、法语、德语、西班牙语和葡萄牙语的独立模型,另有支持五种语言的多语言模型,用户还能选择美式英语或英式英语等不同口音。中文暂时不在首批名单里,这可能是国内用户最直接的遗憾。

不过模型是模块化的,接入新语言主要看社区和数据质量,而不是运行时本身的限制。Ollama 在 GitHub 上有近 18.5 万颗星、约 1.86 万个分叉,生态足够大,补齐语言通常只是时间问题。

趋势洞察

语音合成的竞争正在从像不像人转向能不能在本地实时跑。云端方案音质更好,但成本、延迟和隐私三道坎始终存在;本地方案音质稍逊,却胜在可控。随着笔记本芯片的神经网络单元越来越强,这条分界线还会继续往本地移动。真正决定体验的,可能不是模型参数,而是端到端延迟和断网时的可用性。

本文地址:https://www.163264.com/18300