Sierra 发布 Voice Sommelier:为品牌匹配最佳语音的实践指南
Sierra 推出 Voice Sommelier,一套为品牌选择 AI 语音的最佳实践方法。该指南聚焦如何根据品牌调性匹配语音参数(如音高、语速、音色),而非仅依赖默认选项。Sierra 强调,合适的语音能提升用户信任感与交互完成率,建议品牌通过 A/B 测试和用户反馈迭代优化语音选择。
Sierra 推出 Voice Sommelier,一套为品牌选择 AI 语音的最佳实践方法。该指南聚焦如何根据品牌调性匹配语音参数(如音高、语速、音色),而非仅依赖默认选项。Sierra 强调,合适的语音能提升用户信任感与交互完成率,建议品牌通过 A/B 测试和用户反馈迭代优化语音选择。
OpenAI 介绍 gpt-realtime 语音模型和 Realtime API 正式可用(GA)后的接口变化与新功能。
推荐理由:官方逐一解释了 GA 版接口变化和新功能的使用场景,对正在接入 Realtime API 的开发者有直接参考价值。
FireRedTeam 发布 FireRedChat,一个完全自托管的实时语音 AI 智能体全双工交互解决方案。系统集成了 TTS、ASR、pVAD(个性化语音活动检测)和 EoT(结束轮次检测),不依赖外部 API、无数据泄露、部署完全可控。
推荐理由:官方发布了可完全自托管的实时语音智能体方案,组件构成和部署路径都写清楚了,适合评估私有化语音交互搭建。
FireRedTeam 发布 FireRedTTS-2,一款面向播客和聊天机器人的长对话流式 TTS 系统,支持最多 3 分钟、4 个说话人的多语种对话生成,覆盖中英日韩法德俄语并支持零样本跨语言音色克隆。
推荐理由:官方开源了长对话流式语音合成模型,给出多语言支持、延迟数据和部署方案,适合关注播客与对话生成的读者参考。
Microsoft AI(MAI)发布语音生成模型 MAI-Voice-1,单张 GPU 可在一秒内生成一分钟音频,已用于 Copilot Daily 和 Podcasts。
推荐理由:官方公布两款自研模型的技术细节与试用入口,可据此了解其训练规模和落地进展。
OpenAI 发布更先进的语音到语音模型 gpt-realtime,并带来 Realtime API 更新。新增能力包括 MCP server 支持、图像输入,以及 SIP 电话呼叫支持。
推荐理由:官方发布明确了语音模型升级和 API 新增能力范围,读者可据此评估对语音应用开发的可用性。
OpenRouter 平台现支持在应用中使用语音输入功能,并允许通过 URL 发送 PDF 文件。该功能适用于平台上的任意模型。
OpenAI Developers 发布了关于 Realtime API 和音频处理的官方指南,内容涵盖如何构建实时语音代理、进行实时翻译以及实现流式转录。该指南主要面向开发者,提供低延迟场景下的技术实现参考。
OpenAI 开发者文档发布了一篇关于如何使用 Realtime API 构建实时语音翻译应用的指南,涵盖了低延迟流式音频处理等技术要点。
Mistral 宣布 Le Chat 上线多项新功能,包括 Deep Research 预览模式、基于 Voxtral 模型的语音模式、由 Magistral 推理模型驱动的多语言思考模式、按项目组织对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。
Mistral 发布语音理解模型 Voxtral,含 24B 和 3B 两个版本,均采用 Apache 2.0 许可并可在 Hugging Face 下载,同时上线 API,转录定价每分钟 $0.001 起。
推荐理由:官方发布开源语音理解模型,给出能力细节、基准对比和价格,读者可据此评估是否替代现有 ASR 方案。
OpenMOSS 发布并开源 MOSS-TTSD-V0,支持中英双语对话语音生成、零样本双说话人音色克隆、声音事件控制和长语音生成,模型权重、推理代码和 API 全部开源并支持商用。
推荐理由:原文给出训练数据规模、Codec 设计和对比结果,读者可据此评估这个开源对话语音模型的可复用价值。
Sierra 分享其 AI 语音智能体在真实通话中的三项经验:自研 Voice Activity Detection(VAD)系统可区分背景噪音、打断与附和;智能体能同时思考与倾听、倾听与说话、说话与思考,并实时纠错;语音场景下更多上下文反而提升问题解决效果。Sierra 称其平台上的 AI 智能体可提供 24/7 语音支持,无需等待、转接或回拨,无法解决时可无缝转接人工坐席。
Hugging Face 在 Inference Endpoints 上推出新的 OpenAI Whisper 部署选项,推理由 vLLM 驱动,Whisper Large V3 的 RTFx 相比此前版本提升近 8 倍且转录质量不降。
印度政府依据 IndiaAI Mission 选定 Sarvam 从零构建印度主权大语言模型,并提供专属算力资源。模型具备推理能力、面向语音设计并精通印度语言,计划实现大规模安全部署。
推荐理由:官方公告明确了主权模型的三档规格与本土部署定位,可以据此了解印度 AI 基础设施的建设思路。
OpenAI 在 API 中推出新一代音频模型。开发者首次可以指示文生语音模型以特定方式说话,例如像有同理心的客服人员那样讲话,为语音 Agent 带来更深层的自定义能力。
推荐理由:原文来自 OpenAI 官方,说明开发者可用自然语言指示语音模型按特定方式说话,语音 Agent 的自定义方式值得关注。
Zyphra 以 Apache 2.0 许可发布 Zonos-v0.1 beta,包含 1.6B transformer 与 1.6B SSM hybrid 两个实时 TTS 模型,后者是首个开源 TTS SSM 模型。
推荐理由:官方发布了模型权重、API 定价和架构细节,读者可以据此评估开源 TTS 与专有模型的差距与可用性。
OpenMOSS 团队发布端到端语音大模型 SpeechGPT 2.0-preview,在百万小时级中文语音数据上训练,实现 200ms 以内延迟,支持实时打断、多情感多风格多音色控制和角色扮演,并已开源推理代码、模型权重与方法介绍(github.com/OpenMOSS/SpeechGPT-2.0-preview)。
FireRedTeam 开源工业级 ASR 模型 FireRedASR,支持普通话、中文方言和英文,在公开普通话 ASR 基准上取得 SOTA,并具备歌词识别能力。
推荐理由:原文给出两个模型变体的架构差异和公开基准 CER/WER 对比数字,读者可据此评估选型。
Sierra 宣布其 AI 智能体现在可以接听电话,将对话式 AI 从聊天扩展到语音渠道。该语音能力可接入现有呼叫中心平台与 IVR 系统,支持实时情绪识别、必要时转接人工,并在每次转接时附上 AI 生成的摘要。Sierra 称其聊天智能体的客户满意度评分多在 4.5/5 以上。
OpenAI 推出 Realtime API,开发者现在可以在应用中构建快速的语音到语音(speech-to-speech)体验。
推荐理由:原文宣布 Realtime API 开放,开发者可以把快速语音到语音体验直接构建进应用。
FireRedTeam 在 GitHub 发布可流式生成的语音合成系统 FireRedTTS-1S,提供预训练权重、推理代码和技术报告。支持零样本声音克隆,新增 flow matching 解码器可选,参考音频建议 3 到 10 秒,项目仅限学术研究用途。
通义 FunAudioLLM 团队开源基于 LLM 的 TTS 系统 Fun-CosyVoice 3.0,官方称在内容一致性、说话人相似度和韵律自然度上超越前代 CosyVoice 2.0,面向零样本多语言语音合成。
推荐理由:官方发布开源 TTS 新版本,附评测表、安装与部署方式,适合关注多语言语音合成落地的开发者参考。
SenseVoice 是一个语音理解基础模型,支持 ASR、语种识别、语音情感识别和音频事件检测。发布的 SenseVoiceSmall 检查点支持普通话、粤语、英语、日语和韩语,并输出情感与事件标签;采用非自回归端到端架构,同参数量级下推理速度比 Whisper-Small 快 5 倍以上、比 Whisper-Large 快 15 倍以上。
推荐理由:官方仓库文档同时给出基准对比、部署路径和微调方案,读者可以据此评估 SenseVoice 在中英文语音识别场景的可用性。
OpenAI 将 GPT-4o 向所有 ChatGPT 用户免费开放,无广告。全新语音(及视频)模式响应速度接近人类,表现力极强,被 Sam Altman 称为「用过最好的计算机界面」,像电影里的 AI。未来还将支持个性化、代操作等功能。
推荐理由:Sam Altman 解读 GPT-4o 发布,强调语音交互与免费策略
Eugene Yan 分享他基于 Vapi 平台和 claude-3-sonnet 模型搭建的语音 AI 教练 Tara,用于散步时倾诉焦虑、梳理思路和预演困难对话。文章给出 10 分钟搭建教程,包括系统提示词、购买每月 2 美元的虚拟号码,并公开了演示号码 +1 (206) 558 8782。
OpenAI 分享了自定义语音生成模型 Voice Engine 小规模预览的经验教训。该模型可根据文本创建自定义语音,目前仍处于小范围测试阶段。
Hugging Face 推出 TTS Arena,一个在真实使用中对比评测文生语音(TTS)模型的基准平台。正文抓取失败,仅标题可用,更多细节以原文链接 https://huggingface.co/blog/arena-tts 为准。
未来,一旦我们模型的稳健性超过某个阈值,我们将拥有*极其有效*且极其便宜的 AI 心理咨询。这将从根本上改善人们的生活体验。这是我最热切期待的应用之一。
Just had a quite emotional, personal conversation w/ ChatGPT in voice mode, talking about stress, work-life balance. Interestingly I felt heard & warm. Never tried therapy before but this is probably it? Try it especially if you usually just use it as a productivity tool.
Hugging Face 发布音频数据集完整指南,演示用 🤗 Datasets 库一行代码加载 GigaSpeech 等数据集并用 13 行代码完成重采样、预处理和过滤。指南还介绍了流式模式可绕过磁盘空间限制(GigaSpeech xl 配置需超 1TB 存储),并汇总了 Hub 上热门的语音识别、语音翻译和音频分类数据集。
Hugging Face 发布使用 🤗 Transformers 对 Whisper 进行多语言语音识别(ASR)微调的分步教程。
推荐理由:完整给出从数据准备到训练和 Gradio 演示的代码流程,仅用 8 小时印地语数据把 WER 从 63.5% 降到 32%,方法可直接迁移到其他语言。
OpenAI 训练并开源了名为 Whisper 的神经网络,其英文语音识别的稳健性和准确率接近人类水平。
推荐理由:原文来自 OpenAI 官方,点明 Whisper 在英文语音识别上的稳健性和准确率接近人类水平,并直接开源。