通过推测执行隐藏端侧级联语音智能体中的工具延迟

研究者提出面向端侧级联语音智能体的推测性工具执行方案，通过 Predictor 模块从部分 ASR 假设中预测工具调用，在用户说话时提前执行并缓存结果，再注入 LLM 提示词以加快响应。在完整实现的 Android 语音助手上，该方法将首音频响应中位时间从 5.79s 降至 4.60s，标准差从 3.49s 降至 2.81s。