Baseten 优化 Qwen3-ASR 批量转写,吞吐提升 7 倍
热点事件持续更新
Baseten 优化 Qwen3-ASR 批量转写,吞吐提升 7 倍
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Baseten 称其优化了 Qwen3-ASR 1.7B 的批量转写部署:在 64 并发下,吞吐量比原生 vLLM 高 7 倍以上,成本降至每音频小时约 0.0013 美元,比闭源转写服务商低约 277 倍。 该优化版本已作为 Baseten Model Library 的默认部署,可一键部署,并通过兼容 OpenAI 的转写客户端调用。上述性能与成本数据均来自 Baseten 工程博客,尚未见第三方复现。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 01:39
Baseten 优化 Qwen3-ASR 1.7B 批量转写,吞吐达原版 vLLM 的 7 倍报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Baseten 工程博客Baseten 优化 Qwen3-ASR 1.7B 批量转写,吞吐达原版 vLLM 的 7 倍
Baseten 优化了 Qwen3-ASR 1.7B 的批量转写部署,在 64 并发下吞吐比原生 vLLM 高 7 倍以上,成本降至每音频小时约 $0.0013,比闭源提供商低约 277 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。