OpenAI 称模型推理达 50 TPS 并配最优分词器

OpenAI 的 Tibo（@thsottiaux）称，其模型推理速度达到 50 TPS，而非 30 TPS，同时配备目前最优化的分词器。他还称这些模型在完成任务所需 token 数量方面相当高效。 上述说法来自该人士在 X 上的发言，未给出具体模型名称、测试条件或对比基准。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。