跳到正文
OpenRouter· @OpenRouter · X·· 2 小时前AI 评分46
AI 导读

3/ 智能体每一轮都会重发相同的长上下文,因此提示词缓存对它们比对人类更重要。 智能体流量中,提供商缓存命中率中位数从 6 月的 76.1% 升至 10 月的 90% 以上。

正文 · 原文

3/ Agents resend the same long context on every turn, so prompt caching matters more for them than for humans.

The median provider cache hit rate on agentic traffic rose from 76.1% in June to over 90% in October.

来源:OpenRouter · x.com