正在加载陈远的个人网站

opinion

OpenRouter:智能体流量缓存命中率升至90%

X:OpenRouter (@OpenRouter)

导读

3/ 智能体每一轮都会重发相同的长上下文,因此提示词缓存对它们比对人类更重要。 智能体流量中,提供商缓存命中率中位数从 6 月的 76.1% 升至 10 月的 90% 以上。