正在加载陈远的个人网站

产品 · 精选

Claude Platform 推出 message threads 公测,降低长会话智能体延迟

Claude:Blog(网页)

导读

Anthropic 在 Claude Platform 推出 message threads 公测,智能体每轮只需发送新增消息而无需重发全部对话历史,从而缩短首 token 时间。

推荐理由

原文给出了 500k 至 1M token 请求下 TTFT 中位数下降约 35% 的数据,以及线程生命周期和接入方式,便于评估长会话智能体的延迟收益。