产品
Anthropic 在 Claude 平台推出 Message Threads 公测,长对话首字延迟降低约 35%
导读
Anthropic 在 Claude 平台以公开测试版形式推出 Message Threads。此前每次 API 请求都需重发完整对话历史,新机制只传输自上一条消息以来的变化,据 Anthropic 称在 50 万至 100 万 token 的请求上可将首字时间缩短约 35%。
产品
Anthropic 在 Claude 平台以公开测试版形式推出 Message Threads。此前每次 API 请求都需重发完整对话历史,新机制只传输自上一条消息以来的变化,据 Anthropic 称在 50 万至 100 万 token 的请求上可将首字时间缩短约 35%。