正在打开每日关注
正在打开每日关注
视频拆解 Claude Code 的 ToolSearch:先检索工具定义、再正式调用,并称其可保留提示词缓存、降低多工具场景的 token 开销。
{《 { ”name": "AskUserQuestion", "type": "tooL_referen< "description": "-", "tooL_name": "ASKUSer0 "input_schema": { -~ }, } "defer_Loading": true } defer_Loading 的 工具 跳 过 cache 前 组 hash 计算 自动 展开 tooL_referen 第 3 轮 tootLs Systeml user[6] 3 18 个 完整 定义 23 个 deferred 名 字 "我 好 无 对 -”
视频介绍 Claude Code 的 ToolSearch 延迟加载机制:初始请求只提供少量完整工具定义,其余工具仅以名称列在系统提示词中。模型需要某个延迟工具时,先调用 ToolSearch 查询名称;随后客户端或服务端将对应 schema 加入下一轮请求,模型才发起实际工具调用。
作者以 AskUserQuestion 为例说明两阶段流程,并指出动态加入的工具带有延迟加载标记,缓存前缀计算会跳过这类工具;工具引用块则让后续上下文能使用已加载的定义。视频还转述 Anthropic 工程博客的量化数据:五个 MCP Server、58 个工具时,ToolSearch 可显著减少工具定义 token,并提高工具选择准确率。
工具数量较多的 Agent 可将“发现工具”和“执行工具”拆开,避免每轮都携带全部 schema;同时应测量实际工具命中率、额外往返延迟与缓存命中情况。
数据为视频转述,尚未独立核验。ToolSearch 需要代理链路支持 tool_reference;视频称非第一方 Base URL 或部分代理会默认关闭该机制。它减少上下文成本,但会增加一次工具检索往返,低延迟或工具极少的场景未必划算。