大规模工具路由不能只靠全量提示词

是什么

视频讨论 Agent 在 50 余个工具中为用户请求选择正确工具的“工具路由”问题，主张用“两阶段路由”：先通过向量检索召回候选工具，再交给 LLM 精选。

关键内容

它还提出差异化工具描述、互斥规则、失败回退、低频工具加权召回、任务拆解，以及路由日志与人工抽检。核心目标是兼顾工具覆盖率与选择准确率。

可借鉴与边界

将检索、排序、执行校验和审计拆开是合理的工程思路；工具边界、权限和副作用也应进入路由约束。风险在于视频给出的“选项超过 20 个准确率断崖下降”“K=50 准确率可达 95% 以上”等结论未提供实验来源，不能直接当作通用指标；LLM 自报置信度也需用真实标注数据校准。转写中对候选数的表述存在 K=5–10 与 K=50 的不一致，方案细节需人工复核。