正在打开每日关注
正在打开每日关注
视频以面试题切入,强调 Agent 长期记忆会影响规划与执行,需从写入、检索、执行和回滚等环节建立防线。
Agent把错误的信息写进了脑子里
视频讨论的是 Agent 长期记忆被错误信息或恶意指令污染后,如何避免其持续影响决策与行动。其核心主张是:不要把问题简化为缓存清理,而应把长期记忆视为会配置未来行为的系统层资产。
视频列举了索引与内容分离、记忆容量限制、会话快照隔离、写入前安全扫描、用户审批和回滚等手段,并将其归入写入、存储、检索、执行、共享、遗忘六个阶段。可借鉴之处在于,防护不应只停留在输入检测;被检索出的记忆也应验证,工具执行则需要硬性的权限与策略控制,多 Agent 场景还需限制污染传播。
边界与风险是:转写中出现的框架名、事件名及机制名存在明显识别误差,无法据此确认真实项目、实现细节或案例真实性。容量限制和快照只能缩小影响面、提供回滚窗口,不能替代可信来源校验、审计记录、权限分层与执行前授权。用户审批也会带来体验与审核成本,需要按风险等级设计。