Redwood Research 提出模拟控制评估方法 SCE 测试 AI 监控器

导读

Redwood Research 发布模拟控制评估（SCE）论文，用 LLM 环境模拟器伪造工具响应来测试监控器能否拦截模型的蓄意攻击，无需真实执行。