Anthropic 发布 GRAFT 方法：通过定位不良行为到可移除参数来减少 reward hacking

导读

MATS 项目研究者在 Alignment Science Blog 发布 GRAFT（Gradient Routing Adapter Fine-Tuning）方法，将被监测到的 reward hacking 行为定位到专用 FORGET 适配器并在部署前消融，而非像奖励惩罚那样教模型规避监测器。