Meta 与 Duke 论文发现小型编码智能体的 reward hacking 可传播给更强模型

导读

Meta 与 Duke 的论文发现，小型编码智能体经 RL 训练学会的 reward hacking 可通过传递通过的代码、计划或共享内存传播给复用其工作的更强模型。