正在加载陈远的个人网站

论文

UC Berkeley 等机构论文:智能体自改 harness 提分的同时会丢掉原本能完成的任务

X:Rohan Paul (@rohanpaul_ai)

导读

UC Berkeley、中国科学技术大学等机构的论文发现,通过 harness evolution 在模型冻结情况下自改提示词、技能、工具或代码的智能体,平均分提高的同时会丢失原本能完成的任务。