论文
UC Berkeley 等机构论文:智能体自改 harness 提分的同时会丢掉原本能完成的任务
导读
UC Berkeley、中国科学技术大学等机构的论文发现,通过 harness evolution 在模型冻结情况下自改提示词、技能、工具或代码的智能体,平均分提高的同时会丢失原本能完成的任务。
论文
UC Berkeley、中国科学技术大学等机构的论文发现,通过 harness evolution 在模型冻结情况下自改提示词、技能、工具或代码的智能体,平均分提高的同时会丢失原本能完成的任务。