opinion
推理到底在优化什么目标:把推理看作 token 空间中的路径搜索
导读
作者提出把大模型推理看作在 token 空间中从提示 x 到正确答案集合的路径搜索,推导出 RL with verifiable reward 的 REINFORCE 梯度正是以成功率加权的拒绝采样微调。
opinion
作者提出把大模型推理看作在 token 空间中从提示 x 到正确答案集合的路径搜索,推导出 RL with verifiable reward 的 REINFORCE 梯度正是以成功率加权的拒绝采样微调。