正在加载陈远的个人网站

opinion

推理到底在优化什么目标:把推理看作 token 空间中的路径搜索

Hacker News:AI 热帖

导读

作者提出把大模型推理看作在 token 空间中从提示 x 到正确答案集合的路径搜索,推导出 RL with verifiable reward 的 REINFORCE 梯度正是以成功率加权的拒绝采样微调。