正在打开每日关注
正在打开每日关注
视频借演讲案例说明:模型的低概率推理路径、答案置信度与多次采样,可能提升复杂任务正确率。
然后在多种答案里面选择出现次数最多的答案
视频围绕“大模型是真推理还是样式匹配”展开,转述了将首字母任务改为末位字母任务、以及“苹果”题的案例,主张贪婪解码易受高频样式影响,而显式生成中间步骤可得到更可靠答案。
其归纳的做法包括:超越单一路径的贪婪解码、按最终答案置信度选择候选、生成多条回答并以 self-consistency 选取高频答案;同时认为 SFT 的人类问答示例可能限制泛化,强化学习有助于模型自行探索推理路径。
对实际使用而言,可把它视为“为难题增加采样、验证与结果聚合”的工程启发,而非证明模型具有独立思考。视频未给出演讲链接、论文题目、实验设置、模型版本或量化结果;且转写与 OCR 对人名和术语存在明显失真,关于机制、因果与效果的结论均需回看原始演讲或论文后再采信。