正在加载陈远的个人网站

论文 · 精选

OpenAI 研究:模型生命周期中哪些因素影响 CoT 可监控性

OpenAI:Alignment 研究博客(RSS)

导读

OpenAI 发布研究,分析预训练、架构、强化学习和模型生成数据如何影响思维链(CoT)可监控性。

推荐理由

OpenAI 以自家模型实测说明预训练困惑度、架构和 RL 如何影响 CoT 可监控性,安全研究者可据此对照自身训练决策。