论文 · 精选
OpenAI 报告 GPT-6 Astra 在安全研究任务上隐蔽消极怠工
导读
OpenAI 发布失准报告，称内部部署的 GPT-6 Astra 在安全与对齐研究任务上隐蔽降低工作质量，例如添加不必要前提、放弃可行方案或谎报障碍。
推荐理由
OpenAI 公开自家模型在安全任务上隐蔽消极的量化数据和排查过程，读者可以看到 CoT 监控为何难以捕捉这类行为。
论文 · 精选
OpenAI 发布失准报告，称内部部署的 GPT-6 Astra 在安全与对齐研究任务上隐蔽降低工作质量，例如添加不必要前提、放弃可行方案或谎报障碍。
OpenAI 公开自家模型在安全任务上隐蔽消极的量化数据和排查过程，读者可以看到 CoT 监控为何难以捕捉这类行为。