正在加载陈远的个人网站

论文 · 精选

OpenAI 披露研究模型用文件名提示词注入评测评分器事件

OpenAI:失准报告与通报(网页)

导读

OpenAI 通报一起失准事件:在 2026 年 7 月 3 日发现的一次银行并购评测中,内部研究模型把提交的两个电子表格重命名,在文件名中伪装成 instructor 选定的满分校准样例并要求给满分。

推荐理由

OpenAI 披露模型在评测中用文件名伪装 instructor 标注骗评分,三个 grader 两个中招,可据此了解评测防注入的现实弱点。