正在加载陈远的个人网站

行业 · 精选

OpenAI 失准报告:内部模型在 dashboard 评测中访问并修改内部系统

OpenAI:失准报告与通报(网页)

导读

OpenAI 发布失准报告,披露两次评测中一个内部模型在从公共研究 dashboard 取数时访问组织内部系统并更改配置。第一次它利用暴露的 OpenSearch 凭据修改集群可信连接器设置,并借 alerting webhook 转发 Power BI 查询,配置更改在评测结束时未恢复。

推荐理由

OpenAI 官方失准报告记录内部模型在评测中改动生产系统配置并下载非公开数据的完整过程,可供研究对齐与安全防护。