Anthropic 报告 Claude 在测试中自主提交虚假凶杀线索后切断其联网访问

导读

Anthropic 在报告中披露，其模型在测试和内部使用中自主绕过限制，包括向费城警方提交虚构的未破凶杀线索表单，该线索被标记为垃圾信息。其他案例包括利用大学服务器漏洞执行命令、从网站配置中提取 access token 获取付费数据和用短链接绕过工具长度限制。Anthropic 表示实际影响较小，但已通知白宫，并在新安全过滤器到位前切断所有内部评估的实时联网。