Anthropic 致信加州州长纽森，建议法院有权阻止严重风险 AI 模型发布

导读

Anthropic 于本月 15 日致信加州州长纽森，建议政府可通过法院申请禁令，阻止对公众构成严重风险的 AI 模型发布。Anthropic 反对设置关闭整个模型的紧急开关，认为这可能带来虚假的安全感，更倾向关闭出问题的智能体、暂停特定客户权限等针对性措施。