Anthropic 在 IPO 文件中披露公司内部也存在对先进 AI 灾难性风险的担忧

导读

Anthropic 在 IPO 文件中告知投资者，公司内部和其他研究者、监管者都担忧足够先进的 AI 系统若缺乏妥善防护，可能给人类带来灾难性或生存性风险。文件同时警告 1300% 的增速不可持续、无法保证营收继续增长，且保险业可能没有足够能力承保此类风险。