Anthropic 推出 FlashProve 可验证推理研究

导读

Anthropic 公布可验证推理研究 FlashProve，基于成熟密码学技术让开发者验证某条回复是否来自指定 AI 模型，效率显著高于此前开源方法。该证明可用于防止攻击者劫持对话，也能让安全评估者确认被测模型与线上服务模型一致。Anthropic 已开源 FlashProve 代码。