Anthropic 详解 Claude self-assessment 自我安全评估机制

导读

Anthropic 推出的 self-assessment 机制让 Claude 在每次回答后对对话做初步安全评估并交给审核方，自 6 月启用以来发现了其他防护未覆盖的滥用行为。