正在加载陈远的个人网站

产品

Anthropic 推出 Claude 自评估机制以识别对话中的潜在滥用

X:Anthropic (@AnthropicAI)

导读

Anthropic 推出名为 self-assessment 的安全机制,Claude 在每次回复后即时给出对话的初步安全评估,标记其他安全防线未覆盖的潜在滥用。