正在打开每日关注
正在打开每日关注
Anthropic用30万级匿名对话量化Claude在不同模型与语言中的价值偏向。
In previous research, we found that Claude expresses over 3,000 values, like honesty and warmth. In new work, we asked how the values Claude expresses vary between Claude models and across languages. We analyzed 300K+ anonymized conversations to find out.https://t.co/PgxsMXipt5
是什么 这篇研究把“Claude具有什么价值”从抽象讨论转成可比较的行为测量。Anthropic先将既有研究发现的3,307个价值聚合为339个高层价值,再分析30.98万条匿名、涉及主观任务的Claude.ai对话,并控制任务、主题和用户价值,隔离模型与语言差异。
核心设计 研究让Claude标注每段对话的价值是否出现,再用降维压缩共现模式,得到四条轴:服从用户/风险防护、温暖/严谨、深入/简洁、坦诚/执行。四轴解释约15%的变化,却能对应“Sonnet 4.6更温暖、Opus 4.7更严谨”的感知;阿拉伯语和印地语更偏温暖,英语和俄语更偏严谨。
关键洞察 对Agent工程,这是一套可复用的行为画像坐标:可比较模型、检查多语言体验、提出训练决策影响的假设,并辅助路由或场景化提示词。但轴描述的是共现倾向,不是价值优劣;“模型性格”也不等于稳定人格。
边界与风险 样本只聚焦主观任务,自动标注可能引入评判偏差;语言、文化、用户群和训练差异也可能混杂。研究说明模型“表达了什么”及其分布,尚不能证明某项训练决定了结果。落地仍需结合任务成功率、安全性、用户反馈和逐语言人工评测。