正在打开每日关注
正在打开每日关注
用证据标签、置信度和事前检验,降低 Claude 的谄媚、幻觉与瞎猜。
李开复分享了自己平时给 Claude 用的一套提示词,主要是为了压低 AI 的谄媚,迎合,幻觉和瞎猜。 这段提示词,可以直接放进 Claude 的 Settings > General > Instructions for Claude。 英文原版 和 中文翻译如下👇 https://t.co/JqSQMdVT2k
是什么 这是一条转发李开复 Claude 自定义指令的内容,目标不是让模型更聪明,而是改变回答纪律:遇到判断先区分事实、计算、推论、常识、符号框架与猜测,并主动暴露不确定性。它把少迎合、少幻觉、少瞎猜拆成一套可执行的输出协议。
核心设计 协议包含四层护栏:一是来源标签,防止把推断伪装成事实;二是置信度区间,要求模型承认证据强弱;三是我不知道优先与禁止伪造引用;四是事前反事实检验,追问框架在不知道结果时是否真的能预测,而非事后编造解释。反谄媚红旗还提醒用户警惕过度漂亮、单一模式解释一切和被质疑后无证据退让。
关键洞察 它的价值在于把抽象的诚实回答转成标签、阈值和复核动作,适合研究、分析、方案评审等高不确定场景。本质是提示层的行为约束与可读审计轨迹,不是事实数据库、评测集或模型能力升级。
边界与风险 标签仍由模型生成,不能保证真实;置信度也可能只是主观数字。过度强调反驳会降低协作感,把合理共识误判为谄媚;长规则还可能挤占上下文。因此应把它当作低成本默认护栏,关键结论仍需独立来源、工具验证和人工判断。