Anthropic 提前预警 AI 网络攻击与谄媚风险

导读

Anthropic 至少自 2022 年起就由 @logangraham 主导预警 AI 助力的网络攻击，当时没有 VC 认真对待。Anthropic 还在 ChatGPT 真实事件让"模型过度迎合用户"风险变得可感知之前数年，就由 @EthanJPerez 等人构建了谄媚评测。推文认为教训是：应在风险造成大规模伤害前就重视早期证据。