Anthropic 谈蒸馏攻击防御

导读

我觉得很奇怪，Anthropic 在做这件事之前，为了寻求监管帮助造了那么大的声势。希望现在能重新开启对话。 更奇怪的是，他们还强调从自家有漏洞的 API 学习有害行为的安全风险。如果 API 不安全，就别托管它。