Anthropic 提出安全评估十项建议

导读

安全评估对于理解模型是否已准备好部署、需要为其构建哪些防护措施，以及应将训练和研究重点放在何处至关重要。 在我们的工程博客上，我们提出了关于如何设计、运行和报告安全评估的 10 项建议。 https://www.anthropic.com/research/building-strong-safety-evaluations