Goodfire 推出监控模型内部信号的探针，低成本捕捉失控 AI 智能体

导读

可解释性初创公司 Goodfire 推出监控 AI 模型内部信号的探针系统，复用模型前向传播中已计算的中间激活再运行分类器，通过 Baseten 面向客户提供，可选监控攻击性黑客、生化武器滥用和 reward hacking 等风险，响应方式可选记录、人工审查或拒绝请求。