先了解这件事
AI 综述
2026年9月16日,Baseten与Base Labs宣布联合Goodfire和Hugging Face,为所服务的开源模型构建安全评估与监控基础设施,把安全研究直接接入训练与推理系统。该工作覆盖三个环节:训练环节让模型遵循明确策略、识别能力边界并主动求助;监控与干预环节研究输入、输出、工具调用和模型内部状态,并将信号接入权限、隔离与执行前检查;以及从失败中学习。分工上,Base Labs负责开发并公开方法,Baseten将其集成到部署基础设施中,以托管服务形式提供,并公开方法和证据供客户与外部评估者自行验证。目前尚无后续进展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：Baseten Base Labs：模型研究
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月16日
Baseten Base Labs：模型研究一手
Baseten 与 Goodfire、Hugging Face 共建开源模型安全评估与监控基础设施
Baseten 与 Base Labs 宣布联合 Goodfire 和 Hugging Face，为所服务的开源模型构建安全评估与监控基础设施，把安全研究直接接入训练与推理系统。该工作覆盖训练（让模型遵循明确策略、识别能力边界并主动求助）、监控与干预（研究输入、输出、工具调用和模型内部状态，并将信号接入权限、隔离与执行前检查）以及从失败中学习三个环节。Base Labs 负责开发并公开方法，Baseten 将其集成到部署基础设施中，以托管服务形式提供，并公开方法和证据供客户与外部评估者自行验证。