先了解这件事
2026年10月9日,Baseten宣布与Goodfire AI联合发布推理阶段安全项目Project Beacon。据Baseten工程博客介绍,该项目通过在生成过程中读取模型内部激活值,为开源模型推理引入主动、内联的安全控制,可在输出到达用户或工具前检测并处置不安全事件。该计划针对提示词注入、越权操作、敏感数据泄露和网络滥用等推理层风险,将Goodfire的行为监控信号接入Baseten推理路径。关于后续安排,报道称未来数月将先覆盖部分模型和受监控行为,再扩展至企业管控与开发者体验,并以少量早期合作伙伴推向市场。目前尚无进一步有证据支持的发展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：Baseten 工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月10日
Baseten 工程博客一手
Baseten 与 Goodfire AI 推出 Project Beacon，将安全信号引入开放模型推理
Baseten 宣布与 Goodfire AI 合作推出 Project Beacon，通过在生成过程中读取模型内部激活值，在推理层实现主动、内联的安全控制，可在输出到达用户或工具前检测并处置不安全事件。该计划针对提示词注入、越权操作、敏感数据泄露和网络滥用等风险，未来数月将先覆盖部分模型和受监控行为，再扩展至企业管控与开发者体验，并以少量早期合作伙伴推向市场。
Baseten 工程博客一手
Baseten 与 Goodfire AI 合作推出 Project Beacon，为开源模型推理引入安全信号
Baseten 宣布与 Goodfire AI 合作推出 Project Beacon，通过在生成过程中读取模型内部激活值，为开源模型推理带来主动、内联的安全控制，可在输出到达用户或工具前检测并处置不安全事件。该计划针对提示词注入、越权操作、敏感数据泄露和网络滥用等推理层风险，将 Goodfire 的行为监控信号接入 Baseten 推理路径。未来数月将先覆盖部分模型和受监控行为，再扩展至企业管控与开发者体验，并以少量早期合作伙伴推向市场。