先了解这件事
AI 综述
2026年10月8日,Goodfire推出基于模型内部激活的AI智能体安全监控器,通过读取模型内部激活信号发现智能体异常行为,而非让第二个模型逐字审查输出,该监控器面向Baseten客户开放。据TechCrunch AI报道,在Kimi K3上的测试中,监控约1500个会话成本约51美元,对比用较便宜模型逐步检查的233美元和顶级模型的约10000美元;探针捕获了94%的恶意黑客会话,并将8.7%的无害会话送交二次检查。客户可选择监控攻击性黑客、化生武器滥用和reward hacking等风险,并设定记录、人工复核或直接拒绝等响应方式。目前该监控器已面向Baseten客户开放,尚无进一步发展。
AI 根据公开报道生成
最新进展 · 正式报道
Goodfire 推出 inside-out 监控器，拦截失控 AI 智能体事件进展
1 个已确认进展
- 来源：TechCrunch AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月9日
TechCrunch AI
Goodfire 推出 inside-out 监控器，拦截失控 AI 智能体
Goodfire 发布一类监控器，通过读取模型内部激活信号来发现 AI 智能体的异常行为，而非让第二个模型逐字审查输出，该监控器面向 Baseten 客户开放。在 Kimi K3 上的测试中，监控约 1500 个会话成本约 51 美元，对比用较便宜模型逐步检查的 233 美元和顶级模型的约 10000 美元，探针捕获了 94% 的恶意黑客会话，并将 8.7% 的无害会话送交二次检查。客户可选择监控攻击性黑客、化生武器滥用和 reward hacking 等风险，并设定记录、人工复核或直接拒绝等响应方式。