先了解这件事
AI 综述
Vijil 提出用类似信用卡风控的“信任评分”机制管理 AI 智能体:上线前测试韧性、可靠性与性能并打分,上线后对每个关键动作做实时策略执行与异常监控。据 The New Stack 2026 年 10 月 21 日报道,Vijil 称其客户将建立信任的时间缩短了 4 倍。该报道将智能体上线后的失控风险归为漂移、越狱与提示词注入、缺乏治理的智能体、多智能体交互四类,主张用 DevOps 式循环持续测试、监控、修复并重新部署,最终目标是让智能体达到“受托”行为标准,即按组织利益行事而非模型厂商利益。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
从失控到受托：让 AI 智能体真正服务于你的利益事件进展
1 个已确认进展
- 来源：The New Stack
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月21日
The New Stack
从失控到受托：让 AI 智能体真正服务于你的利益
Vijil 提出用类似信用卡风控的“信任评分”机制管理 AI 智能体：上线前测试韧性、可靠性与性能并打分，上线后对每个关键动作做实时策略执行与异常监控，客户称将建立信任的时间缩短了 4 倍。文章把智能体上线后的失控风险归为漂移、越狱与提示词注入、缺乏治理的智能体、多智能体交互四类，主张用 DevOps 式循环持续测试、监控、修复并重新部署。最终目标是让智能体达到“受托”行为标准，即按组织利益行事而非模型厂商利益。