Action State 推出开源工具核验 AI 智能体交互记录

Action State Group Inc. 正在推出一套开源工具，旨在让企业能够独立核验人工智能智能体所做操作的记录，从而解决随着自动化系统开始跨越企业边界进行买卖和委派工作而出现的信任问题。

该产品组合包括 EvidenceBook（用于保存防篡改记录）、用于评估智能体行为的 Terms Packs，以及独立验证服务 Countersign。这一方案针对的是企业无法仅依赖另一方对智能体行为的陈述的交易场景。

这家初创公司的方法与可观测性厂商的方法之间的根本区别在于，“大多数可观测性和追踪关注的是你自己围墙内发生的事情，”Action State 创始人兼首席执行官 Steven Mih 表示。Mih 此前是 Ahana Cloud Inc. 的创始人，该公司开发了 Presto 开源分布式查询引擎的托管版本。IBM Corp. 于 2023 年收购了 Ahana。

EvidenceBook 为参与者提供各自签名的交易历史。买方可以记录其请求和支付的内容，而提供方则记录其接受的内容和报告交付的内容。比较选定的记录可以发现一致、冲突或缺口，而无需中央机构持有所有人的数据。

参与者保留对其信息的控制权，并可在评估结果时披露更多细节。

双方无需都安装该软件，一方也能受益，不过兼容的实现允许它们交换证据。验证可以离线进行，并且免费。

该系统使用 Agent Action Capsules（一种用于签名记录的开放格式）以及加密检查点，使后续更改可被检测到。一个免费的公共见证可证明某个检查点在特定时间已经存在。

Mih 表示，保存记录并不能证明其内容准确，也不能证明每个操作都被捕获。EvidenceBook 验证所报告的事件确实发生过，但无法验证协议是否得到履行。

这一局限也延续到 Countersign。该服务检查证据包的特定加密和结构属性，对其发现进行签名，并将其记录在自己的透明度日志中。它并不证明所声称的结果已经发生，也不证明证据是完整的。

Terms Packs 依据监管或业务规则，处理所记录的工作是否满足特定要求的问题。Packs 定义评估标准和方法，其结果会标明哪些要求已满足、未满足或无法评估。

一个初始包涵盖欧盟《人工智能法案》下与智能体相关的义务。Action State 建议治理、风险和合规团队定制这些包，以反映其自身要求。这些包并不证明法律合规性。

人工审查对该流程至关重要。Mih 描述了一种工作流程：AI 评判员每天评估智能体记录，员工定期审查样本，以比较人工判断与自动判断。该系统还会保存评估结果，使审计人员能够检查底层证据。

早期集成包括 Mesh-LLM，这是一个开源分布式推理网络，参与节点在其中保存签名记录，并可与对等节点比较交换内容。该方法可以帮助参与者发现交易对手关于模型或配置的记录声明发生了变化。

Project Nanda 是一个旨在为 AI 智能体构建基础设施和协议的开源倡议，它也在通过独立注册表发现的智能体之间的交易中使用了 Agent Action Capsules。每一方都保留了一份密封的双边记录。对于个人智能体，Action State 的 Everyday Rules 与 Muse 集成，以根据所有者的要求评估拟议操作。

EvidenceBook 在 Apache 2.0 许可证下提供。其底层规范建立在已发布的互联网工程任务组标准之上，但 Action State 自己的规范仍为个人互联网草案。

“它还不是 RFC 标准，也尚未被工作组采纳，”Mih 在提到 IETF 的征求意见程序时表示。

Action State 计划为这些规范和实现寻求中立的基金会治理。该公司预计将从独立验证服务中获得收入。

“Countersign 目前是免费的，”Mih 说。“然而，一旦有依赖方接受 Countersigns，我们就会开始对此收费。”

图片：SiliconANGLE/Microsoft Designer