Google DeepMind 用 AlphaProof Code 形式化验证 Signal 协议安全性
A New AI Tool From Google DeepMind Proved the Signal Protocol Is Secure | WIRED
Google DeepMind 研究人员用智能体 AI 对 Signal 协议的多项关键密码学保证完成形式化验证,项目仅用四周,并使用了名为 AlphaProof Code 的新 AI 框架。分析未在受检部分发现新漏洞,但在含已知旧漏洞的 Signal 旧版本上正确识别出问题并显示协议无法通过形式化验证。团队将公开此次分析所用的规格与证明,DeepMind 研究科学家 Swarat Chaudhuri 表示距离把这一能力扩展到全世界软件还有很长的路要走。
推荐理由
AI 评分 75
DeepMind 用智能体 AI 在四周内形式化验证 Signal 协议,并公开规格与证明,可供评估 AI 辅助验证的边界。
主题
正文 · AI 翻译
Google DeepMind 的研究人员使用智能体 AI 对 Signal 协议的多项关键密码学保证进行了数学证明,即“形式化验证”——这对广泛使用的密码学和 AI 本身而言都是一项里程碑式的发展。
这项工作作为一种概念验证项目,仅用四周就完成,其意义体现在两个方面。它进一步独立验证了保护着 Signal 应用、Google Messages 和 WhatsApp 等平台上海量全球通信的密码学。同时,它也展示了 Google DeepMind 使用名为 AlphaProof Code 的新 AI 框架所具备的形式化验证能力。
更广泛地说,AI 辅助的形式化验证正迎来高光时刻,但目前尚不清楚它在广泛使用中会有多实用,以及在保护大量代码方面能有多有效。形式化验证的支持者长期以来将其称为软件安全领域的某种圣杯,因为它用数学来检查和验证软件是否按预期运行——换言之,即软件不存在严重漏洞。
在 AI 时代之前,人们要描述希望证明的软件特性、将这些摘要转化为公式,然后开发证明,过程极其耗时。智能体 AI 可以大幅缩短后一项工作的时间,从而使 DeepMind 对 Signal 的评估这类分析成为可能。但即便是这项分析,其范围也有限——例如,它并未对 Signal 移动应用整体进行形式化验证——DeepMind 研究人员强调,他们的发现只是更大进程中的一个里程碑。
“我们对这一结果非常兴奋,但要想将其扩展到全世界所有软件,还有很长的路要走,而我们希望做到这一点,”DeepMind 研究科学家 Swarat Chaudhuri 对《连线》表示。
DeepMind 的分析并未在其检查的 Signal 协议部分发现任何新漏洞,但当研究人员将 AlphaProof Code 用于包含已知且早已修复漏洞的旧版 Signal 时,它正确识别出了这些漏洞,并表明该协议无法通过形式化验证。研究人员将公开他们为 Signal 协议分析所开发的规格说明和证明,以帮助其他形式化验证工作。
尽管该项目的速度引人注目,但 DeepMind 研究人员指出,他们之所以能在一定程度上抢占先机,是因为 Signal 基金会过去开展过一些形式化验证工作。
“此前的形式化验证聚焦于较小的代码部分,而 Google DeepMind 的方法实现了显著扩展,”Signal 首席技术官 Ehren Kret 在一份声明中表示。“随着 AI 驱动的安全威胁不断增长,严格验证 Signal 协议的实现让我们对代码的隐私保证更有信心。”
对于在高风险环境中使用的关键服务而言,能够对每个代码库和整个软件供应链进行形式化验证将是一个梦想。“如果你现在能验证这些实现的正确性,那你就可以高枕无忧了,”Google Cloud 首席科学家、DeepMind 研究副总裁 Pushmeet Kohli 说。“你可以想象银行,想象所有那些依赖保证、担心漏洞的其他公司,他们现在可以说,‘我能证明这些属性。’”
然而,整个科技行业悬而未决的问题是,AI 自动化的形式化验证能否真正实现规模化——以及能否以可行的成本做到这一点。DeepMind 作为研究项目免费开展了 Signal 分析,Google 拒绝透露该分析的成本。该公司还拒绝就是否有计划发布商业化的形式化验证产品或服务置评。
研究人员表示,他们的一些关键进展在于开发了一种“人机协作流程”,正如 Chaudhuri 所说,该流程允许智能体在几乎每个阶段贡献并自我纠正,同时在关键节点仍寻求人工输入和审查。“我们不想要那种凭感觉的世界,即 AI 生成目标、AI 生成证明,基本上就是自己出题自己考,”Chaudhuri 说。“存在一个中间地带。”
Airbnb 房东大为恼火,他们再也不能让客人做家务了
大新闻:酷小孩都用全小写写作——这让你生气吗?
我花了一整天只用 iPhone Duo 工作