Google DeepMind releases AlphaProof Code, formally verifying a Signal protocol implementation at the machine code level
English text is being prepared.
On November 10, 2026, Google DeepMind released AlphaProof Code, a human-AI collaborative formal verification framework, and applied it to libsignal, the reference implementation of the Signal protocol. Without modifying the libsignal code, the team used rustc to compile an AArch64 Linux executable, modeled the instructions and runtime environment in Lean, and proved that the compiled machine code satisfies security properties such as forward secrecy. A team of 5 people spent 4 weeks, and an AI agent based on Gemini Carbon generated approximately 6.5 million lines of Lean proof code; the specifications, proofs, and verification scripts have been published on GitHub at google-deepmind/code-verification.
Why read this
AI score 68
The original text explains the human-AI collaborative verification workflow and the scope of the proof at the libsignal machine code level, and also lists the assumptions and limitations not covered.
Topics
Body
Google DeepMindは2026年11月10日、人間の専門家とAIエージェントが協力してソフトウェアを形式検証するフレームワーク「AlphaProof Code」を発表した。研究チームは、エンドツーエンド暗号化通信に使われるSignalプロトコルの参照実装libsignalに、この仕組みを適用した。暗号処理や実行環境などに関する仮定の下で、コンパイル後の機械語コードが主要なセキュリティ特性を満たすことを証明したという。
Introducing AlphaProof Code: a breakthrough in verifying complex software at depth - Google DeepMind
形式検証では、まずソフトウェアが満たすべき性質を仕様として記述する。そのうえで、実行環境や入力などに関する前提が成り立つとき、プログラムがその仕様を満たすことを数学的に証明する。これまでの暗号プロトコルの検証では、抽象的な設計や検証しやすく書き直した実装を扱う例が多く、実際に使われるコードまで検証するには大きな労力がかかっていた。研究チームは今回の結果を、広く使われている暗号プロトコルの実装を改変せずに、プロトコルレベルの安全性を証明した初の成果と位置付けている。
人間が仕様を承認、AIが証明を生成、Leanが検査
AlphaProof Codeでは、人間の専門家が、プログラムのどのような性質を証明するか、入力や実行環境などにどのような前提を置くかを決める。AIエージェントはその方針に沿って、証明したい主張や前提を定理証明支援系Leanの言語で記述し、仕様の草案を作る。専門家が草案を確認・修正し、仕様を承認する。
承認後は、統括役のAIエージェントが、プログラムが仕様を満たすことを証明する作業を分割し、担当のエージェントに割り当てる。各担当がLeanの証明コードを生成し、統合担当のエージェントがそれらをまとめる。
生成された証明は、Leanのカーネルが論理的な正しさを検査する。さらに、検査担当のAIエージェントが比較ツールを実行し、証明する主張だけでなく、その主張が直接・間接に参照する定義も、承認済みの仕様と照合する。これにより、AIが仕様を無断で変更して作った証明を受け入れないようにする。ただし、証明の正しさや仕様との一致を確認できても、その仕様が本来確かめたい性質を表しているかは、人間が判断する必要がある。
AlphaProof Codeによる形式検証の流れ。左上で人間とAIがLeanの仕様を作成し、人間が承認する。左下では、コンパイル後の機械語コードをLean上の実行モデルで扱う。右側のAIエージェント群は、コードがその仕様を満たすことを証明する。検査担当は、Leanによる検査と承認済みの仕様との照合を行い、両方を通過した証明を受け入れる(Google DeepMindの発表ブログより)。
libsignalの実装で前方秘匿性などを証明
技術論文によると、研究チームはlibsignalのコードを変更せずに検証用のコマンドラインプログラムに組み込み、RustコンパイラrustcでAArch64版Linux向けの実行ファイルを作成した。この実行ファイルをLeanに読み込み、AArch64の命令やLinux上の実行環境の動作をLeanで定義したモデルに基づいて、AIエージェントが証明を生成した。今回はコンパイル後のコードを直接検証したため、コンパイラが正しく動くことを仮定する必要はなかった。
この証明作業には5人のチームが4週間取り組み、AIエージェントが約650万行のLeanの証明コードを生成した。発表によると、証明を生成するAIエージェントのモデルにはGemini Carbonを使った。
検証対象は1対1の通信で、通信する双方が暗号鍵の基になる秘密の値を共有するPQXDHと、その後のメッセージごとに暗号鍵を更新するTriple Ratchetを含む。研究チームはこのプログラムについて、現在の鍵などが漏えいしても過去のメッセージが解読されるのを防げること(前方秘匿性)を証明した。加えて、攻撃者が侵害後の鍵交換に介入しないなどの条件下で、鍵の更新によって通信の安全性を回復できることも証明した。
研究チームはさらに、過去に修正されたlibsignalのバグ2件を、検証用コードに意図的に再現した。この検証では、バグのあるコードまで今回の仕様を満たしてしまわないかを確かめた。いずれの場合も、バグを再現したプログラムが仕様で定めたセキュリティ特性を満たさないことを証明し、その証明をLeanで検査した。
ただし、今回の検証対象は、libsignalを組み込んで研究チームが作成したコマンドラインプログラムに限られる。また、今回の証明では、一部の暗号処理やファイル出力処理などが仕様どおりに動くと仮定し、それらの実装自体は検証していない。量子コンピュータを使う攻撃者を想定した場合、侵害後に通信の安全性を回復できることまでは証明していない[1]。
仕様や証明、検証用ツールをGitHubで公開
Google DeepMindは、今回の形式検証の成果物をGitHubのgoogle-deepmind/code-verificationで公開している。Leanで記述した仕様や証明、AArch64の命令や実行環境を表す定義、検証用スクリプトなどを収録している。第三者がLeanで証明を再検査できるよう、ビルドと検査の手順も掲載している。
今後の応用先として、医療機器のファームウェアや電力網のソフトウェアなどを挙げている。ただし、手法を広く適用するには引き続き研究が必要だとしている。
AI Trends