Hao AI Lab 推出 vstack 与 veriserve,为编码智能体与推理服务提供形式化验证
This project is done by our amazing @Yuxuan_Zhang13 (lead), @AlexZhang152005 @yisun0618 @Junda_Su08 @Junda_Chen_, and our advisor @haozhangml
AI 导读
Hao AI Lab 发布 vstack 和 veriserve:前者是面向编码智能体的 5 阶段形式化验证流程,后者是可验证的 PD 分离推理服务引擎。团队用 vstack 在生产推理引擎中发现 3 类 RDMA 与缓存生命周期缺陷,并提出 6 项上游修复;veriserve 的 KV 页生命周期设计模型配有 226 个模块、516,973 条义务的 TLAPS 安全证明。在 4 卡 NVIDIA GB200 节点上运行 Qwen3-32B 时,PdLedger 带来的 p50 TPOT 平均开销为 +0.18%,95% CI 上界为 +0.68%。
正文
This project is done by our amazing @Yuxuan_Zhang13 (lead), @AlexZhang152005 @yisun0618 @Junda_Su08 @Junda_Chen_, and our advisor @haozhangml
Blog: https://t.co/aQiIwcQHj4 vstack: https://t.co/dJ1aFVVCjQ veriserve: https://t.co/tG021LctmW