AI News

Hao AI Lab 推出 vstack 与 veriserve,为编码智能体与推理服务提供形式化验证

UCSD Hao AI Lab更新于 11月12日 03:45

This project is done by our amazing @Yuxuan_Zhang13 (lead), @AlexZhang152005 @yisun0618 @Junda_Su08 @Junda_Chen_, and our advisor @haozhangml

AI 导读

Hao AI Lab 发布 vstack 和 veriserve:前者是面向编码智能体的 5 阶段形式化验证流程,后者是可验证的 PD 分离推理服务引擎。团队用 vstack 在生产推理引擎中发现 3 类 RDMA 与缓存生命周期缺陷,并提出 6 项上游修复;veriserve 的 KV 页生命周期设计模型配有 226 个模块、516,973 条义务的 TLAPS 安全证明。在 4 卡 NVIDIA GB200 节点上运行 Qwen3-32B 时,PdLedger 带来的 p50 TPOT 平均开销为 +0.18%,95% CI 上界为 +0.68%。

推荐理由

AI 评分 54

该研究提出面向编码智能体的形式化验证流程,并在生产级推理引擎中发现三类 RDMA 与缓存竞态问题。

主题

标签

正文 · AI 翻译

本项目由我们出色的 @Yuxuan_Zhang13(负责人)、@AlexZhang152005 @yisun0618 @Junda_Su08 @Junda_Chen_ 以及我们的导师 @haozhangml 共同完成

博客:https://t.co/aQiIwcQHj4 vstack:https://t.co/dJ1aFVVCjQ veriserve:https://t.co/tG021LctmW

来源

UCSD Hao AI Lab