←新闻详情

邵猛更新于 10月21日 22:46

Lee Robinson 斯坦福 CS146S 讲座拆解 Grok Bot 常驻 Agent 四层机制

反复学习 Lee Robinson 斯坦福 CS146S 讲座

AI 导读

邵猛整理 Lee Robinson 在斯坦福 CS146S 讲座中分享的 Grok Bot 常驻 Agent 内部构造,归纳为四层机制。第一层是休眠与唤醒,服务器和云电脑平时休眠,由消息或事件触发后从数据库加载会话日志、记忆和例程重建状态,用完回写再休眠;第二层是唤醒源,除直接发消息外还包括 Slack、电话、会议和后台例行任务,所有触发汇入统一路由做去重与会话合并;第三层是是否打扰用户的独立判断链,位于通知层而非执行层;第四层是专用云电脑,采用 Firecracker microVM,具备隔离执行、可视化接管、虚拟桌面和池化共享四个特性。作者还补充了 server 与 computer 必须分离的三点原因:更新独立、重算力任务在服务器上更快、VM 打补丁时可独立重建。

推荐理由

AI 评分 60

整理 Lee Robinson 斯坦福讲座中常驻 Agent 的四层机制,可看到休眠唤醒、事件路由与资源分层的具体工程取舍。

主题

标签

引用

meng shao

@shao__meng

https://t.co/yFaMV3PD2d

查看原帖

正文

反复学习 Lee Robinson 斯坦福 CS146S 讲座

这回主要看 Grok Bot 这种常驻 Agent 的内部构造,Lee 展开分享了「四层机制」

① 休眠-唤醒:整个系统是“间歇性存活”的 起点:常驻 agent 平时根本不在线。服务器与 agent 专用的云电脑都处于休眠状态,由消息或事件触发才启动;“启动”的实质是从数据库加载全部状态并重建(会话日志、记忆、例程)。若需用浏览器或点按屏幕,再拉起那台电脑;用完即回写状态、再度休眠。

为什么必须如此设计,他给出了朴素的算术:既因为昂贵,也因为“世界上没有足够的电脑让每个人的 agent 永远在线”。“常驻”的真相是按需复活 + 状态持久化,而非进程永续,这是理解这类系统的第一个关键。

② 唤醒源:不止你一个入口 能叫醒 agent 的远不止你直接发消息。Slack 消息、电话、会议都算,SpaceX 内部已常见员工缺席会议时让 bot 代为参会、记笔记、回来汇报。此外还有后台例行任务(routines):跑了数小时或数天的工作完成后主动回来交摘要。

所有触发源汇入一个路由,负责去重、决定如何合入当前会话。

③ “要不要打扰用户”:一条独立的判断链 路由之后是一个容易被忽视但体验攸关的启发式:这件事值不值得通知用户。他的类比精准:同事每取得一点进展就跑来汇报会让人崩溃,agent 同理,多数任务一天一次状态更新足矣。

值得注意:这个判断发生在通知层而非执行层,工作照做,但沉默权交给规则。他后来在“未来”一章也坦承这套分寸“还没做到完美”,是开放问题。

④ 专用云电脑:Firecracker 微虚机 agent 的电脑是一台 Firecracker microVM(就是 Lambda/开 Fargate 背后的那类轻量虚拟机技术),选它的核心理由是快照友好,状态可快照、关机、再恢复,与整个系统的休眠-唤醒节奏天然契合。

机器的四个特性: · 隔离执行:shell 命令跑在这台安全锁定的机器上,而非用户的个人笔记本; · 可视化接管:用户可以连入这台机器,实时观看甚至亲手控制,“看它工作”既是信任机制也是调试手段; · 虚拟桌面:同时跑五个十个 bot 时,每个 bot 有自己的屏幕和浏览器,互不干扰; · 共享基础设施:这些电脑是池化资源,由 bot 们按需调用。

补充:server 与 computer 为什么必须分离 架构图把系统划为三段:触发源(左)→ 服务器(中)→ 云电脑(右)。服务器内是消息队列 + agent 循环(即上周课上的“模型调工具”循环)。

而 agent 循环绝不能放进 VM,原因有三: · 更新独立:改 agent 代码只需推服务端,不必走应用商店审核; · 重算力任务(转写、图像生成)在服务器上跑更快,且服务器扩缩容是成熟工程; · 最关键:VM 需要打零日漏洞补丁时可以直接重建,而 agent 状态在服务器上安全无虞,VM 与 agent server 必须能各自独立关停,互不拖垮。

一个常驻 agent 的存在形态,是被状态机(休眠→加载→工作→持久化→休眠)、事件驱动(多源触发 + 路由去重 + 打扰判断)、资源分层(服务器持状态、微虚机持计算)三条线索共同定义的。

来源

邵猛