作者整理 Lee Robinson 在斯坦福 CS146S 的讲座(视频 https://www.youtube.com/watch?v=L1OBRtfPS34),拆解 Grok Bot 这类常驻 Agent 的四层机制。
反复学习 Lee Robinson 斯坦福 CS146S 讲座
这回主要看 Grok Bot 这种常驻 Agent 的内部构造,Lee 展开分享了「四层机制」
Youtube 视频:
https://www.youtube.com/watch?v=L1OBRtfPS34
① 休眠-唤醒:整个系统是“间歇性存活”的
起点:常驻 agent 平时根本不在线。服务器与 agent 专用的云电脑都处于休眠状态,由消息或事件触发才启动;“启动”的实质是从数据库加载全部状态并重建(会话日志、记忆、例程)。若需用浏览器或点按屏幕,再拉起那台电脑;用完即回写状态、再度休眠。
为什么必须如此设计,他给出了朴素的算术:既因为昂贵,也因为“世界上没有足够的电脑让每个人的 agent 永远在线”。“常驻”的真相是按需复活 + 状态持久化,而非进程永续,这是理解这类系统的第一个关键。
② 唤醒源:不止你一个入口
能叫醒 agent 的远不止你直接发消息。Slack 消息、电话、会议都算,SpaceX 内部已常见员工缺席会议时让 bot 代为参会、记笔记、回来汇报。此外还有后台例行任务(routines):跑了数小时或数天的工作完成后主动回来交摘要。
所有触发源汇入一个路由,负责去重、决定如何合入当前会话。
③ “要不要打扰用户”:一条独立的判断链
路由之后是一个容易被忽视但体验攸关的启发式:这件事值不值得通知用户。他的类比精准:同事每取得一点进展就跑来汇报会让人崩溃,agent 同理,多数任务一天一次状态更新足矣。
值得注意:这个判断发生在通知层而非执行层,工作照做,但沉默权交给规则。他后来在“未来”一章也坦承这套分寸“还没做到完美”,是开放问题。
④ 专用云电脑:Firecracker 微虚机
agent 的电脑是一台 Firecracker microVM(就是 Lambda/开 Fargate 背后的那类轻量虚拟机技术),选它的核心理由是快照友好,状态可快照、关机、再恢复,与整个系统的休眠-唤醒节奏天然契合。
机器的四个特性:
· 隔离执行:shell 命令跑在这台安全锁定的机器上,而非用户的个人笔记本;
· 可视化接管:用户可以连入这台机器,实时观看甚至亲手控制,“看它工作”既是信任机制也是调试手段;
· 虚拟桌面:同时跑五个十个 bot 时,每个 bot 有自己的屏幕和浏览器,互不干扰;
· 共享基础设施:这些电脑是池化资源,由 bot 们按需调用。
补充:server 与 computer 为什么必须分离
架构图把系统划为三段:触发源(左)→ 服务器(中)→ 云电脑(右)。服务器内是消息队列 + agent 循环(即上周课上的“模型调工具”循环)。
而 agent 循环绝不能放进 VM,原因有三:
· 更新独立:改 agent 代码只需推服务端,不必走应用商店审核;
· 重算力任务(转写、图像生成)在服务器上跑更快,且服务器扩缩容是成熟工程;
· 最关键:VM 需要打零日漏洞补丁时可以直接重建,而 agent 状态在服务器上安全无虞,VM 与 agent server 必须能各自独立关停,互不拖垮。
一个常驻 agent 的存在形态,是被状态机(休眠→加载→工作→持久化→休眠)、事件驱动(多源触发 + 路由去重 + 打扰判断)、资源分层(服务器持状态、微虚机持计算)三条线索共同定义的。
https://x.com/i/article/2108757732417572864在 X 查看被引用的帖子
来源:meng shao · x.com