反复学习 Lee Robinson 斯坦福 CS146S 讲座

今天看最后一部分「Where this is going ?」, Grok Bot 类常驻个人智能体的未来会走向哪里？

Youtube 视频：
https://www.youtube.com/watch?v=L1OBRtfPS34

① 训练飞轮：产品如何与模型共同进化
先补了一课 LLM 训练三阶段：预训练（从海量文本获得世界常识）→ 监督微调 SFT（教行为方式）→ 强化学习 RL（像学玩游戏一样变强）。重点在于模型可以针对 harness 本身做训练：SFT 阶段让模型见到 harness 的样例、熟悉它的工具集；RL 阶段训练指令遵循、从上百个技能中选对技能、在浏览器里点对位置。

飞轮分两环：
· 内环（每天）：agent 出错 → 转成 eval → 修 harness/提示词/推理配置 → eval 验证 → 上线。这是产品团队的日常节奏；
· 外环（每月/每季度）：新模型从累积的错误中学习，eval 曲线爬升，新版模型塞回产品。

新模型的能力跳变会反过来催生新用法：群聊里的多 bot 协作就是未被训练过的涌现行为，必须主动训练才能做对。他点名 Moltbook 与 Hugging Face 事件作为反面教材（bot 互相失控）。推理也是飞轮的一部分：主 agent 要低延迟快速响应，而交给 helper 的长任务，10 分钟与 12 分钟的差异无关紧要，按角色分别优化推理策略。

② “Delete the product”：为下一代模型而建
他从 Cursor 带到 SpaceX 的原则，也是全场最具方法论分量的一句话：默认今天的模型是它最差的版本。六个月后你或许要重写整个 UI，他自己就是例证：“今天讲的内容，比六个月前讲会是很大的更新。”因此正确策略是建得越少越好：只做一个极简界面让模型思考和行动，把赌注押在模型进步释放的空间上，而非当下功能堆叠上。

③ 六到十二个月的 “安全选择”
· 工作时长：从现在的数小时/数天，延长到数周到数月；
· 记忆：对过往会话信息的召回持续变好，底层表示形态（图、文件还是别的）尚未收敛；
· 工具完备：理想状态是给数字同事配齐人类新员工入职时的全部工具，组织对此还在适应期；
· 交互形态：界面向更省力演化，部分人会偏好语音对语音（他调侃那个“ hopefully 很酷的 Jony Ive 设备”）；
· 技能沉淀：模型与产品会越来越擅长在岗学习并把经验编码为文件/技能；企业与个人会把自家定制流程写成 agent 可读的文档。

④ 行业判断：Agent 能力是新一代产品的“CRUD”
引自 OpenRouter 的 Alex：有人抱怨“如今所有 AI 应用都长一样，侧边栏加对话框”，他的回应是“2005 年大家也一样：服务器 + 数据库 + CRUD”。结论：每个新产品要么集成 agent，要么沦为他者 agent 调用的无头数据源，没有第三条路。而 durable workflows、沙箱、云电脑、记忆、技能、语音、支付、身份、evals、可观测性……每一个构件都是数十亿美元级的 VC 赛道、约二十家创业公司在抢，它们合起来构成“下一代公司的新原语”。

⑤ 开放难题：留给下一代从业者的窗口
· 评估悖论：agent 一跑就是一个月，模型每月发新版；你无法完整评估一个跑一个月的 agent。要么做更好的 eval，要么放慢发版。他判断这是行业未来六个月必须解决的问题；
· 记忆算法：分层与召回仍有大量未定；
· 安全：如何构建不被恶意行为者劫持的安全 harness 与基础设施；
· 主动与打扰的分寸：那条“要不要打扰用户”的启发式远未完美（“我注意到你昨天缺课了，笔记帮你记好了”）是贴心还是越界，尚无答案；
· token 经济：明年此时全球 token 流量必然大幅增长，推理与 harness 的效率优化将愈发重要。

⑥ 给学生的三条收尾建议
· 系统设计高于一切：架构决策会复利累积；他仍坚持看代码，但重点转向理解所发布系统的整体架构；
· 动手复刻：GitHub 上有开源的 GrokBot 复刻版，配上沙箱、VM 就能搭出自己的版本；
· 理解 LLM 原理：不必深钻 ML，但如同做 Web 要懂数据库；产品层与 harness 层的无数决策正被模型特性反向塑造，这份直觉会让你在任何岗位占优。