7.8
深览指数
科技人人都是产品经理·深思圈··AI 生成
斯坦福新课直接讲 personal agent，Grok Bot 工程师分享如何打造出 always-on agent
Grok Bot 工程师 Lee Robinson 在斯坦福 CS146S 课程中系统阐释了如何构建一个「永远在线、会主动干活」的 AI agent。核心不是让模型更聪明，而是改变它的存在方式——让它拥有自己的云端电脑、工作记忆，以及一套可靠的「醒来—干活—睡去」机制。文章详细拆解了服务器架构、上下文管理、动态工具发现和任务可靠性等关键基础设施，并分享了「把产品删掉」这一反直觉的产品策略。适合对 AI 产品工程化有深度需求的读者。原文 ↗
核心观点
- ▍always-on agent 的核心不是模型更聪明，而是改变其「存在方式」：从被动的问答工具，变为拥有云端电脑、记忆和自主工作节奏的「数字同事」。
- ▍构建可靠 agent 的工程策略是「为下一代模型而建，建得越少越好」：脚手架要克制，保持界面简单，让模型自己去思考，随时准备推倒重来。
- 01Agent 架构采用 thin client, thick server，客户端（手机、桌面、邮件）只用一个「send to user」工具与服务器通信，所有重任务（shell 命令、文件操作、录屏）都在服务器侧完成。
- 02上下文管理通过「主 agent 保持稀疏 + 子 agent 处理重活儿」实现，子 agent 是一个 durable workflow，崩溃后可从中断处继续，主 agent 的上下文不会被子 agent 的大量中间操作撑大。
- 03「能力阶梯」原则：bot 先试对话历史已有信息，失败则查 API/插件，再失败则上网搜索，再失败则支持开浏览器/桌面操作，所有办法都失败才打扰用户。
- 04Agent 的「永远在线」实际是「睡眠—唤醒」模式：服务器和云电脑平时关闭，收到用户消息或外部事件（Slack @、邮件、会议）后加载状态启动，用完后再次休眠以节省成本。
- 05任务可靠性依赖 Temporal 实现的 durable workflow，而非普通 job queue：工作流崩溃后可安全从断点恢复，不需要重放已完成步骤。
- 06模型与产品通过「内循环」（日常失败→加 eval→修/调）和「外循环」（收集失败训练下一代模型）形成飞轮，推动 agent 能力跃升。
- 07动态工具发现：不在提示词中塞入所有工具定义（占上下文），而是只放工具名称，模型决定使用后再去读完整细节。
反方 / 局限
- — 作者坦承，agent 何时该沉默、何时该打扰用户的启发式策略「还没做到完美」，在主动与烦人之间走钢丝，是一个未解决的设计问题。
- — 安全方面，收件箱邮件、webhook 可能是钓鱼或恶意来源，不能直接当作用户指令发给模型；防 prompt injection 仅是安全工作的冰山一角，行业要做的还很多。
- — 推理能力快速提升带来的评测难题：agent 需运行数周，但模型每月发新版，如何在不完整评估其长期行为的前提下安全迭代，是行业未来半年必须解决的问题。
Lee RobinsonCursorSpaceXGrok BotTemporalFirecracker斯坦福 CS146SMCP 服务器durable workflowcontext engineeringdynamic tool discoveryprompt cachingsub-agentcomputer use
20 分钟 · 5 卡片 · 14 资料
读原文 →