Agent Infra 六个月工程化学习路线
从 Runtime 到生产平台的 6 步 Agent Infra 学习地图,并附 Hello-Agents 系统教程。
来源摘录
想深入 Agent Infra,别只盯着 Prompt 和框架。 我落地过 2 个生产级 Agent。在这些项目中,我发现最难的不是模型本身,而是重试、状态管理、沙箱隔离和监控这些工程问题。Agent 能不能在生产环境中稳定运行,很大程度上取决于底层 Infra。 我把Agent Infra的学习之路拆成了 6 步,从 Runtime 一直到生产平台。下面是完整的学习路径。 开始前先说清楚 4 件事。 •这是一份公开的学习计划,大约按 6 个月的节奏走。重点是吃透,不比速度。 •Agent Infra 不是 AI Infra。这里不讲 CUDA,也不讲训练和推理。 •已经熟悉 Runtime 的人,可以跳过第 1 步。 •第 2 步最容易被低估。 6 步依次是 Runtime、可靠性、编排、沙箱、可观测与评估、生产平台。 1. 先自己写一个 Agent Runtime 目标:不依赖现成框架,搞懂 Agent 是如何完成一个用户任务的。 学什么:从零写一个 Agent Loop,也就是"思考、调用工具、拿到结果、再思考"这一圈。然后学 Tool Calling、Context Engineering、Streaming、State 和 MCP。可以跟着三元同学的 Super Agent 实战课走一遍,也可以跟着Datawhale的hello-agents做一遍(hello-agents链接:https://t.co/JI5NhvLCoB)。我这里只分享整体思路,不贴课程里的代码。 有个捷径是读 Pi 的源码。重点看 Loop、消息结构、消息发出的时机、session、缓存、compact、hook 和 MCP。底层的 LLM 封装可以跳过。 怎么练:搭一个最小的 Loop,跑通一个需要多个工具的任务。再对照 Pi 画一张图,标出消息什么时候发出、session 怎么存、什么时候触发 compact。 验收:你能讲清一次工具调用从头到尾发生了什么。只会调 SDK 可不算过关。 2. 可靠性靠设计,不用先学分布式 目标:进程挂了、网络断了,没跑完的任务还能接着跑。 我的结论是,入门不必先学分布式。可靠性是设计出来的。 学什么:HTTP、SSE 和 WebSocket,进程、线程和协程,还有队列、状态机、超时、重试和幂等。资料先看 System Design 101。MIT 6.1800 和 6.5840 挑需要的部分补。DDIA 先别硬啃。 怎么练:写一个能恢复的小型任务执行系统。杀掉进程再重新启动,做了一半的任务要能接着跑。 我特别看重两点。第一,重新启动一个Agent进程,任务也能接着跑。第二,失败要如实上报,不能当成成功吞掉。 验收:重启以后任务不丢失,重试不会造成重复的业务副作用,任务状态能对得上。 3. 从一个 Loop 升级到编排多个 Agent 目标:从管一个 Loop,升级到管多个子任务和多个 Agent。 学什么:Subagent 的任务分发、结果收集和上下文隔离,异步任务与并发控制,目标拆解与结果对齐,以及更高层的多 Agent 编排工具。 怎么练:把一个任务拆成 3 个子任务,跑通后汇总结果。再故意让其中一个子任务失败,看编排层能不能把整个任务收住。 验收:你能说清哪些工作该交给子 Agent,哪些该留在主 Loop。 4. 危险操作一律放进沙箱 目标:工具可以读写文件、执行命令。出了事,坏掉的是沙箱,不是宿主机。 学什么:入门阶段会用 k8s 调度就够了。入门可以先从 Container + Volume 搭建隔离环境,再逐步了解文件系统隔离、资源限制、网络策略和权限控制。 怎么练:给 Agent 配一个独立的沙箱,故意把里面的目录写坏。确认宿主机没有受影响,任务状态也还能恢复。 验收:危险操作默认在沙箱里执行。权限写在 Tool Definition 里,不靠 Prompt 求模型"小心一点"。 5. 先看得见 Agent 在做什么,再让它变好 目标:看得见 Agent 在做什么,并且能持续改进。 学什么:直接看 Langfuse。可观测(Observability)的核心,把轨迹、工具调用、耗时和失败原因都存下来。评估(Evaluation)是一条"先优化、再验证"的流水线,不是偶尔手动测两个用例。 怎么练:接入 tracing。固定 10 到 20 个用例做回归测试。每次改了 Prompt、工具或编排,都用同一套评估看结果变好还是变差。 验收:出了问题,能定位到是哪一步、哪个工具。每次改动都有改动前后的对比。 6. 把前 5 步拼成能上线的平台 目标:把前面几块拼成一个能上线的平台,而不是一堆 Demo 脚本。 学什么:读 FenixAgent的源码。编排、调度和 Agent 协议对接,都是生产里绕不开的脏活。 怎么练:对照 FenixAgent列一份缺口清单,包括调度、协议、多租户和配额,然后按优先级补。别一上来就把整套系统重写。 验收:别人照着文档,就能把你的服务启动起来并跑通。不能只在你自己的电脑上能跑。
深度解析
是什么 一条面向 Agent Infra 的六个月自学路线,作者以两个生产级 Agent 项目的落地经验为背书,主张难点不在模型或框架,而在重试、状态管理、沙箱隔离、监控等工程问题。
核心论点链条 先划清边界:Agent Infra ≠ AI Infra,不涉及 CUDA、训练与推理。随后给出六步递进:①手写 Runtime(Loop、Tool Calling、上下文工程、Streaming、State、MCP),并把 Pi 源码当作可对照的工程范本;②用 HTTP/SSE/WebSocket、进程线程协程、队列、状态机、超时重试幂等这些通用能力设计可靠性,而非先啃分布式;③把单 Loop 升级为 Subagent 分发、并发控制与结果对齐;④用容器与卷做隔离,权限写进 Tool Definition 而不是靠 Prompt 祈祷;⑤用 Langfuse 做 traces,配 10–20 个固定用例做回归;⑥对照 FenixAgent 补调度、协议、多租户与配额,形成可被他人启动的平台。
关键洞察 每步都配有“怎么练”与“验收”,验收标准都是行为可验证的:杀进程后任务能续跑、重试不产生重复副作用、坏掉的是沙箱而非宿主机、改动有前后对比。这是它区别于普通“学习路线清单”的地方,把学习目标转成了可测试的工程契约。第 2 步被作者点名为最易低估的一环,也最贴合一线体感。
外链仓库 Hello-Agents 是 Datawhale 的开源中文教程,定位 AI Native Agent,从智能体定义与 LLM 基础讲起,覆盖 ReAct 等经典范式、低代码平台、主流框架,再到自研 HelloAgents 框架、记忆检索、上下文工程、MCP/A2A 协议、Agentic RL、性能评估与综合案例。它补的是“原理与实现”,推文补的是“生产与运维”,两者层级不同、可以互补。
边界与风险 路线偏工程直觉与个人经验,半年节奏对在职者偏乐观;DDIA、MIT 课程被有意后置,深水区仍要补。仓库 README 的 star 数与提交时间等元数据本身不构成质量证明,教程章节完整度也需实际跑通代码验证。