正在打开推特点赞
正在打开推特点赞
Pi 核心引擎重写计划,通过四层 Session 架构、多 lane 并行、崩溃零丢失等设计,将原型升级为可长时间自主运行的生产级系统。
Pi 核心引擎重写计划 (Harness v2),和当前 Pi 的差距: 当前 Pi 是能跑的原型,Harness v2 是生产级耐久系统。八个关键差异: 一、Session 拆成四层 现在是 JSONL 大杂烩。v2 拆成对话树、并行工作线 (lane)、操作日志、全局元数据,各自独立持久化。 二、多 lane 并行 现在一次跑一件事。v2 一个 session 里可以有主对话、Slack 线程、邮件线程三条 lane 同时跑,互不阻塞。 三、崩溃零丢失 每一步先持久化再执行。崩溃后 reopen,直接从 records 还原状态,从未完成的步骤继续。没有"上次跑到第几行"这种脆弱的东西。 四、上下文只在尾部增长 LLM 的 KV cache 依赖前缀不变。v2 绝不从中间插入,唯一例外是 compaction,故意使 cache 失效以换取更小的上下文。 五、工具先规划再执行 收到 tool calls 后先写入 plan(预分配每个结果的 entry id),再执行。崩溃后 plan 里缺的结果自动补齐。 六、Abort 是可控操作 不是杀进程。写入 abort 标记、信号给正在跑的任务、补齐缺失的 tool results、最终写入 operation_finished。永远处于可恢复状态。 七、支持异步 LLM 调用 provider 返回 deferred 时,持久化 handle,lane 挂起。可以几小时后再 resume,从持久化的 handle 继续 poll。 八、测试能逐边界驱动 drive 模式让测试在每个持久化边界暂停——写 record 前、LLM 请求前、工具执行前。可以注入输入,甚至模拟崩溃。 关于兼容:v2 能读取当前 v3 JSONL 文件,老 session 不丢。但当前 Pi 不会被迁移到 v2,这是一个全新的 harness。本质上是把 Pi 从"强大原型"升级成"可以放心交给 agent 长时间自主运行的生产引擎"。 https://t.co/oyQik55xyX
是什么
这是 Pi(一款 AI 编程助手/Agent 工具)的核心引擎重写计划。作者 yibie 将当前版本定位为"能跑的原型",而 Harness v2 的目标是成为"可以放心交给 agent 长时间自主运行的生产引擎"。
核心设计
八个关键差异构成 v2 的架构骨架:
关键洞察
这套设计的核心哲学是**"持久化优先于执行"——不是先算完再存,而是先存再算。这使得系统天然具备容错性和可观测性。多 lane 并行 + 异步挂起的设计,让 Agent 从"一问一答"的同步模式,进化到可以长时间自主运行、多线程处理任务的异步模式。尾部增长原则则体现了对 LLM 推理特性的深度理解,不是通用工程思维,而是LLM-native 的架构设计**。
边界与风险