04 记忆与上下文经济
从短会话到长期记忆:压缩、输出隔离、缓存与跨会话记忆
1. 这个方向的插件试图解决什么问题
长会话里工具输出(日志、测试、大文件)会迅速把上下文窗口填满,不仅推高 API 费用、击穿 Prompt Cache,还会让模型在大量历史噪音中退化;同时会话结束后积累的项目经验默认会随对话清空。
上下文经济围绕两件事展开:第一是“不让不该进上下文的原始输出进去”,以及在必须压缩时尽量少丢关键事实、保护 KV/Prompt Cache 命中率;第二是“让该留下来的事实跨会话延续”,通过本地全文检索或外部语义记忆库,在下次打开项目时精准召回。
2. 在 Pi 里怎么体现
Pi 提供了直接操作消息流与压缩管线的原生钩子:context 与 context_with_system 可在发送请求前裁剪或重写消息;session_before_compact 允许自定义压缩策略;tool_result 能拦截并替换过大的工具返回;before_agent_start 与 agent_end 则适合在回合起止时自动检索与抽取长期记忆。
涉及的 Pi 事件钩子与注册接口
3. 代表包与生态实例
下表包名均核实自 npm、GitHub 与 pi.dev/packages(核对日期 2026-11-22)。前 3 项已上线独立机制详评页,正文不展示容易过期的静态下载量快照。
| 包名 | 分发形态 | 主要作用 | 详情 / 源码 |
|---|---|---|---|
billion-context | npm | 跨多编码 Agent 的上下文压缩插件与代理层,目标是在小窗口下支撑超长单会话并减少 token 消耗。 | |
context-mode | npm | 本地沙箱与 SQLite FTS5 索引插件,把大块工具输出留在本地数据库,仅向模型返回检索后的关键片段。 | |
@mem0/pi-agent-plugin | npm | Mem0 官方 Pi 扩展,提供跨会话、按项目/会话/全局作用域隔离的语义记忆自动捕获与检索。 | |
pi-memory | npm | 基于 qmd 语义搜索的 Pi 记忆扩展,覆盖每日日志、长期记忆与草稿本。 | |
pi-hermes-memory | npm | 从 Hermes Agent 移植的持久化记忆扩展,集成 SQLite FTS5 检索、自动合并与密钥泄漏扫描。 | |
pi-cache-optimizer | npm | 通过稳定提示词结构、OpenAI 兼容缓存键与代理兼容告警,提升 Prompt/KV Cache 命中率。 | |
pi-context-prune | npm | 在发送给模型前修剪后续上下文,同时在本地保留完整的原始工具调用历史。 |
4. 怎么装
pi install npm:context-mode - 本地沙箱截流型(context-mode)与记忆存储型(pi-memory / @mem0/pi-agent-plugin)解决不同环节,可以搭配使用。
- billion-context 等代理压缩模式会接管或改写请求上下文,若同时使用多个上下文修改扩展,建议核对加载顺序与缓存稳定性。
- @mem0/pi-agent-plugin 需要配置 MEM0_API_KEY(或 ~/.pi/agent/mem0-config.json);本地 SQLite 方案(如 context-mode、pi-hermes-memory)则完全离线运行。
5. 和同类怎么选
| 包名 | 核心策略 | 存储/运行位置 | 适用场景 |
|---|---|---|---|
billion-context | 上下文压缩与代理调度 | 本地代理 + 扩展 | 超长单会话运行,希望压低多轮累计 token 消耗 |
context-mode | 沙箱执行 + SQLite FTS5 按需检索 | 完全本地(~/.context-mode) | 高频跑测试、读大文档,不想让几十 KB 原始输出直接进上下文 |
@mem0/pi-agent-plugin | 跨会话语义记忆自动抽取与召回 | Mem0 平台(支持项目/会话/全局作用域) | 需要基于语义相似度在多项目或多设备间长期复用记忆 |
pi-memory | qmd 语义检索日志与草稿本 | 本地文件 + qmd 索引 | 偏好透明可读的日常日志(daily logs)与长期记忆文件 |
pi-hermes-memory | SQLite FTS5 + 密钥扫描 + 上下文围栏 | 完全本地 | 对本地存储安全敏感,需要自动防泄漏扫描与记忆老化 |
pi-cache-optimizer | 稳定提示前缀与缓存键优化 | 无额外持久化存储 | 深度依赖 Prompt/KV Cache 降本,需要排查缓存失效率 |
pi-context-prune | 前向上下文裁剪同时保留历史记录 | 会话文件保留完整记录 | 希望模型少看冗余历史,但本地回溯与审计仍保留全量记录 |
看完「04 记忆与上下文经济」后的下一步
可先读已公开的入门实操文章,或点击下方制作中项目表达关注度(不收集邮箱或隐私)
从 Claude Code / Codex 切到 Pi:最小可用配置单与实机演示视频
已上线入门参考: 《Pi 入门笔记》 (比 Codex 更自由,但也更折腾)
说明:此处未向后台提交个人资料或邮件表单。配置单与实机演示视频正在制作中,你的匿名点击已计入站点热度,用于排定优先录制方向。
Coding Agent 实战交付课:如何可控地把想法做成线上产品
由 kuhung 策划主讲。面向希望把 Coding Agent 用到真实工程与产品交付的开发者,讲清需求拆解、上下文控制、安全边界与上线验证。
说明:此处未向后台提交报名或收集任何个人信息。课程模块仍在筹备阶段,你的匿名点击将作为模块排期的优先参考。