04 记忆与上下文经济

从短会话到长期记忆:压缩、输出隔离、缓存与跨会话记忆

1. 这个方向的插件试图解决什么问题

长会话里工具输出(日志、测试、大文件)会迅速把上下文窗口填满,不仅推高 API 费用、击穿 Prompt Cache,还会让模型在大量历史噪音中退化;同时会话结束后积累的项目经验默认会随对话清空。

上下文经济围绕两件事展开:第一是“不让不该进上下文的原始输出进去”,以及在必须压缩时尽量少丢关键事实、保护 KV/Prompt Cache 命中率;第二是“让该留下来的事实跨会话延续”,通过本地全文检索或外部语义记忆库,在下次打开项目时精准召回。

2. 在 Pi 里怎么体现

Pi 提供了直接操作消息流与压缩管线的原生钩子:context 与 context_with_system 可在发送请求前裁剪或重写消息;session_before_compact 允许自定义压缩策略;tool_result 能拦截并替换过大的工具返回;before_agent_start 与 agent_end 则适合在回合起止时自动检索与抽取长期记忆。

涉及的 Pi 事件钩子与注册接口

contextcontext_with_systemsession_before_compactsession_compacttool_resultbefore_agent_startagent_endbefore_provider_request

3. 代表包与生态实例

下表包名均核实自 npm、GitHub 与 pi.dev/packages(核对日期 2026-11-22)。前 3 项已上线独立机制详评页,正文不展示容易过期的静态下载量快照。

包名 分发形态 主要作用 详情 / 源码
billion-context npm 跨多编码 Agent 的上下文压缩插件与代理层,目标是在小窗口下支撑超长单会话并减少 token 消耗。
context-mode npm 本地沙箱与 SQLite FTS5 索引插件,把大块工具输出留在本地数据库,仅向模型返回检索后的关键片段。
@mem0/pi-agent-plugin npm Mem0 官方 Pi 扩展,提供跨会话、按项目/会话/全局作用域隔离的语义记忆自动捕获与检索。
pi-memory npm 基于 qmd 语义搜索的 Pi 记忆扩展,覆盖每日日志、长期记忆与草稿本。
pi-hermes-memory npm 从 Hermes Agent 移植的持久化记忆扩展,集成 SQLite FTS5 检索、自动合并与密钥泄漏扫描。
pi-cache-optimizer npm 通过稳定提示词结构、OpenAI 兼容缓存键与代理兼容告警,提升 Prompt/KV Cache 命中率。
pi-context-prune npm 在发送给模型前修剪后续上下文,同时在本地保留完整的原始工具调用历史。

4. 怎么装

代表包安装命令示例
pi install npm:context-mode
  • 本地沙箱截流型(context-mode)与记忆存储型(pi-memory / @mem0/pi-agent-plugin)解决不同环节,可以搭配使用。
  • billion-context 等代理压缩模式会接管或改写请求上下文,若同时使用多个上下文修改扩展,建议核对加载顺序与缓存稳定性。
  • @mem0/pi-agent-plugin 需要配置 MEM0_API_KEY(或 ~/.pi/agent/mem0-config.json);本地 SQLite 方案(如 context-mode、pi-hermes-memory)则完全离线运行。

5. 和同类怎么选

包名核心策略存储/运行位置适用场景
billion-context 上下文压缩与代理调度 本地代理 + 扩展 超长单会话运行,希望压低多轮累计 token 消耗
context-mode 沙箱执行 + SQLite FTS5 按需检索 完全本地(~/.context-mode) 高频跑测试、读大文档,不想让几十 KB 原始输出直接进上下文
@mem0/pi-agent-plugin 跨会话语义记忆自动抽取与召回 Mem0 平台(支持项目/会话/全局作用域) 需要基于语义相似度在多项目或多设备间长期复用记忆
pi-memory qmd 语义检索日志与草稿本 本地文件 + qmd 索引 偏好透明可读的日常日志(daily logs)与长期记忆文件
pi-hermes-memory SQLite FTS5 + 密钥扫描 + 上下文围栏 完全本地 对本地存储安全敏感,需要自动防泄漏扫描与记忆老化
pi-cache-optimizer 稳定提示前缀与缓存键优化 无额外持久化存储 深度依赖 Prompt/KV Cache 降本,需要排查缓存失效率
pi-context-prune 前向上下文裁剪同时保留历史记录 会话文件保留完整记录 希望模型少看冗余历史,但本地回溯与审计仍保留全量记录

看完「04 记忆与上下文经济」后的下一步

可先读已公开的入门实操文章,或点击下方制作中项目表达关注度(不收集邮箱或隐私)

从 Claude Code / Codex 切到 Pi:最小可用配置单与实机演示视频

已上线入门参考: 《Pi 入门笔记》 (比 Codex 更自由,但也更折腾)

出口 1(配置单与实机演示制作中)

Coding Agent 实战交付课:如何可控地把想法做成线上产品

由 kuhung 策划主讲。面向希望把 Coding Agent 用到真实工程与产品交付的开发者,讲清需求拆解、上下文控制、安全边界与上线验证。

出口 2(实战交付课筹备中)