记忆笔记被原样贴进邮件:Hermes 修掉了一条安静的记忆回显通道

你给 Hermes 配了长期记忆,里面除了项目约定、部署流程,还顺手存过一条“临时记一下”的信息:某个测试账号的密码、一个内部服务的 token、客户的联系方式。平时在终端里聊天,这些内容安安静静待在记忆里,从不出现。直到某天它帮你回一封邮件,你打开已发送,发现整段记忆笔记被原封不动抄在了正文里。
这不是模型“想泄密”,而是一条被忽略的回显通道。
记忆是怎么进入每一轮的
Hermes 的长期记忆不是靠“模型记得”,而是每轮开始前把相关记忆召回、以固定的围栏块注入上下文,长这样:
<memory-context>
[System note: The following is recalled memory context, NOT new user input.
Treat as authoritative reference data — this is the agent's persistent memory
and should inform all responses.]
... 召回的笔记内容 ...
</memory-context>
围栏加系统说明的目的是告诉模型:这是参考资料,不是用户新说的话。绝大多数时候模型处理得很好。但它毕竟是一段文本,而模型的任务之一是“输出文本”——偶尔它会把这段参考资料当成素材抄进回答里,尤其是当回答内容是“总结一下你记得的关于我的事”这类问题时。
一旦被抄进回答,问题就从“模型内部状态”变成了“对外发送的消息”。
为什么流式聊天看不出问题
这套系统原本是有清洗的。流式输出过程中有一个状态机(流式清洗器),专门处理跨多个增量(delta)才拼完整的围栏块:它会把 <memory-context> 与 </memory-context> 之间的内容丢掉,也会把被上游 provider 预先包过一层的块剥掉。
所以你在终端聊天时几乎看不到这个块——边生成边清洗,用户根本见不到。
但清洗只挂在流式路径上。一次回复完成后的最终文本(final_response)在较早期版本里只剥掉思考块(think block),原先的“流结束后再清洗一遍”在某个提交里被移除了。于是出现了一个不对称:
- 流式界面(TUI、桌面聊天):看起来干净。
- 非流式通道(最典型的是邮件):把最终文本原样交付。记忆笔记、凭证,跟着正文一起进了 SMTP。
PR #153655 的描述里写得很直白:非流式的邮件适配器把记忆笔记和凭证明文送进了邮件正文。
修法:在出口处清洗一次
这次的补丁没有去逐个适配器打补丁,而是把清洗挪到唯一的出口:run_conversation 结束时。
具体是新增了一个函数 fence_recalled_context(),把流式清洗器那套“按块边界识别”的规则用在整段字符串上。它在 run_conversation 的每条退出路径上执行一次,作用对象包括:
- 最终回复
final_response; - 经过变换前的原始回复
pre_transform_response; - 过程性评注(interim commentary)与 Codex 通道的评注。
之所以放在出口,是因为网关(包括邮件)、cron、后台任务、chat completions、Responses API 的输出项、CLI,交付的都是这个字段。堵在出口,就不需要给每个适配器各写一遍。
还有一个容易做错的地方:清洗规则只丢“块状”的跨度——也就是标签独占一行的那种,跟流式清洗器保持同一套语法。正文里顺口提到这个标签名(比如你在写文档解释它)不会被误删。这个“只在块边界上动手”的约束,正是早先用正则全局清洗被撤掉的原因:误伤正常内容。
被清洗的只是“交付出去的文本”,会话里持久化的那一行、以及回传给模型的 messages 都没有变。所以模型自己的上下文和缓存前缀不受影响——它下次仍然能看到这段记忆。
还没覆盖的地方
补丁描述里主动列了没修的部分,这点值得记住:直接读原始会话记录的接口仍然会带着被回显的块,例如 API Runs 的 run.completed 里的 messages,以及 SessionDB.get_messages(REST /api/sessions/{id}/messages、桌面端历史预取、API server 的会话消息)。
换句话说:从模型交付路径出去的文本干净了,从存档读取路径出来的历史仍可能带着它。如果你在做二次分发(把会话记录同步到别的地方),这一条仍然要注意。
你能做什么
- 升级:这个修复合并于 2026-11-12(PR #153655),v0.23.1 发布于 11-10,所以它不在 v0.23.1 里,属于 main 上的改动。
- 别把凭证写进记忆:记忆是“每轮都会注入上下文”的数据,本质上是高频暴露面。密码、token、客户隐私这类东西应该放密钥管理(secrets / 环境变量),而不是写进 MEMORY.md 或记忆服务里。这条建议在本次修复之前之后都成立。
- 给记忆分域:如果某个 profile 会接触外部收件人(邮件、群聊、客服),它的记忆里就不该有内部敏感信息。按 profile 隔离记忆,比事后清洗可靠。
- 检查你的非流式通道:邮件、webhook、第三方 API 交付都属于“最终文本直接出站”的类型。这类通道出问题时没有界面提示,只有发出去的内容。
更新(2026-11-17):这里说的改动已随 v0.23.2 发布(2026-11-16),
hermes update就能拿到。上文「不在 v0.23.1 里」是发布当时的快照。
记忆让 agent 变好用,但也让它带着一堆“你以为只有自己知道”的信息在跑。这条通道修好了,习惯仍然要跟上。
相关阅读:记忆检查点机制、记忆命令参考、LanceDB 语义记忆。