不让模型学、只让记忆学:一篇论文让冻结权重的 Agent 有了「工作经验」

把 AI Agent 丢进生产环境的人,大概都经历过这种无力感:Agent 在处理某类请求时犯了错,可能是误判意图,也可能是漏了关键步骤。修了 prompt,调了 few-shot,甚至改了一圈工具定义。下周同一个类型的请求来了,Agent 又犯了同一个错。

这和模型聪不聪明没关系——部署那天它就被冻住了。每处理一次请求都在产生学习机会,但每个机会都被直接扔掉。今天花了 30 轮对话搞定一个复杂工单,明天同样类型的工单进来,一切从零开始。

Valentin Tablan、Scott Taylor 和 Kristoffer Bernhem 今天挂在 arXiv 上的这篇论文,解决的就是这个问题。方法极简,数字很实在。

核心思路:模型不动,给它配一个外挂记忆。 每次 Agent 跑完一个任务,把经验蒸馏成一条自然语言规则,存进外部知识库。下次同类请求进来,检索到相关规则,塞进上下文。模型不需要重新训练,不需要更新权重,甚至不需要联网——用 Mistral Large 这种可自部署的开权重模型,整个流程都能跑在自己的基础设施上。

论文在 τ-bench 的银行领域做了测试。对比基线是一个静态 RAG 系统——所有政策文档一股脑塞进去、不做经验更新的方案。

仅仅靠一个「成功/失败」的 1-bit 信号来驱动记忆写入,单次任务成功率就提到基线的 1.6 倍。如果在失败时能拿到人工修正(after-the-fact correction),倍数跳到 2.6 倍。基线有 84 个任务从头到尾一个都没解出来,外挂记忆方案直接拿下了其中的 22 个

这个 1-bit 信号在生产场景里不难获取——系统自己就知道订单有没有成功处理、客服会话有没有解决用户问题。那个 OK / not OK 的 verdict,本身就是训练信号。把它用好,就能让 Agent 积累出真正的「工作经验」。

论文还做了跨模型迁移实验。用 Mistral Large 跑出来的记忆库,交给 Claude Sonnet 5 读,后者也能超越自己不用记忆时的表现。反过来也一样。记忆和模型解耦了。换模型、换部署环境,经验不会丢。对数据主权要求高、只能自部署开源模型的组织来说,这个特性尤其实用——积累的知识不会因为换推理后端就作废。

整套东西都开源了——harness、协议、数据,论文里写得很清楚。翻了一下 arxiv 页面,目前还没看到挂出来的 GitHub 链接,感兴趣的可以直接去论文页面蹲后续。

这个方案解决不了所有 Agent 持续学习的问题。外挂记忆的瓶颈同样明显:规则质量取决于蒸馏逻辑,检索精度决定上下文是否有效,高频场景下记忆库的膨胀也需要管理。但比起「每次出错就重新 few-shot、每次上线前再人工跑一遍验收」这种纯手工流程,这个方向明显更接近真正意义上的「边用边学」。

跑 Agent 服务的人可以读一下这篇论文。它不长,31 KB 的 PDF,核心思路十几分钟就能消化完。然后想想——那些日志、那些 verdict、那些偶尔才看一眼的失败案例,是不是也可以变成让 Agent 变聪明的东西。