你的 Agent 还在全盘接受信息?这篇论文给了它一个「挑着信」的框架

做 Agent 的人多半遇到过这种场景:给模型塞一段新信息,它要么照单全收,要么直接忽略,几乎没有中间态。

纯聊天场景下问题不大。但 Agent 一旦开始自主决策——跑一个多步骤任务,中途收到来自不同源的状态更新——信息之间打架就是常态。新消息和旧信念部分冲突、部分兼容,这时候该信多少、怎么信,现有方法没给出好的答案。

前天 arXiv 上线了一篇论文:「Selective Credibility-Limited Belief Update」(选择性可信度受限信念更新),作者是 Theofanis Aravanis 和 Costas D. Koutras。标题听起来逻辑学味道很重,但核心问题恰好戳在 Agent 落地的一个真实痛点上。

问题出在「全有或全无」

现有的信念更新框架,不管是经典的 Katsuno-Mendelzon 更新,还是后来加了可信度限制的版本,都默认一条规则:一条新信息来了,你要么完整接受,要么不接受。

实际场景里这显然不够用。举个实例:你的 Agent 从两个传感器拿到冲突的定位数据,一个说「目标在 A 区,速度 5m/s」,另一个说「目标在 A 区,速度 8m/s」。位置一致、速度冲突。理想的 Agent 应该能接受一致的部分(位置),对冲突的部分(速度)做进一步核实或暂不采信。但现有方法做不到——它只能整条吞下或吐出。

这篇论文做的事,就是把「选择性接受」形式化了。核心思路不复杂:在每条新信息被吸收进信念库之前,先对原始输入做一次「软化」——转换成一个弱化版本(他们叫 proxy),再走可信度过滤。

Proxy 的机制

所谓弱化版本,就是把原来那条信息里可信度不够的部分砍掉。关键区别在于,砍的动作不是一刀切,而是对每个「源世界」(source world)独立做的。

你的 Agent 有一个当前对世界的理解模型(一套信念世界)。来了一个新信息。传统做法是在所有可能的世界里,用同一套规则去吸纳这条信息。这篇论文的做法是:对每个源世界,先把新信息转换成该世界下可信的东西,再做更新。

这听起来很理论,但落到工程上,就对应了一个很实际的需求:Agent 对不同来源的信息,应该有不同的信任门槛,而且这个门槛应该能精细到信息内部的不同成分。

论文还划了两个子类。

一个是 consistency-preserving(一致性保持型),要求软化后的信息必须和源世界保持一致——原始信息本身矛盾的,不强塞进去。另一个是 maximal consistency-preserving(最大一致保持型),更进一步要求你选的那个弱化版本,在所有可信候选中信息量最大。

后者对应了 Agent 的一个理想行为:有疑虑时不是什么都不做,而是尽可能接纳可信部分,不确定的留下来继续处理。

和现有框架的关系

这篇论文没有另起炉灶。它证明了现有的 credibility-limited update(可信度受限更新)是它框架的一个特例,而经典的 Katsuno-Mendelzon update 在去掉可信度限制、且把转换函数设为单位函数(identity)时,也被自然包含进来。

等于说它在原有理论地基上做了扩展,不是推倒重来。已经在用 KM 框架做信念管理的系统,迁移成本理论上不高。

对做 Agent 的人意味着什么

目前大部分 Agent 框架处理信息冲突时,用的都是 prompt 层的模糊策略——靠指令告诉模型「优先相信这个来源」或「检查一下有没有矛盾」。能应付简单场景,但如果在复杂环境里连续执行多步骤任务,这类策略的可靠性明显下降。

这篇论文给了一条更结构化的路:把信念更新的逻辑做成独立模块,让 Agent 处理新消息时不靠大模型的语感,而是靠一个定义清晰的更新算子来做决策。尤其是「每个源世界做独立的 proxy 转换」这个设计,天然适合多传感器、多信息来源的 Agent 系统。

当然,这还是纯理论工作。没有工程实现方案,也没有 benchmark 数据。提供的是一套框架和公理化刻画——离直接写到代码里还有距离。

但方向是对的。Agent 落地最难的不是让它动起来,而是让它知道什么时候该信什么。这篇论文至少给出了一个比「全有或全无」更值得推敲的思考起点。


相关链接

  • 论文 PDF:https://arxiv.org/pdf/2607.28523
  • arXiv 页面:https://arxiv.org/abs/2607.28523