SkillBoost 提出约束式自学框架，LLM Agent 终于不用「学了新的忘旧的」

做 LLM Agent 的同行可能都撞过这堵墙：让 Agent 从过去的交互里积累经验，结果它要么死记硬背住那几条轨迹，换一个场景就失灵，要么放开探索一通，之前已经能干好的事反而又干砸了。

这不是调 prompt 能解决的——过度利用现有轨迹会导致技能过拟合，不受约束的探索又引发旧技能退化。这周 arXiv 上有一篇新论文把这个问题清晰地框架化了，标题叫《Rethinking Self-Evolution: A Constrained Exploration-Exploitation Process for Mitigating Skill Overfitting》。

作者把 Agent 技能的自演化看作一个搜索过程，核心是平衡探索与利用，并提出了一个叫 SkillBoost 的三阶段框架。

结构化利用：把观测到的失败定位到可编辑的技能组件上，而不是整个技能推倒重来。Agent 在某个子任务上翻车了，先找到是技能里哪一块出了问题，精准修补。

前置知识引导的探索：靠 LLM 本身已有的先验知识来生成多种修复候选，而不是随机试。这一步的质量取决于底模够不够强，但它在「乱试」和「不动」之间给出了一个更聪明的中间选项。

带回归边界的验收：一个候选修复只有当性能提升的同时不导致已解决问题退化，才会被采纳。这直接对应了「学新不忘旧」的需求。

论文在 23 组模型-基准组合上做了实验，SkillBoost 达到了当时的 SOTA，确实缓解了过拟合。优化后的技能可以被其他 Agent 复用在类似任务上——这个 transfer 验证在实际工程里很关键，意味着团队里不同 Agent 之间的技能不再相互隔离。

这篇论文不算长，最舒服的部分不是效果数据，而是它对问题本身的定义。之前很多工作都在「让 Agent 学更多技能」这条路上卷，但很少有人认真讨论「技能过拟合」这个反向问题。Exploration 和 Exploitation 的平衡在强化学习里是老话题了，搬到 LLM Agent 的技能演化里是很自然的映射。

当然，这还只是一篇论文，不是产品。SkillBoost 目前没有看到开源代码或可用工具包，落地还需要工程验证。但方向是对的：与其让 Agent 在有限轨迹上反复拟合，不如给它一个带约束的自学机制，在探索新能力的时候不丢掉已经会的东西。

这可能是接下来 Agent 训练框架里一个值得关注的设计思路。如果你也在搭 Agent 的经验回灌或技能演化机制，这篇论文值得翻一翻。

相关链接：
- 论文页面：https://arxiv.org/abs/2607.26643
- PDF：https://arxiv.org/pdf/2607.26643