小模型的技术突围:CoTu团队在EXACT 2026竞赛中凭借神经符号推理斩获最高技术分
核心事件:在 2026 年 IEEE IJCNN 举办的第二届国际透明教育问答可解释人工智能挑战(EXACT 2026)中,CoTu 团队开发的基于 4B 参数模型的神经符号推理系统,在限制使用开源模型且需自我托管的严格条件下,取得了物理任务满分、最终轮技术分第一(13.44/15)的优异成绩,总排名第 3。
1. 竞赛背景与挑战
EXACT 2026 是一项专注于"透明教育问答"(Transparent Educational QA)的竞赛。与传统的追求答案正确率的基准测试不同,该竞赛对模型提出了双重硬性约束:
- 可解释性:系统必须为每一个答案提供自然语言解释。
- 资源限制:仅允许使用参数量不超过 8B 的开源语言模型,且需支持自我托管。
这种设置旨在排除依赖最大规模专有系统的推理能力,转而探索小模型在逻辑严密性和推理透明度上的潜力。竞赛包含两个核心任务:
- 大学规章逻辑推理:基于规则进行演绎。
- 多步物理问题解决:涉及数值计算。
2. CoTu 系统架构:神经符号结合的 Program-of-Thought
针对上述挑战,CoTu 团队(成员包括 Quoc-Khang Tran, Minh-Thien Nguyen, Phu-An Thai, Xuan-Tung Bui, Truong-Thanh Ma, Nguyen-Khang Pham)设计了一套神经符号 Program-of-Thought (PoT) 流水线。
2.1 核心机制:生成程序而非直接生成答案
该系统并未让 4B 参数的骨干模型直接输出最终结论,而是让其编写代码或形式化描述,通过外部求解器进行验证。这种"神经符号"结合的方式将推理过程解耦:
- 对于规章查询:模型生成 Z3 求解器的编码。Z3 是一个强大的符号求解器,其得出的蕴含判定(entailment verdict)为逻辑演绎提供了坚实的符号 grounding。
- 对于物理问题:模型生成数值 Python 代码,通过执行代码获得精确的物理计算结果。
2.2 统一框架与优化
为了处理这两种不同的任务类型,系统采用了以下关键技术组件:
| 技术组件 | 作用 |
|---|---|
| 答案类型路由(Answer-type routing) | 根据输入问题的性质,自动将请求分发到 Z3 路径或 Python 路径 |
| 统一的自我纠错循环 | 包裹在两种路径之上,用于修正模型生成的初始程序错误 |
| 蒸馏任务微调 | 提升小模型在特定任务上的程序生成能力 |
| 延迟感知服务栈 | 使用 SGLang + 推测解码,确保系统在每问 60 秒的时间限制内完成推理 |
3. 成绩分析与技术洞察
3.1 卓越的性能表现
- 物理任务:在自动化选拔赛和决赛轮中,CoTu 系统均获得了完美分数。这证明了通过生成 Python 代码并利用数值求解器,小模型可以克服自身在复杂多步计算上的弱点。
- 规章推理任务:虽然材料未公布具体的规章任务得分,但系统最终获得了最终轮最高技术分 13.44/15。这一分数结合了自动化答案评估和专家对推理深度的评判。
- 总排名:若计入与技术分权重相等的展示分(presentation score),CoTu 团队位列第 3 名。
3.2 关键发现:前提选择而非演绎能力
论文指出,通过将答案 grounding 在符号求解器上,即使在 4B 这样的小模型尺度下,也能实现正确且可验证的演绎。研究团队认为,当前此类系统的剩余主要难点在于"前提选择"(premise selection),即如何让小模型准确地将自然语言问题转化为符号求解器可理解的形式,而非演绎过程本身的能力不足。
4. 对 AI 从业者的启示
CoTu 在 EXACT 2026 的成功为开发者提供了几个重要的技术信号:
-
小模型并非只能做分类:通过 Program-of-Thought 等神经符号范式,8B 以下的模型可以在需要严格逻辑和计算的领域(如教育、合规、科学计算)与大型专有模型竞争。
-
可解释性是结构化的:透明的 QA 不仅仅是生成一段解释文本,而是通过中间表示(如 Z3 编码、Python 代码)让推理过程变得可执行、可验证。
-
工程优化至关重要:在资源受限(60 秒延迟、本地部署)的场景下,结合 SGLang 和推测解码等推理加速技术,是系统能否落地的关键。
参考文献:
- Tran, Q.-K., et al. "CoTu at EXACT 2026: Neuro-Symbolic Reasoning for Transparent Educational QA." arXiv preprint arXiv:2607.14735 (2026).
- 竞赛官方信息:The 2nd International XAI Challenge for Transparent Educational Question-Answering @ IEEE IJCNN 2026.