StartLux-Decision 新版发布:从「直觉快答」到「该想才想」的决策分叉
距离上一版才 10 天,StartLux 又把 Decision 系列更新了一轮。这事最近在决策模型圈子里热度很高,前一阵硅谷还在为 Jev 疯狂,上月末 OpenAI 连夜在 DevDay 上推 Decisions API 防御,微软一周后把 Microsoft-Decision-1 挂上 Foundry 和 OpenRouter,国庆前 StartLux 就放出了超越 Jev 的版本,现在紧接着又来了这次升级。节奏相当快,赶得很紧。
这次最值得看的,不是又刷了个分,而是它把决策模型拆成了两条路线:Instant(极速版)和 AutoThink(自适应推理版)。Instant 提供 0.8B、2B、4B、9B、27B 五档,AutoThink 目前有 4B、9B、27B 三档。拆开的原因,是材料里那个很具体的例子:商品价格 476.80 瑞典克朗,规则要求加运费后严格低于 500.84 SEK,运费 24.03 时总价 500.83 刚好符合,运费变成 24.05 就得排掉——只差 0.02,决定完全相反。这种「牵一发而动全身」的判定,正是纯单次判断模型的死穴,初代 v1、Perplexity Decider 和 Clef 这类单次模型在这里全灭。
Instant 走的是单次前向传播,靠双向注意力机制让提示词前期的表征融合后续的候选信息,不生成新 Token 就给出答案,主打快。论文的受控实验显示,五个尺寸里有四个受益,最高提了 2.4 分,2B 尺寸微降 0.2。AutoThink 则引入「置信度引导」的自适应推理,简单题直接秒答,遇到没把握的会开启沉思模式,最多生成 4096 个 Token 的推理轨迹再作答,核心是这版的原创方法 RLCD²(Reinforcement Learning for Calibrated Deliberative Decisions)。
RLCD² 比传统「选对就给奖励」做得更细:它用冻结的模型对比思考前后决策概率分布有没有变好,用 Proper Scoring Rules 优化概率质量而不是只盯最终选项对不对,再用软长度惩罚去压掉冗长无效的长链推理。说白了就是让模型既学会怎么想,也学会什么时候该停。9B AutoThink 的数据是推理正常终止率从 45.9% 提到 93.9%,平均推理长度从 2494 Token 缩到 868 Token,降了约 65%,同时 DecisionPivot 成对准确率从 53.3% 提到 59.9%。这个效率改善方向,比单纯刷一个最高分更值得做决策业务的团队关注,因为省的可都是真金白银的算力。
评测这边,新的 DecisionPivot 基准有 13 个任务家族、7800 道题,多数用成对对照甚至三四个样本一组,只有细微一处不同,且同组全部答对才算得分。0.9 置信度门槛下,AutoThink 比同尺寸 Instant 的成对准确率高出 11.5 到 18.4 个百分点,27B AutoThink 做到 86.9%。对照来看,Cloudflare Clef 27B 成对准确率只有 24.9%,AutoTrust JEV-27B 从单题 70.3% 掉到 44.2%,Perplexity Decider 算是钻石组里最稳的,勉强到 70.1%。这里有个提醒要说清楚:官方强调,公开的 Decision Index 0.3 成绩只是评测公开部分,不是完整私有榜单,所以别把它当全量结论。
授权上要注意一件事:推理代码是 Apache-2.0,模型权重是 CC BY-NC 4.0,商业用途得另拿授权。对想直接拿去跑业务的生产团队来说,这一步得先盘清楚,别看到开源就以为能随便商用。全系列权重带着 vLLM、llama.cpp、MLX 支持以及量化版本,都放出来了。
我的观感是,这次升级真正的看点不在「又超了谁」,而在于把「该想才想、想清就停」这套机制连同奖励设计和推理预算一起公开了,给了别人一套可复现、可对照的方法。不过成对类基准的训练-测试同源风险,以及 CC BY-NC 对商用的限制,这两点官方目前都没细说,留给有心人去扒。
相关链接:
- 项目主页:https://decision.startlux.com/
- 技术报告:https://arxiv.org/pdf/2610.17309
- 推理代码仓库:https://github.com/StartLuxLabs/StartLux-Decision
- 权重下载:https://huggingface.co/startlux-models/StartLux-Decision-v1.1-27B-AutoThink
- 体验网址:https://bamboonode.dev/