只在该想的时候才想：GEV-26B-Decide 的 85ms 电脑操作，和它写得很诚实的边界
这周真正让我有反应的，不是又一个大模型刷榜，而是 AutoTrust 用「开源权重」四个字放出来的 GEV-26B-Decide：一个基于 google/gemma-4-26B-A4B-it 的决策模型，26B 参数、每个 token 真正激活的只有约 4B。它主打一种很工程化的玩法——System 1 在一遍前向里快速判（中位约 45ms），搞不定时才让 System 2 去「想」，然后把两边的概率揉成一个结果。这套东西不是停留在 README 上的概念，还带了 computer use 和机械臂的实测。
最抓人的一段是 10 月 3 日更新的 demo。真实浏览器（headless Chromium）里，System 1 拿截图选下一步点击，95% 的多步任务（60 个随机任务，商场、设置、邮件，每次 3–7 步）完成了，每次点击约 85ms，比同族的 JEV-27B-VL 快 3 倍。机械臂从俯视相机图里判断目标在夹爪左边还是右边、上面还是下面，61ms 做一次决策，20 个随机场景完成了 40%，一旦抓住，9 个立方体里有 8 个能放进托盘。
这个数字的重点其实不是 95%，而是它演示了「单遍前向、不思考」这条快路径到底能压到多快。System 1 单请求中位 45ms，64 个并发客户端下每秒 257 个决策。相比之下，JEV-27B-VL 一次点击要 260ms——同一批任务，速度差三倍还多，这不是挤牙膏式优化，是换了条路。
只在该想的时候才想
自适应思考的逻辑很直接：默认 thinking: "off" 是纯 System 1，一遍前向、直接吐每个选项的校准概率；把开关拨到 "auto"，System 1 先给答案，如果它对自己最强的那个选项信心低于默认 0.8，System 2 才用 Gemma-4 的 thinking 模式推理，推理结果会折回来，最终概率取两边的均值 p = ½p1 + ½p2。它给的效果是：自研跑分里，adaptive 模式用 47.8% 的问题触发思考，就拿到了「每题都想」那种 always-think 方式的 96% 收益——也就是说，省掉一半以上的思考开销，几乎不掉准确率。
这里有个容易被忽略的设计细节：p2 单独拿出来往往接近 one-hot、过度自信，所以作者特意用了等权混合，让推理的准确率和 System 1 的校准度互相兜住。校准也没变差，System 1 和 adaptive 的 ECE 都是 0.035。对要拿概率去卡自动化闸门的场景，这点很关键。
哪里想有用，哪里想没用
这份 README 值得单独表扬的地方是，它把「思考什么时候管用」讲得很透，而不是无脑夸自适应。逻辑上的收益是实打实的：扫雷 21%→86%、Wordle 52%→100%、四子棋 54%→99.5%、Sudoku 76%→99.5%。Decision Index 十个推理基准里，GPQA Diamond、CRUXEval、CLadder、MMLU-Pro、BBH 都拿到了明显上涨，Knowledge & Reasoning 区域的 skill 从 0.429 升到 0.602。
但同一张表也把它们自己按回去了。HLE 这种专家级难题，System 1 只有 8.4%（随机基线 16.4%，是负的），想了之后回到 17.8%，水平就是乱猜。下棋也不受益——ChessBench 有三分之二的想法冲满 8,192 token 预算，从被截断的思路里读出来的答案比不思考还差。对分类和检索，想反而添乱：BANKING77 从 88.0 掉到 85.0，因为没训练过的 System 2 经常用过度自信的错误答案，把训练过的 System 1 正确答案给覆盖掉。作者的结论相当直白：推理题开 "auto"，分类、检索、工具路由就老老实实关掉。
思考还贵。十个推理基准里 66% 的问题至少想了一次，中位思考 13.4 秒（单块空闲 B200），加了 speculative decoding 才压到 7.7 秒；GPQA、HLE、ChessBench 这类题中位直接顶到 8,192 token 预算。所以它给「自适应」这个名词配了一组真数字：快的时候真的快，硬题上依然烧时间。这份诚实，很多发布稿给不出来。
落地与开源
工程上它做得比较齐：上下文 262,144 token（256K），choice 支持 2–256 个选项，超过 16 个会分组并行读取再打淘汰赛，不被剪枝；一张卡 80GB 以上就能起 vLLM（要打个配套补丁）。许可证上权重本身算开源——adapter、decision head、校准文件是 Apache-2.0，底座 gemma-4 走 Gemma 4 的条款。模型卡上写着上月下载 446,527，也专门澄清了一件事：GEV-26B-Decide 是 AutoTrust AI 的独立开源权重，和 TypeSafe AI 的托管闭源模型 Jev 1.13 没有隶属关系，只是跑同一套 Decision Index 而已（它的自报分 62.48 对 Jev 的 57.91，且注明是自测不是官榜）。
我的保留意见在推理成本那一栏。自适应把「该不该想」变成参数，确实比一刀切 always-think 聪明，但硬题上思考照旧顶满预算，而模型卡自己也承认，adaptive 模式在 Knowledge & Reasoning 基准上不满足 Decision Index 的延迟线（单请求中位 ≤1000ms）。对要把决策模型接进高频控制循环的人来说，System 1 的 45ms 是能用的，System 2 那一半就得自己掂量。什么时候值得为那 4–8 个百分点的准确率多付十几秒，这仍然是个业务问题，不是模型能替你决定的。
目前看到的版本里，图片决策还是零样本（decision head 只拿文本训过），128K 以上的上下文也没测。这些东西会怎么被社区填上，或者干脆不填，可能是比我上面写的一大段参数更有看头的事。