答完还在硬写、写满 94K 交白卷——这个社区后训练专治推理「不刹车」
跑过推理模型的人大概都撞过同一个鬼:题它其实已经解出来了,可答案就是等不到。
模型会不停地说「Wait……」然后「Actually……」,把同一套推导从头到尾再来一遍、两遍、三遍,一直写到上下文塞满、撞上 94K 的生成上限,最后吐出一个空 answer。空,不是答错,是根本没有答案。跑分时这种也算错,分数被它白白拖低一截,推理时长和 token 账单也跟着被打肿。
这几天 Hugging Face 上有个东西专门治这个毛病,名字长得离谱——Qwen3.8-27B-Coder390-EfficientThink-...,后面还挂一串 Opus5.5、GPT6Astra、Grok4.7 这种一看就是圈内玩梗的代称。正主其实是官方 Qwen/Qwen3.8-27B,在它基础上先做 SFT 加 SimPO,又补了几轮 SFT 和 RLOO 对齐。核心目标就一个:把「该停不停」这个惯性按下去。
成果数字很能说明问题。同一套测试协议下,94K 截断在 GPQA 上从 4 次降到 1 次,LCB 上从 13 次砍到 3 次,三个套件没有一个掉分:GPQA 178/198、MMLU 450/500、LCB 90/100,对比原本的 177/444/83。这数据好看在没靠阉割推理长度换分——长但正确的推理照样拿正奖励,被惩罚的只是「答完还在硬写」的那段尾巴。模型名里的「390」,是说 GPQA、MMLU、LCB 三个都摸到了 90。
真正让我上头的,是那份部署矩阵
这个东西有意思的不止 RLOO 那套玩法。它一口气端出大概十几档量化:BF16、静态 FP8、NVFP4 的 W4A16/W4A4/W4A4-W8A8、NInfer、INT8 的 W8A8/W8A16、INT4 W4A16,加上 GGUF 的 Q2/Q3/Q4/Q6_K/Q8_0。最关键的卖点是「无损量化」:GPQA 和 LCB 在 BF16、动态 FP8、静态 FP8 三档下分数完全一致。对天天在自己卡上抠显存的人,这真是福利。
再配上投机解码,数字更漂亮:走 DFlash2 大约 180 token/s 每请求,内置 MTP 约 91,不开投机只有约 46。投机方式选对了,单请求吞吐能翻四倍上下。整个仓库在 SGLang 里免改就能加载,FP8 那档还顺手在 vLLM 上冒烟测过。测试环境是单张 RTX PRO 6000 Blackwell 96GB,跟现在很多人的实际对得上——不是云上那种金贵集群,就是手头常见的这张黑卡。
顺带一提,他们还把这货塞进了自己的开源桌面 Agent「Lynn」,本地档直接内置,不要 API key 不用配置,16GB 级别能跑 Q2 档、24GB+ 才适合 Q3。硬件建议写得很实在:低于 14GiB 直接拦装,别指望小卡硬扛 27B。
别把结论拔太高
公道话说在前头:这主要是一个「修毛病 + 铺通道」的社区工程,不是新的基座发布。它真正的价值,是把推理模型最常见的失败模式之一——不刹车、烧满上下文、交白卷——当成一个可以专门去治的问题,而且给出了完整的量化和部署方案。RLOO 那批数据里,172 组、1376 条轨迹,其中 859 条正确、517 条错误,还包含 68 条空答案,奖励表里连「空答案 −1.0」都写明了——看得出是真在做实验,不是贴个 PR 稿。
当然,跑分只说明一部分问题。这种第三方 post-training,质量还得自己在自己任务上复测,别把 GPQA 当圣旨。但对那些正在跑本地推理服务、被「空答案」噎了无数次的人,这至少是个值得盯一眼的东西。参数、命令、各档位分数和速度表都在模型卡里,链接放下面。