24B 参数只激活 2B，LiquidAI 把「会推理」的模型塞进了本地设备

2026年10月14日

LiquidAI 发布了 LFM2.5 家族里最大、也是最后一个模型 LFM2.5-24B-A2B。名字后面那串数字读出来挺扎眼：总参数 24B，但每个 token 实际只激活 2.45B。这不是什么营销话术，而是这个家族从 LFM2.5-230M 一路爬到 24B，特意留到最后的收官作品——目标就是「fast, private agents on-device」，把 Agent 跑在本地，数据不用一路传到云端。

跟上一代 LFM2 相比，最大的变化是：这是一款「纯推理模型」，回答之前总是先想（chat template 里直接塞了一个 <|thinking> 标签）。配合只激活 2B 的 MoE 架构（64 个专家 block、top-4 routing），每个推理 token 的成本被压得很低。用官方的话说就是「reasoning at MoE speed」——推理能力给到了，开销还维持在 MoE 该有的水平，没有因为会想事就把账单顶上去。

这个「会想事 + 便宜」的组合，在 agentic 任务上确实有说法。材料给到的对比里，它在 LiveClaw 上拿 48.09，而去碰 Qwen3.6-35B-A3B（总参数和激活参数都多出大概 50%）只有 38.19；BFCLv4、ToolSandbox、AutomationBench 都是它领先。当然别把它捧成全能选手，PinchBench、WebArena、SWE-Bench 这些依然是别人在后面几行压着它，官方自己也在说明里提醒：这模型不适合单独扛知识密集型的活，要配检索或联网搜索，专心干 tool-calling。

速度是另一个卖点。边缘端在同一批对比模型里它是最快的——Apple M5 Max 上解出 184 tok/s，AMD Ryzen AI Max+ 395 上 114 tok/s，比第二名快最多 1.7 倍，内存用得还最少；GPU 侧单卡 NVIDIA B300 在高并发下能推到 21K 输出 tok/s。这些数字用的是 llama.cpp 的 Q4_K_M 量化跑的（官方自家的 Pipette 设备基准），4K 输入上下文环境。

还有个容易被忽略的细节：这一代的上下文从 32K 翻到 131K，词表也从 65K 翻倍到 128K，官方叫「in-place tokenizer expansion」，目的是改善非拉丁语系（中文在其中）的分词。训练预算 36T token，预训练约 33T，后面又拆了 2T 的中期训练加 300B 的长上下文数据，最后一层是拿流行 agent harness（OpenClaw、Hermes Agent、Pi、OpenCode）做 agentic RL——也就是学的不只是怎么说话，而是这些工具长什么样、prompt 怎么配、多轮怎么走。

部署上的诚意也够。官方给了 Base、FP8、GGUF、ONNX、MLX-4bit 全套格式，Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio 都支持，还配了一堆 Hermes / OpenClaw / Pi 的本地接入配置示例，基本把「接到任何 OpenAI 兼容后端就能跑」的路铺好了。另外还有一个 DSpark 草稿模型用于 speculative decoding，标着「coming soon」。

要说我的一点保留：Hugging Face 页面上「Downloads last month」显示 4,067 次，说明社区已经开始动手，但一个「on-device agent」能不能真的在普通人手机上跑出官方那套数，跟官方用 B300、M5 Max 测出来的场景其实是两码事——桌面端和旗舰移动端的算力差着量级呢。模型是好模型，但「fast、private、on-device」三个词里，得看你手上的设备配不配得上其中两个。