阶跃开源 600B 稀疏 MoE，昇腾 1024 卡超节点当天就接住了

2026年10月16日

昨天（2026 年 10 月 15 日）阶跃星辰把旗舰模型 Step 5 Preview 开源了，同一天，华为昇腾那边第一套 1024 卡的 Atlas 950 SuperPoD 液冷超节点点亮上线。两个消息叠在一起发出来，本身就挺有意思：模型开源和新算力点亮放同一天，等于把「模型出来了」和「算力已经准备好了」捆在一起给行业看。

先看模型本身。Step 5 Preview 是稀疏 MoE 架构，总参数 600B，每个 Token 只激活 27B。600B 的「体重」配 27B 的「干活班组」，这就是稀疏 MoE 的思路——参数够大，但每次推理掏出来的成本被压住了。它支持 1M Token 上下文，也吃图像和视频的多模态输入，在软件工程、Agent、专业工作、金融这几个方向上都报了有竞争力的表现。注意这是个 Preview，不是稳定版，跑分意义有限，但这几个方向恰好都是现在 Agent 应用最卷的战场，选这儿打，意图很清楚。

比较值得说的一句是它的 Sparse Attention。上下文拉到 1M 之后，普通 Attention 的成本会涨得吓人，它这套做法是先由一个 Indexer 把 Token 筛一遍，只在选中的范围里算 Self Attention；为了不让 Indexer 的索引计算本身变成新瓶颈，又把 Indexer Key 按 8 个 Token 一组压成 Region 来算。就是用一层轻量预筛选去换大上下文下的注意力开销，这是现在长上下文模型普遍在走的路子，具体能省多少、掉不掉精度，得等更多人真跑去跑长序列才知道。

真正让我觉得有点意思的是昇腾那边的 0Day 适配。所谓 0Day，就是模型刚开源，昇腾已经基于 vLLM 推理引擎把部署路径打通了，不让你等一个「待适配」的空窗期。为了伺候好这套稀疏 MoE 加 Sparse Attention，昇腾那边上了不少活儿：算子层用 Ascend C 和 Triton 做融合，针对 IndexerLogits、稀疏注意力、专家路由单独写了算子，还做了 MXFP8 量化，说是在精度几乎无损的前提下吃满硬件算力；通信层用 FullMesh 加 CLOS 混着用，还做了 Dispatch 层级去重——就是同一个 Token 被多个专家选中时，跨服务器只送一份主副本，进服务器内部再分发，省掉重复流量；框架层上了 MoE 序列并行、多流并行、NPU Graph 图执行这些。

这些细节对不搞推理优化的人有点门槛，但看方向就明白：它是一整套把「模型架构特点」和「硬件能力」磨到一块儿的工程，而不是简单把模型塞进一个通用框架。昇腾 950 超节点本身的参数是能拿出来的硬货：业界规模最大的 1024 卡超节点，1 EFLOPS FP8、2 EFLOPS FP4，256TB 全局统一内存编址，卡间 TB 级互联带宽，时延低到 3μs。单看数字确实猛，不过稿子里也留了一句实话——文中的性能比例来自对应算子或局部链路的专项对比测试，实际收益会随硬件配置和业务负载变化。这句得看住，别把局部 bench 直接当整机吞吐。

对做部署的人来说，最实用的是它放了昇腾量化版本的推理部署指导，在 vLLM Ascend 的官方文档里（https://docs.vllm.ai/projects/ascend/en/latest/tutorials/models/Step-5-Preview.html），想自己去跑一遍的可以直接照着搭。有一点要留心：Step 5 Preview 是量化版本的这个部署路径，实际性能跟你的部署方案、参数配置、软硬件环境都相关，官方也说会持续优化。

这事的看点不在「又一个国产大模型开源」，也不在「又一座 1024 卡超节点」，而在那个时间点——模型开源当天，算力端已经把路铺好了。开源和算力在同一天亮出来，等于在告诉做应用的人：不用等，现在就能拉起来跑。至于 1M 上下文这套稀疏注意力实跑起来稳不稳、昇腾 950 这套优化在大负载下的真实吞吐到底是多少，这些得等第一批真跑过的人出来说话。模型和算力都到了，剩下的就看谁先把它跑成真东西。