商汤大装置：国产算力规模化商用元年
核心事件
在2025世界人工智能大会（WAIC）期间，商汤大装置举办AI基础设施论坛，发布国产算力业务成绩单，宣布其国产芯片相关业务的毛利率实现转正。商汤将该年定义为「国产AI基础设施规模化商用的元年」。
关键数据
- Token处理量增长：日均Token处理量从年初的4000亿增至7月末的2.42万亿，年底目标10万亿，约为年初的25倍
- 芯片适配规模：前后适配过20多款不同厂商的国产芯片，其中6-7款已稳定实现商业化盈利
- 性能提升：主流国产芯片MFU（Model FLOPs Utilization）提升85%-152%
- 成本优化：单位成本Token产出提升2.5倍
- 场景表现：
- AI4S长序列蛋白质预测场景：预测耗时减少75%
- AIGC视频生成场景：国产芯片运行DiT模型时，多卡并行视频生成加速比达93%
- 电力优化：单位电力成本Token产出提升约80%
技术路径：异构混合推理
商汤大装置的核心技术方案是「异构混合推理」，通过将Prefill和Decode阶段分离来实现资源优化配置：
- Decode阶段：对显存和带宽要求最高，由高端资源支撑
- Prefill阶段：算力要求相对分散，由更多国产芯片承担
这种分工使一块高端芯片可带动约30块国产芯片协同工作，达到接近单独使用高端资源的效果。
端到端整合能力
商汤大装置选择自建机房、自采硬件、自研调度系统、直接对接客户的端到端模式。这套体系从2018年开始搭建，涵盖：
- 底层编译器适配
- 算子重写与调优
- 上层框架对接
- 资源调度策略调整
今年新增AI自动生成算子适配代码的能力，进一步压缩了人力时间成本。
算电协同创新
商汤在WAIC期间发布「算电协同Agent」，通过模型预测算力任务耗电特征，与电力调度系统打通，配合峰谷电价和储能设施调节用电节奏，形成新的效率指标TPW（Tokens per Watt）。
生态布局
产业伙伴
联合近20家生态伙伴发起「国产AI基础设施生态共建计划」，包括：
- 寒武纪、沐曦股份、中科海光、华为昇腾、摩尔线程、曦望Sunrise、壁仞科技等芯片厂商
- 曦智科技等核心零部件伙伴
- 硅基流动、趋境科技等基础设施厂商
「银河计划」目标
- 建设1个Token运营中心
- 建设5个万卡级国产智算集群
- 围绕10个核心技术方向做联合创新
- 赋能200家AI初创组织
科研合作
联合5家顶尖科研机构启动科学发现平台战略合作：
- 上海人工智能实验室
- 北京中关村学院
- 深圳河套学院
- 上海算法创新研究院
- 上海交通大学人工智能学院
太空算力
签约国星宇航探索太空算力合作：
- 2026年：「商汤号」系列算力卫星完成首发并组网
- 2030年：建成天地一体化AI算力星座
市场窗口期
当前AI基础设施市场处于供需极度失衡状态：
- Agent类应用爆发导致单次任务上下文长度大幅拉长
- 算力需求同比去年增长5-10倍
- 主流算力供给几乎未变
- 大厂优先保障内部业务，第三方溢出需求未被承接
商汤大装置正是在这一窗口期揽获了大量市场需求。
长期价值
尽管供需红利可能收窄，但商汤沉淀的技术方法论具有长期价值：
- 九年布局：商汤在AI基础设施领域布局最早，是最懂大模型的服务商之一
- 组合调度优势：单一芯片难以满足所有场景需求，擅长「组合调度」的企业有长期发展空间
- 新场景拓展：具身智能、世界模型、科学计算等新方向对算力要求各异，为多元化方案提供持续需求
AI基础设施竞赛的决胜关键，正从芯片先进性转向资源整合与优化能力。
数据来源：商汤大装置WAIC论坛发布内容
原文链接：https://mp.weixin.qq.com/s/g3GWVkf2AuXyBNdxQKBKDQ