WAIC 2026深度:端侧算力向“原生架构”演进,聆思Nebula芯片的技术路径与商业化逻辑

WAIC 2026深度:端侧算力向“原生架构”演进,聆思Nebula芯片的技术路径与商业化逻辑

核心事件:世界人工智能大会(WAIC 2026)于7月21日圆满落幕,行业焦点正从云端算力规模转向端侧硬件落地。聆思科技在大会上披露了其计划于今年年底发布的Nebula系列端侧大模型AI推理芯片,并展示了其在端侧AI基础设施层面的最新技术突破与生态布局。


一、 趋势研判:从"云端参数"到"端侧体验"的算力迁徙

纵观WAIC 2026,一个清晰的行业共识正在形成:AI赛道的竞争分水岭已从云端超算集群的参数规模比拼,转移至手机、AI PC、人形机器人、智能座舱等泛终端硬件。

这种转变背后的底层逻辑在于应用形态的革新。AI不再局限于网页或App中的静态对话窗口,而是开始进入具备感知、理解、交互和执行能力的真实物理设备中。对于机器人、智能座舱和家庭中控等直面物理世界的入口而言,大量安全与控制类关键决策必须实现毫秒级响应,无法长期依赖云端网络交互。

因此,端侧AI的核心诉求已从最初的"能不能跑"(可行性验证),正式迈入"能不能实时、稳定、低功耗地跑"(实用性落地)。这对芯片提出了极高的要求:必须在低功耗、小型化、低成本的约束下,实现高效、稳定且可规模化的大模型本地推理。

二、 技术拆解:为何传统芯片跑不好端侧大模型?

在端侧部署Transformer类生成式大模型时,传统芯片路线暴露出了明显的短板。聆思科技市场副总裁韩超阳指出,当前端侧大模型推理的最大瓶颈在于,市面上专为大模型推理算法原生设计的端侧AI芯片仍然稀缺。

这一判断基于以下两个核心技术痛点:

1. 负载不均导致的算力浪费

Transformer架构的大模型推理并非均匀稳定的计算过程。

  • Prefill阶段:需要批量处理输入,算力需求集中;
  • Decode阶段:逐字输出,算力需求零散。

传统芯片往往追求纸面上的峰值算力(TOPS),却无法适配这种动态负载。这导致计算单元在等待数据时闲置,最终在终端体验上表现为响应慢、发热高和续航差。

2. 内存带宽成为"拦路虎"

大模型推理不仅取决于计算速度,更取决于数据供给。尤其在逐Token生成阶段,如果内存带宽跟不上,再高的算力也会被卡住。云端可以通过HBM和多卡系统解决带宽问题,但终端设备受限于封装体积和散热,不能无限堆叠内存。传统"计算芯片+外挂内存"的粗放思路已无法满足需求。

三、 产品破局:Nebula芯片的"原生架构"与内存突围

针对上述痛点,聆思科技计划于今年年底发布的Nebula系列端侧大模型AI推理芯片,提出了一套面向Transformer架构的原生设计解决方案。该芯片并非简单放大传统NPU,而是从大模型算法特性反向定义计算架构。

根据披露的技术指标,Nebula系列芯片主要在以下四个维度实现了突破:

1. 原生AI NPU与计算加速

Nebula专为Transformer类大模型推理原生设计,预计可实现10倍计算加速性能提升。其推理速度超过100 tokens/s

  • 行业意义:在AI PC、机器人等场景中,100 tokens/s是确保低延迟、连续生成和稳定响应的关键门槛,标志着端侧大模型从"能跑"走向"好用"。

2. 3D-DRAM堆叠解决带宽瓶颈

为了解决数据供给问题,Nebula采用了3D-DRAM堆叠技术路径。

  • 技术指标:基于此方案,芯片内存带宽可达传统LPDDR的5-10倍

  • 架构变革:这标志着端侧芯片架构从"外挂内存"向"存算一体缩短通路"的演变,能在更小体积内支撑更大参数规模的模型运行。

3. 弹性扩展与多场景适配

考虑到不同终端对模型规模和功耗预算的差异,Nebula预计可实现10倍模型参数规模支持

  • 灵活配置:支持搭配不同容量的堆叠内存以适配不同规格模型。
  • 级联技术:在更高算力需求的场景中,可通过芯片级联技术实现算力弹性扩展。

4. 工程化落地能力

除了硬件性能,Nebula还配套了完整的工具链、SDK和参考设计,旨在降低端侧大模型从样机走向量产的门槛,解决客户在模型移植和适配上的工程化难题。

四、 生态落子:亿级出货后的商业化闭环

技术路线的可行性只是第一步,能否将芯片真正导入终端产品才是关键。聆思科技在这条路径上并非从零开始,而是拥有深厚的积累。

1. 亿级出货量的验证

截至目前,聆思累计芯片出货量已超过亿颗级别。在端侧NPU芯片行业中,能达到这一量级的厂商并不多。这证明了其在成本控制、功耗管理和规模化交付上的成熟能力。

2. "语音+视觉"的双轮驱动

聆思在过去几年已通过两大方向站稳脚跟:

  • 语音方向:进入海尔、美的等白电龙头供应链,解决了设备"听懂人话"的问题,在成本敏感的家电路线积累了极高的可靠性标准。
  • 视觉方向:方案进入扫读笔、手持云台、运动相机、智能门锁等设备,实现了离线人脸识别、手势控制等本地视觉AI能力。

3. 从感知到认知的延伸

Nebula芯片的推出,标志着聆思的能力边界从"感知智能"(语音、视觉)延伸至"认知智能"(理解、推理)。韩超阳认为,未来端侧小模型负责低功耗实时感知,大模型负责复杂语义理解和推理,二者将相辅相成。

4. 头部企业联合预研

围绕AI PC、机器人、智慧家庭、智能座舱四大方向,聆思目前已联合联想、聆动机器人、海尔、美的、面壁等企业启动联合预研。这种"从真实终端需求出发,倒推芯片架构"的路径,确保了Nebula芯片上市即有场景可用。

五、 结语

WAIC 2026揭示了一个明确的产业信号:通用人工智能要真正走出实验室,走进物理世界,不能只靠云端算力兜底。

聆思科技推出的Nebula系列芯片,试图通过原生架构设计和存算协同创新,解决端侧大模型落地的"最后一公里"难题。对于AI从业者与开发者而言,关注点应从单纯的模型参数竞争,转向关注像Nebula这样具备完整工具链、高带宽优势且已有亿级出货验证的端侧基础设施。这不仅是芯片的竞争,更是端侧AI生态系统的竞争。