新加坡Acrab发布Agent Box：把千亿大模型搬回本地，迈向Token自由
核心摘要：在新加坡AI基础设施公司Acrab发布首款完整产品形态“Agent Box”之际，端侧AI正经历从“单次推理”到“长期系统运行”的范式转移。本文深度拆解其GΞLIX芯片架构背后的工程逻辑，以及CPU-NPU异构协同为何成为智能体时代的关键变量。
引言：展台上的新鲜概念，工程界必须直面的难题
2026年世界人工智能大会（WAIC）上，“Agent Computer”（智能体计算机）不再仅仅是展台上吸引眼球的新鲜概念，而是转变为工程界必须直面的一道难题。
与单纯让设备在本地运行大模型不同，当智能体（Agent）需要持续读取文件、保留记忆、调用工具并在后台长期运行时，芯片能否在功耗、延迟和成本约束下保持稳定，成为了衡量端侧AI能力的真正标尺。
本周，总部位于新加坡的AI基础设施公司Acrab举行线上发布会，推出了其首款完整产品形态——Agent Box。这家公司将Prefill效率、统一内存架构、CPU-NPU异构协同以及Agent编排层同时展示出来，为“端侧AI如何从单次推理走向长期系统运行”提供了一个可供拆解的工程样本。
一、 智能体的出现，改变了端侧负载的定义
传统的聊天机器人通常完成一轮问答即可结束，而智能体接到任务后，会经历搜索、读取文件、调用代码或浏览器、检查结果并保留状态等一系列连续动作。这种工作模式放大了端云分工的差异：
- 成本维度：单次推理费用虽低，但高频、持续的调用会让Token消耗变成真实账单；
- 延迟维度：多步任务中的网络等待会逐层累积；
- 隐私维度：个人数据反复往返云端也会扩大隐私暴露面。
因此，更现实的结构是：高频、隐私敏感、需要快速响应和长期保持状态的任务留在本地，超出设备能力边界的复杂推理再调用云端。 这意味着，端侧不再只承载一次模型推理，而是要承载一套不能轻易中断的智能系统。
Acrab在发布会上演示了一个完整流程：用户提出为孩子制作太空主题礼物，系统给出创意、协助选择方案、调用相关工具并跟进制作进度，甚至能根据环境变化连接其他智能设备处理。这段演示的核心意义在于，自然语言被转化为了串连续的跨应用动作。
二、 CPU重回中心：只堆NPU算力已经不够
过去，在SoC中增加一块NPU就能赋予终端语音识别等AI能力。但当Agent成为设备核心时，简单增加峰值算力已无法解决问题。
- NPU的角色：适合大规模并行计算；
- CPU的角色：任务拆解、条件判断、系统调度和异常处理高度依赖CPU。
Acrab CEO Ken Phua指出：“CPU再次回到AI时代的中心。”他认为，执行效果不只取决于NPU性能，更取决于CPU与NPU能否无缝协同。Ken Phua曾担任Arm China联席CEO，这段履历也解释了Acrab为何选择从CPU架构和异构计算的交叉位置重新定义Agent工作负载。
Acrab并未将GΞLIX 1定义为一颗传统AI处理器，而是将其作为端侧AI时代的计算平台核心。其第一代计算平台GΞLIX已在严苛的真实部署环境中完成验证，目前正走向首次行业导入和规模化生产。公司累计融资已超过3.5亿美元，投资方包括淡马锡旗下全球风投平台Vertex（祥峰投资）及新加坡知名科技投资机构K3 Ventures等。
三、 700 TOPS之外：Prefill和数据通路决定真实体验
在大模型推理中，瓶颈往往不在于计算单元不够快，而在于数据来不及送到计算单元。如果内存带宽跟不上，NPU就必须停下来等待。对于需要频繁读取历史记录、在不同软件间传递数据并持续保存状态的Agent而言，每一次数据复制都会增加延迟和功耗。
GΞLIX 1的设计重点正是减少CPU、NPU、内存和操作系统之间的数据搬运。按照Acrab公开的架构，该芯片提供：
- 大于700 TOPS的AI算力；
- 273GB/s的统一内存带宽；
- 8MB L1 Cache、带宽达768GB/s的共享L2 Cache；
- 四颗并行NPU核心；
- 针对Attention计算的专用加速模块，Acrab称这可将相关计算效率提高三倍。
Acrab还将Prefill（预填充/上下文理解阶段）的效率置于核心位置。因为Agent在引入新文件或恢复任务状态时，需要再次处理新增信息，任务链越长，Prefill效率对整体体验的影响越明显。
在Acrab披露的一组自测中，GΞLIX 1运行260亿参数Gemma模型，使用40K KV Cache和1万Token输入，Prefill速度超过每秒1416个Token；在相同负载下，其表现是某主流通用桌面平台的7倍以上。此外，在与一款同类桌面级AI计算平台的对比中，GΞLIX 1在Prefill和Decode两项核心指标上进入相近的性能区间，同时呈现出更低的功耗和更具竞争力的整机成本。
四、 真正的竞争在参数之外
当前，WAIC上密集出现的个人AI中心和企业端侧设备尚未形成统一的产品形态。家庭场景强调个人记忆和设备协同，企业场景看重知识库和数据安全。终端越碎片化，计算平台就越难做。
一颗芯片很难只靠参数覆盖所有场景，还需要提供Runtime、模型适配、开发工具和Agent框架。Acrab试图同时抓住芯片性能证明、软件栈迭代和Agent生态兼容这三个环节，但也面临战线很长的风险。
端侧芯片需要“重做”，不是因为TOPS不重要，而是因为Agent正把计算从峰值数字变成长期运行的系统能力。Agent Box不是终点，而是一次平台能力的公开测试。 这套芯片、软件和终端能否最终进入真实工作流，能否在开发者手中快速转化为产品，将是检验其成败的唯一标准。
本文基于WAIC 2026期间Acrab发布会信息及行业分析整理。