AMD发布MI455X与Helios:2nm GPU、最强CPU及机架级AI基础设施全解析
AMD发布MI455X与Helios:2nm GPU、最强CPU及机架级AI基础设施全解析
在圣何塞举行的AMD Advancing AI大会上,AMD董事长兼CEO苏姿丰博士发布了多项重磅产品,涵盖GPU、CPU、机架级AI基础设施及机器人解决方案。以下是基于发布会核心内容的深度解析。
1. 核心硬件发布
MI455X GPU:全球首款2nm GPU
- 制程与架构:采用台积电2nm和3nm工艺,基于CDNA 5架构,拥有3200亿颗晶体管。
- 显存系统:配备432GB HBM4显存(比竞品高50%),理论带宽最高23.3TB/s。
- 算力表现:MXFP4峰值浮点算力达40PFLOPS,MXFP8峰值浮点算力达20PFLOPS。
- 性能对比:运行DeepSeek-V3模型时,Token吞吐量最高可达上一代MI355X的34倍,每Token成本最高可降至原来的1/18。
Venice CPU:面向智能体时代的服务器CPU
- 定位:第六代AMD EPYC 9006系列,被称为“最强智能体CPU”。
- 规格:最高256核/512线程,支持PCIe 6.0,内存带宽最高1.6TB/s。
- 性能对比:
- 吞吐性能达到英伟达Vera CPU的2.2倍。
- 每核性能在开箱状态下领先英伟达Vera 20%。
- 相比128核英特尔至强6980P,SPEC CPU性能提升40%,HPC性能提升80%。
Helios:机架级AI基础设施
- 配置:包含72张MI455X GPU和18张Venice CPU,通过Pensando网络技术扩展。
- 算力指标:提供2.9EFLOPS FP4峰值算力和1.4EFLOPS FP8峰值算力。
- 网络带宽:纵向扩展带宽260TB/s,横向扩展带宽43TB/s。
- 性能对比:
- AI算力比英伟达Vera Rubin NVL72方案高出15%。
- HBM容量高出50%,横向扩展带宽高出50%。
- 每美元可多产生最多30%的Token。
2. 软件生态与合作
ROCm.ai软件栈
- 功能:包括Skills层(面向编程智能体)、HyperLoom层(端到端AI工作负载优化)等。
- 演示效果:通过HyperLoom自动调优MiniMax M3推理,性能提升38.3%。
- 支持模型:已支持Hugging Face上超过300万个模型,包括MiniMax M3、DeepSeek-V4 Pro等。
合作伙伴关系
- Cerebras Systems:建立技术合作伙伴关系,推出解耦式AI推理解决方案,预计每瓦每秒Token将提升到5倍。
- 客户部署:OpenAI、Meta、Anthropic、微软、Oracle等已选用Helios参考设计。
3. 其他产品线与市场展望
本地AI与物理AI
- Ryzen AI Max 400系列:高端升级版“Gorgon Halo”拥有192GB统一内存,本地可运行3000亿参数级大模型。
- Kria AI机器人系统模块:针对物理AI领域,与英伟达Jetson AGX Thor对比,Kira AI平台可实现3.4倍的实时控制性能。
市场规模预测
- AI加速器市场:AMD预计2030年市场规模将达到约1.4万亿美元(约合人民币9.48万亿元)。
- 总体市场机会:AMD认为其市场机会到2030年可以达到约2万亿美元。
4. 结论
AMD通过此次发布会展示了其在GPU、CPU及机架级AI基础设施领域的全面竞争力。MI455X GPU作为全球首款2nm GPU,结合Helios机架级解决方案,旨在为大规模AI训练和推理提供高性能、高性价比的选择。Venice CPU在性能上对标并超越了英伟达、英特尔和Arm的最新平台。此外,ROCm.ai软件栈的发布进一步增强了AMD在AI软件生态中的地位。
信息来源:
* 智东西 (2024年7月23日)
* Signal65独立报告
* AMD官方发布会内容
链接:
* 原始报道