昇腾960超节点落地:NPO光互联、百万卡机群与PyTorch原生后端

Feng 49 阅读 AI技术

华为全联接大会2026在上海开场,轮值董事长汪涛的主题演讲把重心压在算力基础设施上。他给出的判断很直接:智慧世界要跑起来,底下得有一层足够硬的硅基黑土地。

先看需求侧的压力曲线。Transformer参数规模正朝10万亿量级推进,2030年被认为会突破100万亿;智能体的事务处理粒度从小时级走向月级;中国每日推理Token消耗已在500万亿上下,2030年预期进入百万万亿级。算力、性能、安全三条线同时被顶上去。

昇腾960超节点:用NPO换掉四万八千颗光模块

这次硬件侧的核心发布,是业界首个采用NPO(近封装光学)方案的昇腾960超节点。单超节点4096卡,8E FP8算力,1PB HBM容量。

它替代了原本需要的4万8千颗800G光模块,整机功耗下降550多千瓦,系统无故障运行时间翻倍。实现方式是5500个华为自研Hi-ONE光互联器件。

这里有个容易被忽略的点:NPO把光引擎挪到封装附近,缩短了电通道,功耗和信号完整性的收益都来自这段距离。代价是封装工艺和可维护性要求更高,不是所有机房都能直接吃下这种形态。

配图

十万卡集群的MFU对比:2.75倍从哪来

4K超节点拼出的10万卡集群,对比8卡服务器组出的同体量集群,MFU(模型浮点算力利用率)提升2.75倍。

这个数字的参照系要说清楚。8卡服务器集群跨机通信要走多层网络,超节点内部则是高带宽域内互联,通信占比被压下去,MFU自然抬起来。换句话说,这2.75倍是拓扑结构带来的,不是单卡算力翻倍。

配套升级还有两块。鲲鹏超节点最大4096节点、256TB统一内存池,Agent沙箱场景下十万级沙箱启动比传统服务器方案快30倍。存储侧基于灵衢Unified Bus推出OceanStor M900,面向Agent和长序列做多层KV Cache结构,SSD读写寿命提升16倍。

灵衢协议串起百万卡:从十万到百万的跳变

把上述子系统用灵衢统一互联协议连起来,再叠二层CLOS四平面组网和多轨道拓扑,华为给出的上限是100万卡的昇腾超节点集群。

规模数字从十万卡直接跳到百万卡。工程上要留意的是,机群越大,故障是常态而非异常,容错和任务重调度能力比峰值算力更能决定实际可用度。

配图

开发者生态:416万工程师与61%的外部占比

体系资料是这场演讲里对工程师最有价值的部分。鲲鹏全球开发者超过416万,体系伙伴超7200家,拥有560多个全球开源项目,openEuler装机量超2000万套,稳居中国服务器操作系统第一份额。

外部开发者占比首次超过内部,达到61%。昇腾侧被描述为已跨越体系拐点:CANN进入常态化开源运营。基于昇腾原生调优的模型超40个,是国内唯一具备预训练能力的路线;昇腾已覆盖PyTorch、Triton、vLLM、veRL等90多个主流三方社区。

PyTorch直接部署:首个来自中国的算力平台

最实在的一条:在Linux基金会支持下,昇腾正式成为可在PyTorch直接部署的算力平台,也是首个来自中国的算力平台。

这意味着全球开发者装PyTorch时能选昇腾后端。对国内团队来说,迁移路径从改代码变成换后端,成本结构完全不同。

实际验证时,先确认PyTorch版本与昇腾插件版本的匹配关系,两者不匹配是最常见的报错来源。装完先跑一段最小张量运算确认设备可见,再上模型,比直接拉大模型省时间。

适用边界与风险

NPO光互联和百万卡机群属于重资产方案,适合有稳定电力、散热和运维团队的大型智算中心。中小规模场景硬上超节点,投入产出比不划算,传统8卡服务器加高速网络仍是更稳的选择。

开源生态这张牌,华为打得明确:让开发者在主流通用技术栈里不绕路就能用到昇腾算力。硬件上赌NPO光互联,软件上赌开源与PyTorch兼容,两条线并行推进。

AI基础设施的军备竞赛正从单卡卷到超节点,再卷到百万卡机群。规模上去了,真正决定成败的是故障恢复速度和生态迁移成本,这两项比峰值算力数字更值得盯。

Feng
这位作者很神秘,还没有填写简介。