一、案例背景
1.1 从“堆机器”到“重构连接”:AI算力基础设施的范式演进
2023年至2025年间,全球大模型竞赛推动AI算力基础设施经历了一轮史无前例的规模扩张。大模型厂商展示算力实力的方式简单直接:拥有多少张GPU、建设了多大规模的计算集群。这种“算力军备竞赛”的逻辑基础是:模型参数越大,所需算力越多;算力越多,需要采购的芯片就越多。在这一逻辑驱动下,英伟达市值突破3万亿美元,全球AI芯片供应链持续紧张。
然而,当模型规模从百亿级跃升至万亿级,单纯增加芯片数量的扩张逻辑开始暴露其结构性缺陷。传统AI集群以八卡服务器为基本单元,服务器内部通过NVLink等高速互联技术实现GPU间数据交换,服务器之间则通过InfiniBand或以太网连接。这种架构的问题在于:服务器内部与服务器之间的通信处于完全不同的性能层级。当模型规模超出单台服务器的承载范围,计算和数据必须分布到更多服务器上,频繁跨越节点边界。对于需要大量同步和数据交换的大模型训练与推理任务而言,这些边界直接侵蚀了有效算力——GPU一方面执行计算,另一方面不得不等待其他芯片完成计算、传回数据,才能继续下一步工作。
换言之,计算集群的理论算力与实际有效算力之间存在显著落差。2025年5月,DeepSeek团队发表的架构论文为此提供了量化注脚:在其使用的H800系统中,节点内NVLink通信带宽约为160GB/s,跨节点InfiniBand通信带宽约为40GB/s,相差约四倍。为控制混合专家模型(MoE)的通信成本,团队不得不限制每个Token所访问的专家跨越多少个节点,并利用更快的节点内连接转发数据。这项实践揭示了一个关键事实:芯片怎样连接,已经会反过来影响模型怎样设计。
正是在这一背景下,“超节点”(SuperPod)作为一类新型算力组织方式进入产业视野。2024年3月,英伟达在GTC发布Blackwell平台及GB200 NVL72,将72颗Blackwell GPU连接进同一个NVLink域,把紧耦合计算的范围从传统多卡服务器扩大到整个机柜。超节点的核心思路并非简单地把多卡服务器做得更大,而是通过更高带宽、更低时延的互联,以及计算、内存和软件系统的协同设计,让更多芯片成为一个紧密协作的计算整体,从而减少模型跨越节点边界时产生的通信和数据搬运开销。
……