超节点算力竞赛转向：从堆机器到高效协同

据 InfoQ 中文 IT 资讯 2026 年 10 月 30 日报道，AI 算力基础设施正经历从单纯追求 GPU 数量（“堆机器”）向超节点（紧耦合互联与软硬协同）转型的阶段，行业焦点从“能连多少卡”转向“如何高效协同”及“实际推理性能”。

技王数据恢复

超节点的核心价值与挑战

超节点通过紧耦合互联与软硬协同，将数百至上千颗 AI 芯片整合为高效统一的计算单元，旨在解决数据搬运、跨芯片同步与内存利用率低等瓶颈。传统架构中，服务器内部（如 NVLink）与服务器之间（如 InfiniBand）的通信性能层级不同，导致模型跨越节点边界时效率下降。 www.sosit.com.cn

• 英伟达 GB200 NVL72（2024 年 3 月）：将 72 颗 Blackwell GPU 连接进同一个 NVLink 域，扩大了紧耦合计算范围至整个机柜。
• DeepSeek 实践（2025 年 5 月）：披露其 H800 系统中，节点内 NVLink 通信带宽约为 160GB/s，跨节点 InfiniBand 通信约为 40GB/s，相差约四倍。
• 华为 CloudMatrix 384（2025 年 4 月）：已在芜湖数据中心规模上线，将超节点推向数百卡规模。
• 华为 Atlas 950 SuperPoD（2026 年 7 月）：公开展示 1024 卡配置，提供 256TB 全局统一内存编址空间。
• 浪潮信息元脑 SD200 Ultra（近期）：以 128 芯本土 AI 芯片构建紧耦合系统，提供 8TB 统一编址显存，单机承载运行 2.8 万亿参数的 Kimi K3 大模型，Token 生成时延首次突破 5.85 毫秒（相当于单用户速度 170 Tokens/s）。

选型建议：先看业务，再定规模

未经优化的超节点运行 Kimi K3 模型，初始性能可能仅在 10 tokens/s 左右。超节点选型需区分“能力型”（支撑前沿模型，追求复杂问题处理能力）和“容量型”（承接日常任务，追求经济供给），规模应基于业务测试推导，而非盲目追求最大卡数。

www.sosit.com.cn

超节点面临挑战包括：规模扩大导致通信成本及问题放大效应上升；统一寻址不自动保证远端显存与本地显存具有相同访问成本；可靠性问题（长程 Agent 任务中断损失、故障隔离与恢复）。超节点的价值取决于目标模型的实际性能（时延、吞吐），不存在脱离模型和业务普遍适用的“最佳卡数”。

技王数据恢复

技术审核：邓严军｜技王数据恢复实验室技术总监 技王数据恢复