摘要： 2012年以来，智能计算需求呈指数级增长，增速超越摩尔定律，达到每年一个数量级。2026年国务院《工作报告》提出实施超大规模智算集群等新型基础设施工程。本文借鉴人类智能“小算力、大网络”的生物学特征，结合光传输等低功耗技术，从体系结构、计算结点、网络技术和产业生态四个维度，对国外超大规模智算集群的发展趋势提出十项判断，以供参考。

关键词： 超大规模智算集群；体系结构；计算结点；网络技术；技术生态；人工智能

1. 引言

深度学习驱动的人工智能发展，其计算量呈指数级增长，远超摩尔定律。模型参数从百万跃升至万亿级别，对算力、并行处理和能效提出极高要求。大语言模型等任务不仅需要海量浮点运算，还对内存带宽、数据交互和延迟有严格要求。超大规模智算集群通过定制化计算结点和高速网络互联，实现算力规模化聚合，成为AI基础设施的核心。

2. 体系结构发展趋势

趋势1：借鉴人类智能“小算力+大网络”范式

人脑拥有约200万亿突触，总存储容量达1拍字节，但运行频率仅亚千赫兹。其“小算力、大网络”结构表明，数据传输能耗是核心瓶颈。传统冯·诺依曼架构中，计算与存储分离导致高能耗和高延迟。近存计算、存算一体等新型架构应运而生。IBM NorthPole芯片在30亿参数模型中，能效比GPU高73倍，验证了存算协同可大幅提升能效。未来智算集群应从“以计算为核心”转向“存算协同、网络优化”。

趋势2：“CPU+多样化加速部件”成为主流结构

早期科学计算依赖专用仿真机，效率远超通用CPU。2010年后，“CPU+GPU”异构架构逐渐取代纯CPU方案。国防科技大学的天河超算系统证明异构计算在算力规模化中的核心价值。CPU擅长逻辑调度，GPU/TPU擅长矩阵运算，二者协同可实现性能倍增。因此，“CPU+多样化加速部件”将成为智算时代逻辑结点的主流结构。

3. 计算结点发展趋势

趋势3：AI定制芯片进入百花齐放时代

国内外科技巨头纷纷推出自研AI芯片，针对不同场景深度优化。代表性产品包括：NVIDIA Vera Rubin GPU、Cerebras WSE-3（4万亿晶体管）、AMD MI455X（432GB HBM4）、Google TPUv7（192GB HBM）、Amazon Trainium3、Microsoft Maia 200、Meta MTIA v3等。本轮竞争与20世纪90年代CPU热潮相似，但研发与生产高度重合，竞争更激烈且向头部聚拢。

趋势4：混合精度与Prefill/Decode两阶段分离突破性能约束

一方面，通过增加计算核心、设计专用矩阵运算单元（如Tensor Core）和探索混合精度（如FP16、FP8），实现性能与精度的平衡。另一方面，推理优化出现两大思路：存储优化（如HB Flash分层存储）和计算重构（如NVIDIA“GPU+LPU”混合架构）。LPU通过SRAM消除内存延迟，支持超长上下文推理，首个Token延迟降至8-10毫秒。这推动计算结点从“训练与推理通用”向“训练专用+推理专用”演进。

趋势5：探索新型计算结构

Tenstorrent的Tensix架构打破“计算、存储、通信”相互独立的传统，实现三者深度融合。其Core原生支持32x32分块矩阵运算，并集成片上网络接口，实现无阻塞高速互联，推动计算结点向高度集成、存算协同、网算一体方向发展。

4. 网络技术发展趋势

趋势6：大规模智算集群催生多样化网络定制方案

不同企业基于自身技术积累定制差异化网络架构，形成“私有协议与通用协议并存、分层组网与全互联结合”的格局。典型方案包括：Google TPU的静态定制优化、NVIDIA的极高带宽（NVLink+InfiniBand）、AWS Trainium的灵活扩展（通用以太网）、华为的规模突破（RoCE两级架构）。

趋势7：结点互联成为核心竞争点，带宽跨越式提升

传统PCIe总线成为通信瓶颈，如今网络连接点深入计算部件内部。NVIDIA NVLink从2016年的160 GB/s发展到NVLink 5的900 GB/s，实现GPU高速直连。Google G-ICI、Amazon Neuron Link、华为灵衢网络等自研技术也纷纷涌现，成为超大规模智算集群的核心支撑。

趋势8：光传输交换提升系统稳定性和能效比

电传输难以满足万卡级集群需求，光传输成为重要选项。近封装光模块和共封装光模块减少传输损耗。光交换技术具有高带宽、低延迟、低功耗优势。Google的Pods/Cube架构基于光交换实现9216卡超大规模组网，充分验证了光核心交换在超大规模智算集群中的价值。

5. 技术生态发展趋势

趋势9：人才培养是生态竞争核心要素

AI定制芯片的生态壁垒本质上是人才壁垒。掌握硬件原理、编译优化、底层驱动的复合型人才严重短缺。需通过高校专业设置、企业培养、产学研协同等方式，建立庞大底层技术人才队伍，为生态构建奠定基础。

趋势10：时间积累与市场验证是生态构建关键路径

NVIDIA CUDA生态历经二十余年发展才形成规模。Google TPU生态也从内部自用走向开放。苹果、Anthropic、Meta等巨头纷纷采用TPU，驱动因素不再是峰值算力，而是系统级工程效率与规模化推理性价比。2026年，OpenAI自研芯片Jalapeño已部署，Anthropic也计划为Claude打造专用芯片，大模型公司涉足芯片研制将进一步加剧竞争。

6. 总结

超大规模智算集群的发展不仅是结点技术与网络技术的创新，更是技术生态与智能体系的重构。本文提出的十点趋势判断，旨在抛砖引玉，供业界参考。AI底座大模型生态竞争日趋激烈，未来格局充满变数。