通信行业AI深度洞察系列报告(三)：Scaleup与Scaleout组网变化趋势如何看？.docxVIP

目 录

1、Scaleup：带宽升级压力更大，铜连接等核心受益 .-4-

1.1、超节点内部：ScaleUp带动带宽持续提升.................................................-4-

1.2、超节点规模：由GPU或者云厂商设计决定..............................................-7-

1.3、带宽提升驱动内部互联密度提升................................................................-9-

2、Scaleout：集群规模升级，以太网和硅光化加速...........................................-11-

2.1、AI集群规模走向10万卡阶段...................................................................-11-

2.2、以太网组网落地加速...................................................................................-12-

2.3、博通和英伟达方案提供互联技术基础......................................................-14-

2.4、交换机模块化，推动Scaleout规模提升.................................................-17-

2.5、光模块：总需求保持向上，硅光是趋势..................................................-19-

3、投资逻辑及标的推荐..........................................................................................-22-

4、风险提示..............................................................................................................-23-

图目录

图1、英伟达H100示意图（内部）......................................................................-4-

图2、AI大模型依赖分布式并行训练架构.........................................................-5-

图3、分布式训练中的并行策略..........................................................................-6-

图4、大模型混合并行举例...................................................................................-6-

图5、英伟达GH200超节点互联.........................................................................-7-

图6、谷歌跨pod的Multislice技术....................................................................-8-

图7、超节点规模扩大可以降低DCN带宽..........................................................-8-

图8、UALink推动集群实现scaleup...................................................................-9-

图9、英伟达NVL72采用铜互连形式................................................................-10-

图10、英伟达NVLINK协议支持带宽不断提升.....................................