2025年UPN512技术架构白皮书v1.0【2025年10月】.pdfVIP

UPN512技术架构白皮v1.0

阿里云智能集团网络研发

1/26

目录

1.术语

2.AI基础设施网络的发展趋势

3.xPUScaleup网络的演进和挑战

4.阿里云UPN512架构概览

5.UPN512系统设计和关键组件

5.1系统架构

5.1.1AIRack-铜互连紧耦合系统

5.1.2UPN512-单层光互连解耦系统

全光互连

单层千卡域

解耦设计

5.2光互连概览

5.2.1可插拔光互连⽅案

5.2.2⾼密带宽光互连⽅案

5.2.3LPO/NPO场景和⽅案的选择

5.2.4LPO/NPO成本

5.2.5互连稳定性

5.3传输语义

5.4在⽹计算

2/26

1.术语

术语解释

UPNUltraPerformanceNetwork

HPNHighPerformanceNetwork

MoEMixtureofExperts

EPExpertParallelism

FROFullyRetimedOptics

LPOLinear-drivePluggableOptics

NPONear-packagedOptics

CPOCo-packagedOptics

OEOpticalEngine

VCSELVertical-CavitySurface-EmittingLaser

EMLElectro-AbsorptionModulatedLaser

ELSFPExternalLaserSmallForm-FactorPluggable

MTBFMeanTimeBetweenFailures

MTTRMeanTimeToRepair

2.AI基础设施网络的发展趋势

近年来，随着人工智能（AI）技术蓬勃发展，大模型训练、推理任务对算力、内存的需求呈现

指数级增长。为了提升算力，获取更短的训练时间和更高的推理效率，智算集群通过高性能网

络进行集群算力的扩展，目前已经从万卡向十万卡、数十万卡级别迈进。为了实现高效的训练

推理，业界通常会采用多种并行策略驱动数千甚至数万张xPU进行交换数据，协作完成作业，

3/26

这依赖于高性能的网络转发能力。纵观AI基础设施的技术发展，如下几个方面对网络提出新的

要求。

模型结构从Dense演进到MoE。大模型经过其初期发展后，在提升模型容量效率和降低计算成

本的驱动下，基于MoE（MixtureofExperts）的模型结构逐渐代替Dense模型结构，成为一

种趋势。MoE将模型划分为多个独立专家网络，并利用门控机制动态分配输入数据给特定专家

进行处理。MOE通过多个专家并行处理不同的数据子集，然后根据输入数据的特征动态选择

最合适的专家输出，在提高模型性能的同时有效地控制了算力成本。从网络视角，MoE模型结

构通常采用EP并行（ExpertParallelism），EP并行要求网络超大带宽和超低时延