DeepSeek-R1是怎样炼成的.pdfVIP

第42卷第2期深圳大学学报理工版Vol.42No.2

2025年3月JournalofShenzhenUniversityScienceandEngineeringMar.2025

【电子与信息科学/ElectronicsandInformationScience】

DeepSeek-R1是怎样炼成的？

张慧敏

摘要：简述DeepSeek系列模型在大模型训练中的创新和优化．DeepSeek系列模型的突破主要体现在

模型架构、算法创新、软硬件协同优化及整体训练效率的提升．DeepSeek-V3模型采用混合专家（mixtureof

experts，MoE）模型架构，通过细粒度设计和共享专家策略，实现计算资源的高效利用；MoE模型架构中的

稀疏激活机制和无损负载均衡策略显著提高了模型训练的效率和性能；多头潜在注意力（multi-headlatent

attention，MLA）机制通过减少内存使用和加速推理过程，降低了模型训练和推理成本；通过引入多token预

测（multi-tokenprediction，MTP）和8位浮点数（floatingpoint8-bit，FP8）混合精度训练技术，提升了模型的上

下文理解能力和训练效率；采用优化并行线程执行（parallelthreadexecution，PTX）代码显著提高了图形处理

器（graphicsprocessingunit，GPU）的计算效率；所提群体相对策略优化（grouprelativepolicyoptimization，

GRPO）对DeepSeek-R1-Zero模型进行纯强化学习训练，跳过了传统的监督微调和人类反馈阶段，显著提升

了模型的推理能力．总体而言，DeepSeek系列模型通过多项创新，在人工智能领域取得了显著优势，树立

了行业新标杆．

关键词：人工智能；DeepSeek；大语言模型；混合专家模型；多头潜在注意力机制；多token预测；混

合精度训练；群体相对策略优化

中图分类号：TP18文献标志码：DDOI：10.3724/SP.J.1249.2025.02226

HowDeepSeek-R1wascreated

ZHANGHuimin

Abstract:ThisarticlesummarizestheinnovationsandoptimizationsinDeepSeekseriesmodelsforlarge-scale

training.ThebreakthroughsofDeepSeekareprimarilyreflectedinmodelandalgorithminnovations,softwareand

hardwarecollaborativeoptimization,andtheimprovementofoveralltrainingefficiency.TheDeepSeek-V3adoptsa

mixtureofexperts(MoE)architecture,achievingefficientutilizationofcomputingresourcesthroughfine-grained

designandsharedexpertstrategies.Thesparseactivationmechanismandlosslessloadbalancingstrategyinthe

MoEarchitectur