基于分布式内存计算的深度学习方法.pdf

45 3 Vol． 45 No． 3 第 卷 第 期 ( ) 吉林大学学报 工学版 20 15 5 Journal of Jilin University (Engineering and Technology Edition) May 20 15 年 月 基于分布式内存计算的深度学习方法 1 1 2 ， ， 李抵非 田 地 胡雄伟 (1． ， 130021;2 ． ， 吉林大学仪器科学与电气工程学院 长春 国家标准化管理委员会标准信息中心 北京 100088) : ， 摘 要 为了提升深度学习技术并行化学习效率 设计了一种面向计算机集群的分布式内存计 。 ， ， 算方法 构建分布式内存环境 建立数据分片处理和多任务调度机制 使模型参数和神经元节 ， I / O ; 点的计算和存储并行运行于该环境中 避免了磁盘 对训练速率的影响 采用深度信念网络 ， ， dropout 模型 以多个副本异步并行计算的方式进行模型训练 并使用 方法防止模型训练过拟 。 CIFAＲ-10 ， ， 合 对 图像数据集进行分类训练 试验结果表明 该方法可以明显提高深度神经网 ， 。 络的训练效率 并具备良好的可扩展性 : ; ; ; 关键词 人工智能 并行深度学习 分布式内存计算 深信度网络 中图分类号:TP183 文献标志码:A 文章编号:167 1-5497 (20 15)03-0921-05 DOI :10 ． 13229 /j ． cnki． jdxbgxb20 1503034 A method of deep learning based on distributed memory computing LI Di-fei1 ，TIAN Di1 ，HU Xiong-wei2 (1． College of Instrumentation ＆ Electrical Engineering ， Jilin University ， Changchun 130021， China ; 2． Standardization Administration Inf ormation Center ， Standardization Administration of the Peop le s Ｒep ublic of China ，Beij ing 10008