大数据下的深度学习研究.pdfVIP

　 高技术通讯 2017年 第27卷 第1期:27 ~37　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 doi:10.3772/ j.issn.1002-0470.2017.01.004 大数据下的深度学习研究① ② 王金甲 　 陈　 浩　 刘青玉 (燕山大学信息科学与工程学院　 秦皇岛066004) 摘　 要　 给出了大数据和机器学习的子领域———深度学习的概念,阐述了深度学习对获 取大数据中的有价值信息的重要作用。 描述了大数据下利用图像处理单元(GPU)进行 并行运算的深度学习框架,对其中的大规模卷积神经网络(CNN)、大规模深度置信网络 (DBN)和大规模递归神经网络(RNN)进行了重点论述。 分析了大数据的容量、多样性、 速率特征,介绍了大规模数据、多样性数据、高速率数据下的深度学习方法。 展望了大数 据背景下深度学习的发展前景,指出在不远的将来,大数据与深度学习融合的技术将会在 计算机视觉、机器智能等多个领域获得突破性进展。 关键词　 大数据,深度学习,卷积神经网络(CNN),深度置信网络(DBN),递归神经网 络(RNN) 特征,用来提升分类或预测的准确性,因而可广泛应 [2,3] [4,5] [6] 0　 引 言 用于图像分类 、语音识别 、推荐系统 等领 域。 深度学习只需要很少的手工工程,并且很容易 [7] 大数据(big data),是指无法在可承受的时间范 受益于可用计算能力和数据量的增加 ,这两点都 围内用常规软件工具进行捕捉、管理和处理的数据 有助于深度学习取得更多的成功。 本文对大数据下 集合。 在生活中的各个方面,时时刻刻都有数据在 的深度学习的研究进行了综述,而且也预测了研究 生成、传输、接收和处理。 社交网络、移动设备、物联 的未来趋势。 网及云计算所涉及到的数据量正在呈指数级增长。 在大数据时代,国家拥有数据的规模和运用数据的 1　 深度学习介绍 能力将成为国家综合国力的重要组成部分,对数据 的占有和控制将成为国家间和企业间新的争夺焦 深度学习架构由多层非线性运算单元组成,每 [1] 点 。 对于人们来说,如何有效地利用大数据并从 个较低层的输出作为较高层的输入,可以从大量输 其中获取有价值的信息,是一个严峻的挑战,而机器 入数据中学习有效的特征表示,学习到的高阶表示 学习,尤其是深度学习,以及日渐进步的计算能力, 中包含输入数据的许多结构信息。 深度学习是一种 将成为开启大数据宝库的一把钥匙。 从数据中提取表示的好方法,能够用于分类、回归和 [8] 深度学习是机器学习中较为热门的子领域。 深 信息检索等特定问题中 。 本节介绍三种深度模 度学习构建了具有很多隐层的机器学习模型不是只 型:卷积神经网络 (convolutional neural network, 包含一层隐层节点的浅层模型,并通过监督/ 非监督 CNN)、深度置信网络(deep bel