卷积神经网络的简单介绍和一些常见的提升技巧.pdfVIP

卷积神经网络的简单介绍和一 些常见的提升技巧 刘吉 2015 年3 月25 日 目录  卷积神经网络取得一些成果  卷积神经网络介绍  卷积神经网络公式推导  卷积神经网络层次特征介绍  经典的卷积神经网络介绍  卷积神经网络常见提升技巧  基于CNN 蒙古文联机识别的一些研究  一些资料 卷积神经网络取得一些成果 在图像识别领域取得成果  CNN算法在ImageNet LSVRC 图像识别竞赛惊艳表现和 基于CNN算法的高精度人脸识别识别算法DeepID。 ImageNet LSVRC 图像识别竞赛  ImageNet LSVRC是一个图片分类的比赛，其训练集 包括127W+ 张图片，验证集有5W张图片，测试集有 15W 张图片。  2010年Alex Krizhevsky的CNN结构进行说明，该结构 在2010年取得冠军，top-5错误率为15.3% 。  2014 的ImageNet LSVRC 比赛中，取得冠军的 GoogNet 已经达到了top-5错误率6.67% 。  2015年ImageNet LSVRC 比赛中，取得冠军的是微软 的深层残差网络（deep residual networks）top-5错 误率仅为3.57% 。超过人眼辨识的错误率，其大概为 5.1% 。 基于CNN 算法的高精度人脸识别识 别算法DeepID  汤晓鸥教授领导的计算机视觉研究组开发了一个 名为DeepID的深度学习模型，在LFW (Labeled Faces in the Wild) 数据库上获得了99.15% 的识别率，这也是 有史以来首次超过 99% 的 LFW 识别率 。 卷积神经网络取得一些成果 在字符识别取得的成果  基于CNN 的数字手写识别算法在MNIST数据集的精度 超过99.5% 。  基于CNN 的MCDNN脱机汉字手写识别算法在ICDAR 2013 competition 取得亚军。 卷积神经网络取得一些成果  最近风头正劲的谷歌围棋AlphaGo  谷歌旗下DeepMind所研究的AlphaGo使用了卷积神经网络来 学习人类下棋的方法，最终取得了突破。AlphaGo在没有任 何让子的情况下以5:0完胜欧洲冠军，职业围棋二段樊麾。 最近又战胜了韩国九段李世石。在谷歌团队的论文中，提到 “我们用19X19 的图像来传递棋盘位置”，来 “训练”两种 不同的深度神经网络。“策略网络” （policy network）和 “值网络”（value network ）。它们的任务在于合作“挑选” 出那些比较有前途的棋步，抛弃明显的差棋，从而将计算量 控制在计算机可以完成的范围里，本质上和人类棋手所做的 一样。 卷积神经网络介绍 经典的卷积神经网络lenet5结构 卷积神经网络介绍  卷积神经网络是一个多层的神经网络，每层由多个 二维平面组成，而每个平面由多个独立神经元组成。  CNN卷积神经网络的节点层  输入层（input layer）  卷积层 （convolution layer ）  池化层 （pooling layer）  全接连层 （full connected layer ）  输出层 （out layer）  输出层节点数一般等于分类类别数 卷积神经网络介绍 卷积核：局部感知与权值共享： 减少参数的方法： 每个神经元无需对全局图像做感受，只需感受局部区域（Feature Map），在高层 会将这些感受不同局部的神经元综合起来获得全局信息。 每个神经元参数设为相同，即权值共享，也即每个神经元用同一个卷积