Deep learning：三十八(Stacked CNN简单介绍) - tornadomeet - 博客园.pdf

tornadomeet 昵称：tornadomeet 园龄：2年10个⽉ 粉丝：1637 关注：45 +加关注 博客园 ⾸⻚ 博问 闪存 新随笔 联系 订阅 管理 随笔-252 评论-1795 ⽂章-0 trackbacks-0 2013年5⽉ ⽇ ⼀ ⼆ 三 四 五 六 28 29 30 1 2 3 4 5 6 7 8 9 10 11 Deep learning：三⼗⼋(Stacked CNN简单介绍) 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 1 　　前⾔： 2 3 4 5 6 7 8 　　本节主要是来简单介绍下stacked CNN （深度卷积⺴络），起源于本⼈在构建SAE⺴络时的⼀点困惑：⻅ Deep learning：三⼗六(关于构建深度卷积SAE⺴络的⼀点困惑)。因为有时候针对⼤图⽚进⾏recognition时， 需要⽤到⽆监督学习的⽅法去pre-training （预训练）stacked CNN的每层⺴络，然后⽤BP算法对整个⺴络进⾏ 有哪些信誉好的足球投注网站 fine-tuning （微调），并且上⼀层的输出作为下⼀层的输⼊。这⼏句话说起来很简单，可是真的这么容易吗？对于 找找看 初学者来说，在实际实现这个流程时并不是那么顺利，因为这其中要涉及到很多细节问题。这⾥不打算细讲deep statcked⺴络以及covolution ，pooling，这⼏部分的内容可以参考前⾯的博⽂：Deep learning：⼗六(deep ⾕歌有哪些信誉好的足球投注网站 networks) ，Deep learning：⼗七(Linear Decoders，Convolution和Pooling)。⽽只只重点介绍以下 ⼀个⽅⾯的内容（具体⻅后⾯的解释）。 常⽤链接 我的随笔 我的评论 　　基础知识： 我的参与 必威体育精装版评论 　　⾸先需要知道的是，convolution和pooling的优势为使⺴络结构中所需学习到的参数个数变得更少，并且学习 我的标签 到的特征具有⼀些不变性，⽐如说平移，旋转不变性。以2维图像提取为例，学习的参数个数变少是因为不需要⽤整 我的标签 张图⽚的像素来输⼊到⺴络，⽽只需学习其中⼀部分patch。⽽不变的特性则是由于采⽤了mean-pooling或者 max-pooling等⽅法。 机器学习(72) Deep Learning(51) 　　以经典的LeNet5结构图为例： opencv(34) 基础学习笔记之opencv(24) 　　 Android开发历程(18) matlab(16) reading papers(16) 总结系列(15) Qt学习之路(14) OpenNI(14) 更多 随笔分类(468) Android(19) ARM C/C++(6) 　　可以看出对于这个⺴络，每输⼊⼀张32*32⼤⼩的图⽚，就输出⼀个84维的向量，这个向量即我们提取出的特