Deep Learning（深度学习）学习笔记整理(网上资料汇总).docx

Deep Learning（深度学习）学习笔记整理系列mailto:zouxy09@zouxy09@/zouxy09/zouxy09作者：Zouxyversion 1.0? 2013-04-08?声明：1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。2）本文仅供学术交流，非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益，还望海涵，并联系博主删除。3）本人才疏学浅，整理总结的时候难免出错，还望各位前辈不吝指正，谢谢。4）阅读本文需要机器学习、计算机视觉、神经网络等等基础（如果没有也没关系了，没有就看看，能不能看懂，呵呵）。5）此属于第一版本，若有错误，还需继续修正与增删。还望大家多多指点。大家都共享一点点，一起为祖国科研的推进添砖加瓦（呵呵，好高尚的目标啊）。请联系：zouxy09@?目录：/zouxy09/article/details/8775360一、概述/zouxy09/article/details/8775360二、背景/zouxy09/article/details/8775360三、人脑视觉机理/zouxy09/article/details/8775488四、关于特征/zouxy09/article/details/8775488 4.1、特征表示的粒度/zouxy09/article/details/8775488 4.2、初级（浅层）特征表示/zouxy09/article/details/8775488?4.3、结构性特征表示/zouxy09/article/details/8775488 4.4、需要有多少个特征？/zouxy09/article/details/8775518五、Deep Learning的基本思想/zouxy09/article/details/8775518六、浅层学习（Shallow Learning）和深度学习（Deep Learning）/zouxy09/article/details/8775518七、Deep learning与Neural Network/zouxy09/article/details/8775518八、Deep learning训练过程/zouxy09/article/details/8775518 8.1、传统神经网络的训练方法/zouxy09/article/details/8775518 8.2、deep learning训练过程/zouxy09/article/details/8775524九、Deep Learning的常用模型或者方法/zouxy09/article/details/8775524 9.1、AutoEncoder自动编码器/zouxy09/article/details/8777094 9.2、Sparse Coding稀疏编码/zouxy09/article/details/8781396 9.3、Restricted Boltzmann Machine(RBM)限制波尔兹曼机/zouxy09/article/details/8781396 9.4、Deep BeliefNetworks深信度网络/zouxy09/article/details/8781543 9.5、Convolutional Neural Networks卷积神经网络/zouxy09/article/details/8782018十、总结与展望/zouxy09/article/details/8782018十一、参考文献和Deep Learning学习资源?一、概述 Artificial Intelligence，也就是人工智能，就像长生不老和星际漫游一样，是人类最美好的梦想之一。虽然计算机技术已经取得了长足的进步，但是到目前为止，还没有一台电脑能产生“自我”的意识。是的，在人类和大量现成数据的帮助下，电脑可以表现的十分强大，但是离开了这两者，它甚至都不能分辨一个喵星人和一个汪星人。 图灵（图灵，大家都知道吧。计算机和人工智能的鼻祖，分别对应于其著名的“图灵机”和“图灵测试”）在 1950 年的论文里，提出图灵试验的设想，即，隔墙对话，你将不知道与你谈话的，是人还是电脑。这无疑给计算机，尤其是人工智能，预设了一个很高的期望值。但是半个世纪过去了，人工智能的进展，远远没有达到图灵试验的标准。这不仅让多年翘首以待的人们，心灰意冷，认为人工智能是忽悠，相关领域是“伪科学”。 但是自 2006 年以来，机器学习领域，取得了突破性的进展。图灵试验，至少不是那么可望而不可及了。至于技术手段，不仅仅依赖于云计算对大数据的并行处理能力