深度学习与计算机视觉实战-深度神经网络.pptxVIP

深度神经网络 深度学习通过深度神经网络实现，“深度”代表神经网络层数更多，结构更复杂。 深度神经网络一般由输入层、若干个隐藏层、输出层构成，其中，输入层作为神经网络输入张量的载体，输出层作为神经网络输出张量的载体，每个隐藏层由若干个神经元组成。 深度神经网络基本结构如图所示。 深度神经网络 在上图中，第1层为输入层，输入 数据为 维张量。 第2层至第3层为中间隐藏层，浅色空心圈代表隐藏层的神经元，其中 表示第1层隐藏层对应下一隐藏层第2个神经元的线性变换权重， 表示第 层隐藏层的第 个神经元的非线性变换映射。 第4层为输出层，输出数据 为维 张量。 箭头代表各层之间的连接方式，通常情况下是相邻两层之间互相连接且同一层内的神经元不能互相连接。 深度神经网络正是通过构建出参数可变的多层线性、非线性变换的数学模型，从而实现无限逼近函数。 深度神经网络 神经元作为深度神经网络的基本组成单元，是实现输入张量与输出张量之间映射关系的基本处理单元，在20世纪50年代由罗伯森布拉特受生物神经网络概念的启发而提出，也被命名为感知器。 神经元结构如下图所示。 在图中，输入 数据为 维张量， 为神经元连接权重 维张量， 为神经元偏置项， 还有 为使用神经元激活函数对输出结果 进行激活。 深度神经网络 神经元的数学模型可表示为如下式所示。 其中为线性变换，并且可选择激活函数的类型实现线性变换或非线性变换。 激活函数表示一种映射关系，因此使用不同激活函数的神经元组成的神经网络理论上能够拟合任何函数。 典型激活函数如下图所示，典型线性激活函数如ReLU函数见下图（a）和阶跃函数图（b），典型非线性激活函数如Sigmoid函数见图（c）和Tanh函数见图（d）。 深度神经网络 典型线性激活函数如ReLU函数见图（a）和阶跃函数图（b）。 深度神经 典型非线性激活函数如Sigmoid函数见图（c）和Tanh函数见图（d）。 深度神经