2.4补充BP神经网络计算实例.pptVIP

复 习 神经网络的用途 神经网络的工作原理 xi(i=1,2,…,n)是输入，wi为该神经元与各输入间的连接权值，?为阈值，yo为输出 (1)从各输入端接收输入信号xi。 (2)根据各连接权值wi,求出所有输入的加权和yi ： yi ＝?ni=1wi xi－ ? (3)利用某一特征函数f进行变换，得到输出yo ： yo= f(yi)＝f(?ni=1 wi xi － ?) 神经元间连接权值的含义 连接权wij通常在[-1,1]之间取值： wij 0，称为正连接，表示神经元j对i有激活作用 wij 0，称为负连接，表示神经元j对i有抑制作用 神经网络的各种学习算法的不同特点反映在调整权值的原则、方法、步骤和迭代过程的参数选择上。 感知器和线性神权网络的局限 只能解决线性可分问题 逻辑异或问题—线性不可分 在二维空间中没有可分离点集 { (0，0)，（1，1）}和{(0，1)，（1，0）}的直线 逻辑异或问题线性不可分 考虑一感知器，其输入为X1，X2；权值为 W1，W2 ；阀值是?。为了学习这个函数，网络必须找到这样一组值，它满足如下的不等式方程： W1*1＋ W2*1 ? ， 真值表的第一行； W1*1＋ 0 ? ， 真值表的第二行； 0＋W2*1 ?, 真值表的第三行； 0＋0 ? 或?为正数， 最后一行。 此不等式方程组无解，这就证明了感知机不能解决异或问题。问题不是线性可分的，这是异或问题不能用感知机来解决的原因 BP神经网络求解异或问题 BP学习算法推导 BP网络学习算法 BP神经网络求解异或问题网络结构 设初始权值全部为0.5，阈值为0，学习率为0.5，输入层到隐含层，隐含层到输出值的激活函数为单极SIGMOID函数，要求误差e为0.1 BP神经网络求解异或问题的权值调整 输入样本（1，1，0）时，求解各对应参数： 各神经元的输出 BP神经网络求解异或问题的权值调整 反向传播调整各权值 隐含层与输出层之间的权值调整计算： BP神经网络求解异或问题的权值调整 反向传播调整各权值 输入层与隐含层之间的权值调整计算： BP神经网络求解异或问题的权值调整 BP神经网络求解异或问题的权值调整 计算误差： 因为误差没有达到预定要求，进入下一轮权值调整循环 思考题 激活函数为logsig函数时，对网络有何影响？ 当输入分别为0.6和0.8时，通过计算判断将会将其分入哪一类 * 单个神经元的神经网络 输入 输入 输入 神经元 输出 x11 x1n x12 X1 2.4补充BP神经网络计算实例 智能中国网提供学习支持 初始值选择 前向计算，求出所有神经元的输出 对输出层计算 从后向前计算各隐层 计算并保存各权值修正量： 修正权值： 判断是否满足结束条件，不满足转至2，否则算法结束 Node1 Node2 Node1 Node2 Node1 X1 X2 w11 w12 w21 w22 w1y w2y yo 反向传播调整各权值 输入层与隐含层之间的权值调整计算： Part 1