人工神经网络理论设计及应用（ 第二版） 教学课件 作者 韩力群 编著 第三章感知器.ppt

尚辅网 尚辅网 第三章 前馈神经网络 3.1单层感知器 3.2多层感知器 3 前馈神经网络 3.1.1感知器模型 3.1.1感知器模型 3.1.2感知器的功能 （1）输入是二维 wij x1+w2j x2 – Tj = 0 wij x1 = Tj - w2j x2 x1 = (Tj -w2j x2) / wij = - ( w2j/ wij ) x2 +Tj / wij = a x2 +c 感知器的功能（二维） 3.1.2感知器的功能 3.1.2感知器的功能 （2）输入是三维 wij x1+w2j x2 +w3j x3– Tj = 0 x1 = a x2 +b x3 +c 3.1.2感知器的功能 3.1.2感知器的功能 3.1.2感知器的功能 例一 用感知器实现逻辑“与”功能 例二 用感知器实现逻辑“或”功能 思考并回答 分界线的方程是什么？ 感知器的模型如何表示？ 图示？ 数学表达式？ 3.1.3感知器的局限性 3.1.4感知器的学习 关键问题就是求 3.1.4感知器的学习算法 Perceptron(感知器)学习规则 3.1.4感知器的学习算法 Perceptron Rule 感知器学习规则的训练步骤： （1）权值初始化 （2）输入样本对 （3）计算输出 （4）根据感知器学习规则调整权值 （5）返回到步骤(2)输入下一对样本，周而复始直到对所有样本，感知器的实际输出与期望输出相等。 Perceptron Classification 3.1.3单层感知器的局限性 问题：能否用感知器解决如下问题？ 3.1.3单层感知器的局限性 无法解决“异或”问题 只能解决线性可分问题 3.2多层感知器 3.2.1多层感知器的提出 提出的动因 单计算层感知器的局限性： 只能解决线性可分问题，而大量的分类问题是线性不可分的。 解决的有效办法 在输入层与输出层之间引入隐层作为输入模式的“内部表示”，将单计算层感知器变成多（计算）层感知器。 采用非线性连续函数作为转移函数，使区域边界线的基本线素由直线变成曲线，从而使整个边界线变成连续光滑的曲线。 尚辅网 前馈神经网络--单层感知器 尚辅网 例三 单计算节点感知器，3个输入。给定3对训练样本对如下： X1 = (-1，1，-2，0)T d1 =?1 X2 = (-1，0，1.5，-0.5)T d2 = ? 1 X3 = (-1，-1，1，0.5)T d3 =1 设初始权向量W(0)=(0.5,1,-1,0)T，η=0.1。注意，输入向量中第一个分量x0恒等于-1，权向量中第一个分量为阈值，试根据以上学习规则训练该感知器。 前馈神经网络--单层感知器 3.1.4感知器的学习算法 尚辅网 解：第一步 输入X1，得 WT(0)X1=(0.5,1,-1,0)(-1,1,-2,0)T=2.5 o1(0)=sgn(2.5)=1 W(1)= W(0)+η[d1- o1(0)] X1 =(0.5,1,-1,0)T+0.1(-1-1)(-1,1,-2,0)T =(0.7,0.8,-0.6,0)T 前馈神经网络--单层感知器 3.1.4感知器的学习算法 尚辅网 第二步 输入X2，得 WT(1)X2=(0.7,0.8,-0.6,0)(-1,0,1.5,-0.5)T=-1.6 o2(1)=sgn(-1.6)=-1 W(2)= W(1)+η[d2- o2(1)] X2 =(0.7,0.8,-0.6,0)T+0.1[-1-(-1)](-1,0,1.5,-0.5)T =(0.7,0.8,-0.6,0)T 由于d2= o2(1)，所以W(2)= W(1)。 前馈神经网络--单层感知器 3.1.4感知器的学习算法 尚辅网 第三步 输入X3，得 WT(2)X3=(0.7,0.8,-0.6,0)(-1,-1,1,0.5)T=-2.1 O3(2)=sgn(-2.1=-1 W(3)= W(2)+η[d3- o3(2)] X3 =(0.7,0.8,-0.6,0)T+0.1[1-(-1)](-1,-1,1,0.5)T =(0.5,0.6,-0.4,0.1)T 第四步 返回到第一步，继续训练直到dp- op=0，p=1,2,3。 前馈神经网络--单层感知器 3.1.4感知器的学习算法 尚辅网 尚辅网 尚辅网 尚辅网 尚辅网