人工神经网络简介temp.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 如同许多代数方程一样，由MP模型激活函数得出的不等式具有一定的几何意义，所有输入样本构成样本输入空间。对于任意特定W和P的值都规定了一个超平面（决策平面），其方程为： 它把超平面Rn（X∈Rn）分成了两部分：WX-b0 部分和 WX-b≥0 部分。 一般地，N输入的MP模型神经元有2n个输入样本，几何上分别位于N维超立方体的各顶点处。 7.3 人工神经网络的结构与学习 7. 3. 1 人工神经网络的结构 如果将大量功能简单的形式神经元通过一定的拓扑结构组织起来，构成群体并行分布式处理的计算结构，那么这种结构就是人工神经网络，在不引起混淆的情况下，统称为神经网络。 根据神经元之间连接的拓扑结构上的不同，可将神经网络结构分为两大类： 分层网络 相互连接型网络 1．分层结构 分层网络将一个神经网络模型中的所有神经元按功能分成若干层，一般有输入层、隐层（又称中间层）和输出层各层顺序连接，如图7. 7所示。 输 出 层 中 间 层 输 入 层 输入 输出 图 7.7 分层网络的功能层次 简单的前向网络； 具有反馈的前向网络； 层内有相互连接的前向网络。 分层网络可以细分为三种互连形式： 图7.8 （a）简单的前向网络形状； 图7.8 （b）输出层到输入层具有反馈的前向网络； 图7.8 （c） 层内有相互连接的前向网络。 所谓相互连接型网络是指网络中任意两个神经元之间是可达的，即存在连接路径，如图7.8（d）所示。 2．相互连接型结构 权值修正学派认为：神经网络的学习过程就是不断调整网络的连接权，以获得期望的输出的过程。 7. 3. 2 人工神经网络的学习 相关学习法 误差修正学习法  典型的权值修正方法有两类 式中，wji( t + 1)表示修正一次后的某一权值；η称为学习因子，决定每次权值的修正量，x i（t）、xj（t）分别表示 t 时刻第i、第j个神经元的状态。 相关学习法 如果神经网络中某一神经元与另一直接与其相连的神经元同时处于兴奋状态，那么这两个神经元间的连接强度应该加强。相关学习法是根据连接间的激活水平改变权值的，相关学习法也称Hebb学习规则，可用一数学表达式表示为： (7.9) （1）选择一组初始权值和偏差值； （2）计算某一输入模式对应的实际输出与期望输出的误差 （3）更新权值（偏差值可视为输入恒为-1的一个权值） 式中，η为学习因子； y je(t)、yj(t) 分别表示第j个神经 元 的期望输出与实际输出；x i为第i个神经元的输入； （4）返回步骤（2），直到对所有训练模式，网络输出均 能满足要求。 误差修正学习法  根据期望输出与实际输出之间的误差大小来修正权值。误差修正学习法也称δ学习规则，可由如下四步来描述； (7.10) 例2．考虑一个2输入MP模型神经元的学习。假设初始参数为： w1 = 0.2， w2 = -0.5， b = 0.1 要求该神经元能实现下列逻辑真值表： 逻辑真值表 x1：0 0 1 1 x2：0 1 0 1 ye：1 1 0 0