神经网络计算-建模讲义解析.ppt

神经网络计算 第一部分 神经元模型 (Biological Neural Networks)； 神经网络基础 (Artificial Neural Networks)； 人工神经元几何模型(M-P模型) 人工神经元的代数表达式及其简化形式 活化函数的类型 1、符号函数 活化函数的类型 2、Sigmoid 函数 人工神经网络的定义(Artificial Neural Networks，ANN) 　　　人工神经网络是由大量简单的处理单元－－神经元（Neurons）相互连接而构成的网络，是对人脑的抽象、简化和模拟，反映了人脑的信息处理功能。可用于解决模式识别、函数逼近和数据压缩等问题。 人工神经网络的结构　　　 具有一个隐层的前馈网络 神经网络的特性 鲁棒性（容错） 并行计算 自我学习 硬件实现 求满意解 神经网络的三要素 网络结构； 信息流动规则； 权值学习规则。 神经网络的应用 语音、视觉、知识处理 数据压缩、模式匹配、系统建模、模糊控制、求组合优化问题最佳解的近似解 辅助决策——预报与智能管理 通 信——自适应均衡、回波抵消、路由选择、ATM中的呼叫接纳、识别与控制 空间科学——对接、导航、制导、飞行程序优化 分类问题两大任务 用已知样本确定分类判决曲线； 根据分类曲线对样本进行归类。 分类问题中常用的边界判决曲线 直线 划分区域：上下或左右。 分类问题中常用的边界判决曲线 圆 划分区域：内与外。 线性可分问题 线性不可分问题 两类模式分类器 —— 符号函数 分类问题举例 逻辑“与” 有解，可取: 或： 自适应线性(Adaptive Linear)感知器 单层感知器学习算法 1、对各初始权值 赋较小的非零随机数； 2、对于输入样本向量， 给出其期望输出 ； 3、网络输入样本向量 后，计算实际输出 4、修改权值向量 其中，学习率 。 5、判断是否满足终止条件，若满足学习结束，否则转3。 单层感知器收敛定理 小 结 感知器是用于线性可分模式分类的最简单的神经网络模型； 由单个神经元组成的单层神经网络只能完成线性可分的两类模式的识别； 带隐层的感知器能对XOR问题进行正确分 类。 课外作业 试画出单层感知器的学习算法框图，并用C语言或MATLAB写出单层感知器关于逻辑“或”运算的学习算法程序。 小 结 感知器是用于线性可分模式分类的最简单的神经网络模型； 由单个神经元组成的单层神经网络只能完成线性可分的两类模式的识别； 带隐层的感知器能对XOR问题进行正确分 类。 例 一 例 二 课堂作业 试画出单层感知器的学习算法框图。 某神经网络的活化函数为符号函数 　 ，学习率 ，初始权向量 ，两对输入样本为： 试用感知器算法对上述样本反复训练，直至网络输出误差为零。并写出分类判决直线。 BP 网络 梯度法 函数 在点 处的梯度为 梯度法 梯度法（Gradient Method） 误差函数 BP神经网络故障诊断 神经网络具有自学习能力、非线性映射能力、对任意函数的逼近能力、并行计算和容错能力，这些能力为构造故障诊断系统提供了有力保障。神经网络用于故障诊断的步骤通常如下： （1）抽取反映被检测对象（设备、部件或零件等）的特征参数，如（x1,x2,...,xn）作为网络的输入模式。 （2）对被检测对象的状态类别进行编码。例如，对于正常、故障1、故障2三种状态，可将期望输出编码为：正常（0,0），故障1（0,1），故障2（1,0）。 （3）进行网络设计，确定网络层数和各层神经元数。输入层单元数由特征参数个数决定；输出层单元数由状态编码方式确定；隐层一般为1层，问题复杂时可取2层，隐层单元数的选择原则目前尚无理论依据，可根据问题规模大小凭经验确定。 （4）用各种状态样本组成训练样本，输入网络，对网络进行训练，确定各单元的连接权值。 （5）用训练好的网络对待检测对象进行状态识别，即把待检测对象的特征参数作为网络输入，根据网络输出确定待检对象的状态类别。 为了提高网络的故障诊断性能，可把使用中发现的错