人工神经网络和其应用专家讲座.pptx

第8章人工神经网络及其应用;第8章人工神经网络及其应用;第8章人工神经网络及其应用;8.1神经元与神经网络;8.1.1生物神经元结构;8.1.1生物神经元结构;8.1.1生物神经元结构;8.1神经元与神经网络;8.1.2神经元数学模型;;

线性步骤传递函数：

：1；；；及其组合等。

;8.1.2神经元数学模型;8.1.2神经元数学模型;8.1.2神经元数学模型;8.1.2神经元数学模型;8.1.2神经元数学模型;;8.1神经元与神经网络;8.1.3神经网络结构与工作方式;1.神经网络结构

（1）前馈型（前向型）

;1.神经网络结构

（2）反馈型;2.神经网络工作方式

;探索时期（开始于20世纪40年代）：

;1958年，罗森布拉特（F.Rosenblatt）提出感知器模型（perceptron）。

1959年，威德罗(B.Widrow)等提出自适应线性元件（adaline）网络，经过训练后可用于抵消通信中回波和噪声。1960年，他和M.Hoff提出LMS（LeastMeanSquare最小方差）算法学习规则。;1969年，明斯基（M.Minsky）等在《Perceptron》中对感知器功效得出消极结论。

1972年，T.Kohonen和J.Anderson分别提出能完成记忆新型神经网络。

1976年，S.Grossberg在自组织神经网络方面研究十分活跃。

;第二次热潮时期：20世纪80年代至今

;神经网络控制研究领域

;第8章人工神经网络及其应用;8.2BP神经网络及其学习算法;8.2BP神经网络及其学习算法;8.2.1BP神经网络结构;;8.2.1BP神经网络结构;8.2BP神经网络及其学习算法;（1）是否存在一个BP神经网络能够迫近给定样本或者函数。

;8.2.2BP学习算法;8.2.2BP学习算法;8.2.2BP学习算法;8.2.2BP学习算法;8.2BP神经网络及其学习算法;8.2.3BP算法实现;8.2.3BP算法实现;8.2.3BP算法实现;8.2.3BP算法实现;;;8.3BP神经网络应用;8.3.1BP神经网络在模式识别中应用;例输入输出样本：

测试数据：

;8.3.1BP神经网络在模式识别中应用;测试结果表明：除了8以外，全部被测数字都能够被正确地识别。

对于数字8，神经网络第6个结点输出值为0.53，第8个结点输出值为0.41，表明第8个样本是含糊，可能是数字6，也可能是数字8，但也不完全确信是二者??一。;8.3.2BP神经网络在软测量中应用;软测量系统设计：

辅助变量选择：变量类型、变量数量和检测点位置选择。

数据采集与处理。

软测量模型建立：经过辅助变量来取得对主导变量最正确预计。;序批式活性污泥法（SBR）;BOD、COD、N和P：为软测量模型主导变量。

ORP、DO、PH和MLSS：辅助变量。

三层BP网络：;第8章人工神经网络及其应用;8.4Hopfield神经网络及其改进;8.4Hopfield神经网络及其改进;;;工作方式：

;（异步或同时方式）;;稳定性定义：

若从某一时刻开始，网络中全部神经元状态不再改变，即，则称该网络是稳定，为网络稳定点或吸引子。

Hopfield神经网络是高维非线性系统，可能有许多稳定优态。从任何初始状态开始运动，总能够到某个稳定状态。这些稳定状态能够经过改变网络参数得到。

;稳定性定理证实：1983年，科恩（Cohen）、葛劳斯伯格（S.Grossberg）。

稳定性定理（Hopfield）

;8.4Hopfield神经网络及其改进;8.4.2连续型Hopfield神经网络及其VLSI实现;8.4.2连续型Hopfield神经网络及其VLSI实现;8.4.2连续型Hopfield神经网络及其VLSI实现;8.4.2连续型Hopfield神经网络及其VLSI实现;8.4.3随机神经网络;;8.4.3随机神经网络;8.4.3随机神经网络;2.高斯机;8.4.4混沌神经网络;1.混沌（续）

混沌学研究热潮开始于20世纪70年代早期。

1963年，Lorenz在分析气候数据时发觉：初值十分靠近两条曲线最终止果会相差很大，从而取得了混沌第一个例子。

1975年，Li-Y