软计算_人工神经网络.ppt

人工神经网络 Artificial Neural Networks 第1章??? 引言 1.1 人工神经网络的提出 1.2 人工神经网络的特点 1.3 历史回顾 1.1 人工神经网络的提出 人工神经网络（Artificial Neural Networks，简记作ANN），是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 1.2 人工神经网络的特点 信息的分布表示 运算的全局并行和局部操作 处理的非线性 1.2.1 人工神经网络的概念 1、定义 1）Hecht—Nielsen（1988年） 人工神经网络是一个并行、分布处理结构，它由处理单元及其称为联接的无向讯号通道互连而成。这些处理单元（PE—Processing Element）具有局部内存，并可以完成局部操作。每个处理单元有一个单一的输出联接，这个输出可以根据需要被分枝成希望个数的许多并行联接，且这些并行联接都输出相同的信号，即相应处理单元的信号，信号的大小不因分支的多少而变化。 1.2.1 人工神经网络的概念 （1）Hecht—Nielsen（1988年）（续） 处理单元的输出信号可以是任何需要的数学模型，每个处理单元中进行的操作必须是完全局部的。也就是说，它必须仅仅依赖于经过输入联接到达处理单元的所有输入信号的当前值和存储在处理单元局部内存中的值。 1.2.1 人工神经网络的概念 强调： ① 并行、分布处理结构； ② 一个处理单元的输出可以被任意分枝，且大小不变； ③ 输出信号可以是任意的数学模型； ④ 处理单元完全的局部操作 1.2.1 人工神经网络的概念 （2） Rumellhart，McClelland，Hinton的PDP 1）? 一组处理单元（PE或AN）； 2）? 处理单元的激活状态（ai）； 3）? 每个处理单元的输出函数（fi）； 4）? 处理单元之间的联接模式； 5）? 传递规则（∑wijoi）； 6）? 把处理单元的输入及当前状态结合起来产生激活值的激活规则（Fi）； 7）? 通过经验修改联接强度的学习规则； 8）? 系统运行的环境（样本集合）。 1.2.1 人工神经网络的概念 （3） Simpson（1987年） 人工神经网络是一个非线性的有向图，图中含有可以通过改变权大小来存放模式的加权边，并且可以从不完整的或未知的输入找到模式。 1.2.1 人工神经网络的概念 2、关键点 （1）?????? 信息的分布表示 （2）?????? 运算的全局并行与局部操作 （3）?????? 处理的非线性特征 3、对大脑基本特征的模拟 1）? 形式上：神经元及其联接；BN对AN 2）? 表现特征：信息的存储与处理 1.2.1 人工神经网络的概念 4、别名 人工神经系统（ANS） 神经网络（NN） 自适应系统（Adaptive Systems）、自适应网（Adaptive Networks） 联接模型（Connectionism） 神经计算机（Neurocomputer） 1.2.2 学习（Learning）能力 人工神经网络可以根据所在的环境去改变它的行为 自相联的网络 异相联的网络：它在接受样本集合A时，可以抽取集合A中输入数据与输出数据之间的映射关系。——“抽象”功能。 不同的人工神经网络模型，有不同的学习/训练算法 1.2.3 基本特征的自动提取 由于其运算的不精确性，表现成“去噪音、容残缺”的能力，利用这种不精确性，比较自然地实现模式的自动分类。 普化（Generalization）能力与抽象能力 1.2.4 信息的分布存放 信息的分布存提供容错功能 由于信息被分布存放在几乎整个网络中，所以，当其中的某一个点或者某几个点被破坏时，信息仍然可以被存取。 系统在受到局部损伤时还可以正常工作。 并不是说可以任意地对完成学习的网络进行修改。也正是由于信息的分布存放，对一类网来说，当它完成学习后，如果再让它学习新的东西，这时就会破坏原来已学会的东西。 1.2.5适应性(Applicability)问题 擅长两个方面： 对大量的数据进行分类，并且只有较少的几种情况； 必须学习一个复杂的非线性映射。 目前应用： 人们主要将其用于语音、视觉、知识处理、辅助决策等方面。 在数据压缩、模式匹配、系统建模、模糊控制、求组合优化问题的最佳解的近似解（不是最佳近似解）等方面也有较好的应用。 1.3 历史回顾 1.3.1 萌芽期（20世纪40年代） 人工神经网络的研究最早可以追溯到人类开始研究自己的智能的时期，到1949年止。 1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权和模型，简称为M-P模型。发表于数学生物物理学会刊《Bu