神经网络原理与应用..pptVIP

神经网络原理与应用 Artificial Neural Networks and Applications 孙光民教授 北京工业大学电子工程系 Tel: E-mail: gmsun@bjut.edu.cn 2)从输出层到输入层有反馈的前向网络： 如：ART网络（自适应共振理论网络） 目前日本已做出芯片，运算速度达到200-300亿次/秒。而美国水平则更高，达到2000亿次/秒。我国也有人在致力于NN计算机的研究，并已取得阶段性成果。 不同网络的学习规则有所不同，学习规则即为权值调整的一种算法，有的网络学习或权值调整是在网络信息处理过程中自发地完成的，而有的网络则需要从例子中进行学习，常用的学习规则有如下几种： * 神经网络与模式识别研究室 * 1)相关规则：仅根据连接间的激活水平改变权值，比如Hebb规则为： 与条件反射学说相一致，即外界激励越强，神经元越兴奋，连接权值越增强。 * 神经网络与模式识别研究室 * 2)纠错规则：依赖于输出节点的外部反馈信息改变权值，相等于梯度下降法，通过改变权值不断纠正错误，从而达到最终所期望的输出。所以需要有一个指导信号或参考信号，这种规则又称为有导师监督学习规则。 * 神经网络与模式识别研究室 * 4)无导师监督学习规则：这种规则是网络通过向外界客观事物学习，自发地完成权值修正，希望通过修正权值，以使网络能客观反映事物的真实分布，学习过程是通过竞争而自适应地进行的，从而使不同节点有选择地接收或响应输入空间中的具有不同特性的激励。 。 * 神经网络与模式识别研究室 * 四．ANN的分类及研究方向 目前神经网络模型已有近百种，不同的 模型从不同的侧面模拟人脑的某些特征， 因此可以完成不同的功能。如果说要将神 经网络进行分类的话，可以从以下几个方 面进行分类： * 神经网络与模式识别研究室 * 1.按网络的性能可分为： 连续型与离散型 确定性与随机性网络 2.按网络结构可分为： 反馈网络，存在稳定性问题 前向网络，不存在稳定性问题，只有 算法的收敛性 3.按学习方式可分为： 有导师学习网络 无教师学习网络 * 神经网络与模式识别研究室 * 4.按连接突触性质可分为： 　一阶线性关联网络 　高阶非线性关联网络 5.按网络模型所模拟人脑神经系统的功能层次可分为： 神经元层次模型：研究单个神经元特性及对输入响应机理。如 Adaline 组合式模型：由数种不同特性的神经元组成，它们相互补充，相互协作，完成某些特定的功能。如模式识别等。 * 神经网络与模式识别研究室 * 网络层次模型：由许多相同的神经元互联而成，从整体上研究网络的集体特性。如HNN等。 神经系统层次模型：由多个不同性质的网络组成的复杂系统，模拟生物神经系统更复杂或更抽象的性质。如概念形成。 智能型模型：这是最抽象层次，试图模拟人脑信息处理的过程和策略。如感知，思维等过程。 * 神经网络与模式识别研究室 * 近年来，神经网络受到了国内外科技人员的广泛关注，得到了大量的研究，归纳起来，研究主要包括三个方面： 理论 应用 实现 其特点和具体的研究课题简介如下： * 神经网络与模式识别研究室 * 1．理论研究： 其特点是NN的数学理论相对比较薄弱，因此容易提出一些新方法和新思想，这方面的研究课题主要包括： a)模型的研究： ﹡比如人脑的生理结构、思维机制、神经元的生物特性（时空特性）、不应期、电化学性质等完善的人工模拟，如高阶非线性模型，多维局域连接模型等。 * 神经网络与模式识别研究室 * ﹡神经网络计算模型及学习算法等研究。比如提出一些新的网络结构，不同的神经元模型和非线性特性及新的学习方法（混沌神经元，模糊神经元，随机逻辑神经元，高斯型非线性特性，负阻型非线性特性，随机算法，模拟退化算法，强化学习算法，遗传算法等） * 神经网络与模式识别研究室 * b）神经网络基本理论研究 ﹡非线性内在机制--自适应、自组织、协同作用、突变、奇怪吸引子与混沌、分维、耗散结构、随机非线性动力学等。 ﹡神经网络基本性能：稳定性、收敛性、容错性、鲁棒性、动力学复杂性等。 * 神经网络与模式识别研究室 * ﹡NN的计算能力与判别准则—计算能力、准确性、存储容量、准则表达、综合性能判别等。 ﹡关于智能本质的研究，这是自然科学与哲学的课题之一，成各学科共同关心的焦点。 * 神经网络与模式识别研究室 * 2.应用研究 　其特点是还处于起始研究阶段，但由于NN本身所具有的特点，使得其应用非常广泛，所以应用研究范围也相当广泛。 比如神经网络在智能信息处理方面的应用研究包括： * 神经网络与模式