第03章 一个说明性实例2009.10.1.pptVIP

第3章 一个说明性实例3.1目的 本章目的： 本章将结出一个模式识别的简单问题，并说明如何用三种不同结构的神经网络来求解这个问题，尽管这个实例过于简单。 希望大家能够对神经网络的功能有一个感性认识，同时也想说明： 对给定问题的求解，有许多种类型的网络可供使用。 3.2 理论和实例 → 3.2.1问题描述 假设从水果经一条传送带运输，传送带要通过一组持定的传感器，分别测量水果的三个特征：外形、质地和重量(如下图) 3.2 理论和实例 → 3.2.1问题描述 为了使问题更加简单。现假设传送带上只有两种类型的水果：苹果和橘子。 用三维向量来表示感应器输出结果，向量的第一个元素表示外形，第二个元素表示质地，第三个元素表示重量： 3.2 理论和实例 → 3.2.2感知机(求解问题) 图3-1给出了采用对称硬极限传输函数的单层感知机。 3.2 理论和实例 → 3.2.2感知机(求解问题) 3.2 理论和实例 → 3.2.2感知机(求解问题) 3.2 理论和实例 → 3.2.2感知机(求解问题) 3.2 理论和实例 → 3.2.2感知机(求解问题) 3.2 理论和实例 → 3.2.2感知机(求解问题) 3.2 理论和实例 → 3.2.3Hamming网络 Hamming网络是专门为求解二值模式识别问题而设计的。该网络同时采用了前馈层和递归（反馈）层。标准的Hamming网络如图3-5所示。 3.2 理论和实例 → 3.2.3Hamming网络(求解) 1、前馈层 前馈层实现标准模式与输入模式的内积。用标准模式设置其权值矩阵。偏置值微量的每一个元素设为R 。对于求解橘子/苹果问题： 3.2 理论和实例 → 3.2.3Hamming网络(求解) 2、递归层 Hamming网的递归层就是“竞争”层。输出的标准模式数与神经元个数相同。 该层的神经元用前馈层的输出进行初始化，然后递归层中的神经元相互竞争以决定谁是胜利者竞争后只有一个神经元的输出值不等于竞争取胜的神经元就表示提供给网络的输入的类别。 描述竞争的等式为： 利用Hamming网络求解橘子/苹果问题 一个椭圆形橘子可以用向量表示为： 3.2.2 感知机求解橘子/苹果演示 1、先运行MATLAB,后在MATLAB的安装目录中的如下子目录中找到：C:\Program Files\MATLAB\R2007a\toolbox\nnet\nndemos\中找到nnd3hamc.m，右击运行。 3.2 理论和实例 → 3.2.4Hopfield网络 3.2.4Hopfield网络 此部分内容（略），详细讲解放在第18章 3.3 小结 图3-1给出了采用对称硬极限传输函数的单层感知机。 3.3 小结 3.3 小结 Hamming网络采用前馈层和递归（反馈）层。如图3-5所示。 3.3 小结 1、前馈层 （1）用标准模式设置其权值矩阵。 （2）偏置值微量的每一个元素设为R 。 3.3 小结 2、递归层 （1）输出的标准模式数与神经元个数相同。 （2）用前馈层的输出进行初始化， （3）然后递归层中相互竞争 作业 1、绘制Page24的图3-1的感知机图和Page28的Hamming网络图. 2、不使用软件工具，完成Page32的E3.1（i），并使用p1,p2来 测试。设p1=[-1 1 1]T, t1 = -1; p2 = [-1 -1 1] T ,t2 = 1。 3、提交实验二的实验报告。（见实验指导） * 3 基本上是圆形的，外形传感器的输出1； 如更接近于椭圆，则输出-1。 如果水果表面光滑，质地传感器的输出就是1； 如表面比较粗糙，输出为-1。 当重量超过1磅时，重量传感器的输出为1； 轻于1磅时，则输出为-1 所以，一个标准橘子和苹果可分别表示如（3.2）式和（3.3）式所示。对传送带上的每个水果而言，神经网络接收到一个三维输入向量，并且必须判断它是一个橘子(p1)还是一个苹果(p2)。 标准模式 （3.2）式和（3.3）式中p1和p2的称为标准模式，是预先定义好的模式。 输入模式 在传送带上由感觉器产生的向量，传给神经网络。该向量称为输入模式，有时也称输入向量。 1．两输入的情况 在用感知机求解上述问题之前，先研究两输入单神经元感知机。两输入感知机如图3-2所示。 单神经元感知机可将输入向量分成两类。 所以，如果W与p的内积 Wp  (1) Wp≥-b，感知机的输出为1 (2) Wp -b，感知机的输出为-1 式（3.4）： 将划p1-p2张成的平面空间分的为两个部分。 边界和权值矩阵正交，边界位置随b移动 所以，单神经元感知机的关键性质：