现代优化方法培训材料.pptVIP

人 (或其它生物)的神经网络示意图 人工神经网络：基础 一个神经元通过晶枝(dendrite)接收到信息后，它对这些信息进行处理 ，并通过它所控制的触突(synapse)传给其它神经元。 人工神经网络：基础 神经元的六个基本特征： 神经元及其联接； 神经元之间的联接强度决定信号传递的强弱； 神经元之间的联接强度是可以随训练改变的； 信号可以是起刺激作用的，也可以是起抑制作用的； 一个神经元接受的信号的累积效果决定该神经元的状态； 每个神经元可以有一个“阈值”。 人工神经网络：基础 人工神经元 神经元是构成神经网络的最基本单元（构件）。 人工神经元模型应该具有生物神经元的六个基本特性。 人工神经网络：基础 单层神经网络的结构(转自Matlab帮助文件) 有些教材把它称为两层结构 人工神经网络：基础 多层神经网络的结构(转自Matlab帮助文件) 人工神经网络：基础 Hopfield网络(反馈型结构) 人工神经网络：基础 其它网络结构 人工神经网络：基础 人工神经网络计算过程示意图 人工神经网络：举例 神经网络在目前已有几十种不同的模型。通常可按5个原则进行神经网络的归类。 按照网络的结构区分，则有前向网络和反馈网络。 按照学习方式区分，则有有教师学习和无教师学习网络。 按照网络性能区分，则有连续型和离散性网络，随机型和确定型网络。 按照突触性质区分，则有一阶线性关联网络和高阶非线性关联网络。 按对生物神经系统的层次模拟区分，则有神经元层次模型，组合式模型，网络层次模型，神经系统层次模型和智能型模型。 人工神经网络：种类及应用 常见的神经网络类型及应用 人工神经网络：种类及应用 名称 典应用型 Perception 感知器 文字识别、分类问题、声音识别 Back Propagation 反向传播网络 评估、预测、识别等 包含有各种优化算法来实现它。 自组织网络 分类问题 Hopfield网络 TSP问题 …… …… 生物进化的规律：选择、遗传和变异。 借鉴了生物进化的特征，其主要特征为： 进化发生在解的编码上(染色体) 人为地构造函数使好的染色体的后代数超过平均数 染色体保持父母的特征 染色体会产生变异 遗传算法 生物遗传概念 遗传算法中的作用 适者生存 算法终止时，有可能得到最优解 个体 解 染色体 解的编码 基因 解中每一分量的特征 (如各分量的值) 适应性 适应函数值 群体 选定的一组解 种群 根据适应函数选定一组解 交配 通过交叉原则产生的一组新的解 变异 编码的某个分量发生变化的过程 遗传算法 生物遗传概念和遗传算法中的概念比较 例：用遗传算法求f(x)=x2，0≤x≤31，x为整数的最大值 用五位二进制编码 0000→0，10000→16，11111→31 五位字符串称为染色体，每位称为基因，每个基因有两种状态0,1 首先产生一个随机群体，如4个(通常取偶数个) x1=00000, x2=11001, x3=01111, x4=01000 适应函数fitness(xi)=f(x)=x2 遗传算法 现代优化方法 陈荣虎 概述 人工神经网络(Artificial Neural Network) 遗传算法 禁忌有哪些信誉好的足球投注网站算法 模拟退火算法 蚁路算法 主要内容 现代优化方法包括人工神经网络、遗传算法、禁忌有哪些信誉好的足球投注网站算法、模拟退火算法、蚁路算法等； 这些算法是根据一些直观基础而构建的，我们把它称之为启发式算法，有人称现代优化算法主要指仿生算法； 牵涉到的学科广泛 生物进化、人工智能、数学和物理、神经系统和统计力学等。 这些算法和人工智能、计算机科学和运筹学相融合。 概述 计算复杂性与传统算法的局限 旅行商问题： 一个商人欲到n个城市推销商品，每两个城市i和j之间的距离为dij，如何选择一条道路使得商人每个城市走一遍后回到起点且所走路径最短。 对称距离 非对称距离 概述 采用枚举法来解决非对称旅行商问题 假定有n个城市，共需要(n-1)!次枚举，假定完成25个城市的总距离的计算及比较需要1秒，则当城市增加时，需要的时间如下表所示： 概述 城市数 24 25 26 27 28 29 30 31 时间 1s 24s 10m 4.3h 4.9d 136.5d 10.8y 325y 人类对人工智能的研究可以分成两种方式对应着两种不同的技术： 传统的人工智能技术—心理的角度模拟 基于人工神经网络的技术—生理的角度模拟 人工神经网络的定义 是由人工神经元互联组成的网络，从微观结构和功能上对人脑的抽象、简化，是模拟人类智能的一条重要途径。 反映了人脑功能的若干基本特征，如，并行信息处理、学习、联想、模式分类、记忆等。 简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 人工神经网络 智能的含