MP模型1.pptVIP

？人脑有多少个神经元 ？ 860亿！！！ MP模型 神经网络的发展简史 1943年美国生理学家W.S Mcculloch和数学家W.A Pitts首次提出了二值神经元模型。他们把神经元视为二值开关，通过不同的组合方式可以实现不同的逻辑运算。这种“逻辑神经元”模型被称为MP模型。开创了人工神经网络研究的时代。 1949年，心理学家提出了突触联系强度可变的设想。 1960年代，人工神经网络的到了进一步发展，更完善的神经网络模型被提出，其中包括感知器和自适应线性元件等。 1969年M.Minsky等出版了《Perceptron》一书，指出感知器不能解决高阶谓词问题，使人工神经网络的研究处于低潮。 1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。 1984年，他又提出了连续时间Hopfield神经网络模型。 1985年，又有学者提出了波耳兹曼模型。在学习中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。 1986年进行认知微观结构地研究，提出了并行分布处理的理论。 90年代初，又有脉冲耦合神经网络模型被提出。 W.S Mcculloch 1898年出身于美国新泽西州，曾在耶鲁大学学习哲学和心理学，并于1923年在哥伦比亚大学获得心理学硕士学位。先后在麻省理工大学，耶鲁大学从事研究。1969年在剑桥逝世。 1943年，他试图将图灵机的模型移植到单个神经元上，从而实现“逻辑神经元”的设想。 从1952年开始，他一直在麻省理工大学电子研究实验室里从事神经网络模型的研究。 1943年发表了论文：A Logical Calculus of the Ideas Immanent in Nervous Activity 1945年发表了论文：A Heterarchy of Values Determined by the Topology of Nervous Nets 1965年出版了Embodiments of Mind W.A Pitts 美国数学家 1943年与W.S Mcculloch一同发表了论文：A Logical Calculus of the Ideas Immanent in Nervous Activity MP模型的数学表示 生物神经元数学模型 逻辑神经元数学模型（MP模型） 生物神经元 数学模型  —— 输入输出间的突触时延 —— 神经元j的阈值 —— 神经元i到 j 的突触连接系数或称 权重值 ——神经元传递函数 MP模型(逻辑神经元数学模型) y的输入输出关系如表： E≥T，I=0 y=1 E≥T，I0 y=0 ET，I=0 y=0 ET，I0 y=0 E：兴奋性输入 I：抑制性输入（否决） MP模型的逻辑表示 逻辑与（假设w=1） 设T=2， I=0， E=x1W+x2W=x1+x2 当x1=1，x2=1，E=1+1=2， 触发y=1 当x1=1，x2=0，E=1+0=1， 不触发y=0 当x1=0，x2=1，E=0+1=1， 不触发y=0 当x1=0，x2=0，E=0+0=0， 不触发y=0 满足y=x1.x2逻辑与关系。 逻辑或： 令T=1， I=0， E=x1+x2 （二个兴奋性输入） 当x1=1, x2=1, E=1+1=2, 触发 y=1 当x1=1, x2=0, E=1+0=1, 触发 y=1 当x1=0, x2=1, E=0+1=1, 触发 y=1 当x1=0, x2=0, E=0+0=0, 不触发 y=0 满足y=x1+x2逻辑或关系 逻辑非： 令T=0，E=0， I=xW=x（一个抑制性输入） 当x=1，I=10, 不触发y=0 当x=0，I=0， 触发y=1 满足逻辑非关系 感知器模型概念 1958年，美国心理学家Frank Rosenblatt提出一种具有单层计算单元的神经网络，成为Perceptron,即为感知器。 感知器是一种非线性前馈网络，同层内无互连，不同层间无反馈，由下层向上层传递。其输入、输出均为离散值，神经元对输入加权求和后，由阈值函数决定其输出。 感知器的数学模型 （j=1,2,…,m ） 输入： 输出： 感知器的学习 权值初始化 输入样本对 计算输出 根据感知器学习规则调整权值 返回到步骤1输入下一对样本，周而复始直到对所有样本，感知器的实际输出与期望输出相等。 什么是前馈？ 前馈控制系统为前馈控制的一种