神经网络七十年：回顾与展望.pdfVIP

第39卷第8期计算机学报Vol.39No.8

2016年8月CHINESEJOURNALOFCOMPUTERSAug.2016

神经网络七十年：回顾与展望

焦李成”杨淑媛”刘芳2)王士刚”冯志玺V

1)；(西安电子科技大学智能感知与图像理解教育部重点实验室、智能感知与计算国际联合研究中心、

智能感知与计算国际合作联合实验室西安7171)

2)(西安电子科技大学计算机学院西安7171)

摘要作为联接主义智能实现的典范，神经网络采用广泛互联的结构与有效的学习机制来模拟人脑信息处理的

过程，是人工智能发展中的重要方法，也是当前类脑智能研究中的有效工具.在七十年的发展历程中，神经网络曾

历经质疑、批判与冷落，同时也几度繁荣并取得了许多瞩目的成就.从2世纪4年代的M-P神经元和Hebb学习

规则，到5年代的Hodykhi-Huxley方程、感知器模型与自适应滤波器，再到6年代的自组织映射网络、神经认知

机、自适应共振网络，许多神经计算模型都发展成为信号处理、计算机视觉、自然语言处理与优化计算等领域的经

典方法，为该领域带来了里程碑式的影响.目前，模拟人脑复杂的层次化认知特点的深度学习已经成为类脑智能中

的一个重要研究方向.通过增加网络层数所构造的“深层神经网络”使机器能够获得“抽象概念”能力，在诸多领域

都取得了巨大的成功，又掀起了神经网络研究的一个新高潮.文中回顾了神经网络的发展历程，综述了其当前研究

进展以及存在的问题，展望了未来神经网络的发展方向.

关键词类脑智能；神经网络；深度学习；大数据;并行计算；机器学习

中图法分类号TP18DOl号10.11897/SP.J.1016.2016.01697

SeventyYearsBeyondNeuralNetworks：RetrospectandProspect

JIAOLi-Cheng1)YANGShu-Yuan1)LIUFang2)WANGShi-Gang1)FENGZhi-Xi1)

^(KeyLaboratoryofInielligeniPerceptionandImageUnderstandingofMinistryofEducation»

InLernaLionalResearchCenterofInielligeniPerceptionandCompuLaLio