指数弹性动量卷积神经网络及其在行人检测中的应用 - 哈尔滨工业大学 .pdfVIP

第４９卷　 第５期 哈　 尔　 滨　 工　 业　 大　 学　 学　 报 Ｖｏｌ４９ Ｎｏ５ 　 　 ２０ １７年５月 ＪＯＵＲＮＡＬ ＯＦ ＨＡＲＢＩＮ ＩＮＳＴＩＴＵＴＥ ＯＦ ＴＥＣＨＮＯＬＯＧＹ Ｍａｙ ２０１７ ＤＯＩ：１０．１１９１８／ ｊ．ｉｓｓｎ．０３６７⁃６２３４．２０１６０３１４５ 　 　 　 　 　 　 指数弹性动量卷积神经网络及其在行人检测中的应用 １，２，３ １ 岳　 颀 ，马彩文 （１．中国科学院西安光学精密机械研究所，西安 ７１０１１９；２．中国科学院大学，北京 １０００３９；３．西安邮电大学，西安 ７１０１２１） 摘　 要：针对深度卷积神经网络存在规则化参数多、未利用浅层先验知识、参数随机初始化后易导致权值更新梯度弥散及训 练早熟等问题，采用ＰＣＡ 非监督学习方式获取导向性初始化参数数值方法，并基于对网络误差的传播分析，提出指数自适应 弹性动量参数学习方法． 以复杂场景下行人目标为例进行目标检测试验，实验表明：与人工特征检测识别方案及传统深度卷 积模型相比，该模型可有效提升目标检测精度，检测速度提升２０％以上；与其他动量同源更新机制相比，该算法收敛速度更 快，收敛曲线更平滑，泛化能力强，可在不同深度模型均可取得较好检测效果，准确率分别平均提高１．６％，１．８％和６．１９％． 关键词：深度神经网络；弹性动量；目标检测；模型优化 － － － 中图分类号：ＴＰ３９１．４１ 文献标志码：Ａ 文章编号：０３６７ ６２３４（２０１７）０５ ０１５９ ０６ Ａ ｄｅｅｐ ｃｏｎｖｏｌｕｔｉｏｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｆｏｒ ｏｂｊｅｃｔ ｄｅｔｅｃｔｉｏｎ ｂａｓｅｄ １，２，３ １ ＹＵＥ Ｑｉ ，ＭＡ Ｃａｉｗｅｎ （１． Ｘｉ’ａｎ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｏｐｔｉｃｓ ａｎｄ Ｐｒｅｃｉｓｉｏｎ Ｍｅｃｈａｎｉｃｓ，Ｃｈｉｎｅｓｅ Ａｃａｄｅｍｙ ｏｆ Ｓｃｉｅｎｃｅｓ，Ｘｉ’ａｎ７１０１１９，Ｃｈｉｎａ； ２． Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｃｈｉｎｅｓｅ Ａｃａｄｅｍｙ ｏｆ Ｓｃｉｅｎｃｅｓ，Ｂｅｉｊｉｎｇ １０００３９，Ｃｈｉｎａ； ３．Ｘｉ’ａｎ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｐｏｓｔｓ ａｎｄ Ｔｅｌｅｃｏｍｕｎｉｃａｔｉｏｎｓ，Ｘｉ’ａｎ７１０１２１，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｄｅｅｐ ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ（ＣＮＮ） ｈａｓ ｔｏｏ ｍａｎｙ ｐａｒａｍｅｔｅｒｓ ｔｏ ｉｎｉｔｉａｌｉｚｅ，ａｎｄ ｔｈｅ ｕｓｕａｌ ｒａｎｄｏｍ ｉｎｉｔｉａｌｉｚａｔｉｏｎ ｍｅｔｈｏｄ ｉｓ ｅａｓｙ ｔｏ ｄｉｓａｐｐｅａｒ ｏｆ ｍｏｄｉｆｉｅｄｇｒａｄｉｅｎｔ ａｎｄｔｈｅｐｒｏｂｌｅｍｏｆ ｐｒｅｍａｔｕｒｅ．ＴｈｅｕｎｓｕｐｅｒｖｉｓｅｄＰＣＡ ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ｉｓ ｕｓｅｄ ｔｏ ｏｂｔａｉｎ ｏｒｉｅｎｔｅｄ ｉｎｉｔｉａｌｉｚａｔｉｏｎ ｐａｒａｍｅｔｅｒｓ． Ａｎｄ ｔｈｅ ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｄｅｎｔ ｍｅｔｈｏｄ ｗｉｔｈ ｅｘｐｏｎｅｎｔｉａｌ ｆｌｅｘｉｂｌｅ ｍｏｍｅｎｔｕｍｆｏｒ ｕｐｄａｔｉｎｇｆｒｅｅｐａｒａｍｅｔｅｒｓｏｆ ｔｈｅ ｎｅｔｗｏｒｋ ｉｓｐｒｏｐｏｓｅｄ ｏｎｔｈｅｂａｓｉｓｏｆ ａｎａｌｙｚｉｎｇｔｈｅ ｅｒｒｏｒ