一类神经网络逼近全实轴上函数稠密性、复杂性与构造性-计算机学报.pdfVIP

第卷第期 计 算 机 学 报 ３５ ４ Ｖｏｌ．３５Ｎｏ．４ 年月 ２０１２４ Ａｒ．２０１２ ＣＨＩＮＥＳＥＪＯＵＲＮＡＬＯＦＣＯＭＰＵＴＥＲＳ ｐ 一类神经网络逼近全实轴上函数： 稠密性、复杂性与构造性算法 ） ） ） ） １ １ １ ２ 曹飞龙 李振彩 赵建伟 吕科 ） １（中国计量学院信息与数学科学系杭州 ） ３１００１８ ） ２（中国科学院研究生院北京 ） １０００４９ 摘要在已有的神经网络逼近研究中，目标函数通常定义在有限区间（或紧集）上而实际问题中，目标函数往往 ． （ ） ， ， 是定义在全实轴或无界集上文中针对此问题研究了全实轴上的连续函数的插值神经网络逼近问题首先利 ． ． 用构造性方法证明了神经网络逼近的稠密性定理，即可逼近性其次，以函数的连续模为度量尺度，估计了插值神 ． ， ， 经网络逼近目标函数的速度最后利用数值算例进行仿真实验文中的工作扩展了神经网络逼近的研究内容给 ． ． ， 出了全实轴上连续函数的神经网络逼近的构造性算法并揭示了网络逼近速度与网络拓扑结构之间的关系． 关键词神经网络；全实轴；逼近；速度；连续模 中图法分类号 号： ／ ＴＰ１８ 犇犗犐１０．３７２４ＳＰ．Ｊ．１０１６．２０１２．００７８６ 犃狉狅狓犻犿犪狋犻狅狀狅犳犉狌狀犮狋犻狅狀犇犲犳犻狀犲犱狅狀犉狌犾犾犃狓犻狊狅犳犚犲犪犾犫犪犆犾犪狊狊狅犳 狆狆 狔 ： ， 犖犲狌狉犪犾犖犲狋狑狅狉犽狊犇犲狀狊犻狋犆狅犿犾犲狓犻狋犪狀犱犆狅狀狊狋狉狌犮狋犻狏犲犃犾狅狉犻狋犺犿 狔 狆狔 犵 ） ） ） ） １ １ １ ２ ＣＡＯＦｅｉＬｏｎ ＬＩＺｈｅｎＣａｉＺＨＡＯＪｉａｎＷｅｉＬＶＫｅ ｇ ） １（ ， ， ） 犇犲犪狉狋犿犲狀狋狅犐狀狅狉犿犪狋犻狅狀犪狀犱犕犪狋犺犲犿犪狋犻犮狊犛犮犻犲狀犮犲狊犆犺犻狀犪犑犻犾犻犪狀犝狀犻狏犲狉狊犻狋犎犪狀狕犺狅狌３１００１８ 狆 犳犳 犵 狔 犵 ） ２（ ， ） 犌狉犪犱狌犪狋犲犝狀犻狏犲狉狊犻狋狅犆犺犻狀犲狊犲犃犮犪犱犲犿狅犛犮犻犲狀犮犲犅犲犻犻狀１０００４９ 狔犳 狔犳 犼犵 犃犫狊狋狉犪犮狋Ｔｈｅｒｅｈａｖｅｂｅｅｎａｌｏｔｏｆｓｔｕｄｉｅｓｏｎｔｈｅａｒｏｘｉｍａｔｉｏｎｏｆｆｕｎｃｔｉｏｎｄｅｆｉｎｅｄｏｎａｂｏｕｎｄｅｄ ｐｐ （ ） ， ｉｎｔｅｒｖａｌｏｒａｃｏｍａｃｔｓｅｔｂｎｅｕｒａｌｎｅｔｗｏｒｋｓ．Ｈｏｗｅｖｅｒｔｈｅｔａｒｅｔｆｕｎｃｔｉｏｎｓａｒｅｏｆｔｅｎｄｅｆｉｎｅｄ ｐ ｙ ｇ （ ） ， ｏｎｔｈｅｆｕｌｌａｘｉｓｏｆｒｅａｌｏｒａｎｕｎｂｏｕｎｄｅｄｓｅｔｉｎｒａｃｔｉｃａｌａｌｉｃａｔｉｏｎｓ．Ａｃｃｏｒｄｉｎｔｏｔｈｉｓｒｏｂｌｅｍ ｐ ｐｐ ｇ ｐ ｔｈｉｓａｅｒｓｔｕｄｉｅｄｔｈｅａｒｏｘｉｍａｔｉｏｎｏｆｔａｒｅｔｆｕｎｃｔｉｏｎｄｅｆｉｎｅｄｏｎｔｈｅｆｕｌｌａｘｉｓｏｆｒｅａｌｂａｃｌａｓｓｏｆ ｐｐ ｐｐ ｇ ｙ ， ｉｎｔｅｒｏｌａｔｉｏｎｎｅｕｒａｌｎｅｔｗｏｒｋｓ．Ｆｉｒｓｔｌａｔｈｅｏｒｅｍｏｎｄｅｎｓｉｔｆｏｒａｒｏｘｉｍａｔｉｏｎｂｎｅｕｒａｌｎｅｔ ｐ ｙ ｙ ｐｐ ｙ ， ｗｏｒｋｓｉｓｉｖｅｎｂｍｅａｎｓｏｆａｃｏｎｓｔｒｕｃｔｉｖｅａｒｏａｃｈ．Ｓｅｃｏｎｄｌｔｈｅｍｏｄｕｌｕｓｏｆｃｏｎｔｉｎｕｉｔｏｆａ ｇ ｙ ｐｐ ｙ ｙ ， ｆｕｎｃｔｉｏｎｉｓｔａｋｅｎｔｏｂｅａｍｅｔｒｉｃｔｏｅｓｔｉｍａｔｅｔｈｅｒａｔｅｏｆａｒｏｘｉｍａｔｉｎａｔａｒｅｔｆｕｎｃｔｉｏｎ．Ｌａｓｔｌａ ｐｐ ｇ ｇ ｙ ｎｕｍｅｒｉｃａｌｅｘａｍｌｅｆｏｒｉｌｌｕｓｔｒａｔｉｏｎｉｓｉｖｅｎ．Ｔｈｉｓａｅｒｅｘｔｅｎｄｓｔｈｅｔｈｅｏｒｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｓｂ ｐ ｇ ｐｐ ｙ ｙ ｉｖｉｎａｃｏｎｓｔｒｕｃｔｉｖｅａｌｏｒｉｔｈｍｆｏｒａｒｏｘｉｍａｔｉｎｃｏｎｔｉｎｕｏｕｓｆｕｎｃｔｉｏｎｓｄｅｆｉｎｅｄｏｎｔｈｅｆｕｌｌａｘｉｓｏｆ ｇｇ ｇ ｐｐ ｇ ｒｅａｌａｎｄｅｘｌｏｒｅｓｔｈｅｒｅｌａｔｉｏｎｂｅｔｗｅｅｎａｒｏｘｉｍａｔｉｎｒａｔｅａｎｄｔｏｏｌｏｉｃａｌｓｔｒｕｃｔｕｒｅｏｆｔｈｅｎｅｕｒａｌ ｐ ｐｐ ｇ ｐｇ ｎｅｔｗｏｒｋｓ． ； ； ； ； 犓犲狑狅狉犱狊ｎｅｕｒａｌｎｅｔｗｏｒｋｓｆｕｌｌａｘｉｓｏｆｒｅａｌａｒｏｘｉｍａｔｉｏｎｒａｔｅｍｏｄｕｌｕｓｏｆｃｏｎｔｉｎｕｉｔ 狔 ｐｐ ｙ ： ； ： （ ， ）、 收稿日期 最终修改稿收到日期 本课题得到国家自然科学基金 浙江省自然科学基金 ２００９０８０４ ２０１１１２１５． ６０８７３２０６６１１０１２４０ （ ） ，， ， ， ， ， 、 ： ， 资助 男 年生博士教授博士生导师主要研究领域为智能计算逼