多新息随机梯度辨识方法的收敛性研究.pdfVIP

Vo l. 7　No. 2 1　 Nov. 2007 第 7卷 　第 2 1期 　2007年 11月 科 　学 　技 　术 　与 　工 　程 　 (2007) 2 1547505　 Science Techno logy and Engineering 　2007　Sci. Tech. Engng. 多新息随机梯度辨识方法的收敛性研究 于 　丽 　丁 　锋 　张佳波 (江南大学控制科学与工程研究中心 ,无锡 2 14 122) 摘 　要 　从理论上给出了多新息辨识方法的推导过程 ,提出了多新息随机梯度辨识方法 ,并运用随机过程理论分析了多新息 随机梯度辨识方法的均方收敛性 ,给出参数估计误差上界的计算公式 。分析表明数据的平稳性可以提高参数估计精度 。最 后给出了多新息辨识方法的各种典型变形 。 关键词 　参数估计 　多新息辨识 　随机梯度 中图法分类号 　O2 11. 64; 　　文献标识码 　A 　　最小二乘类辨识方法 、卡尔曼滤波算法、最小均 了广泛地应用 :多新息理论已经应用于多变量系统的 ( ) 方算法 包括投影算法和随机梯度算法 是常用的方 辨识 。例如 ,文献 [ 13 ]提出了多输入单输出系统的多 法 ,这些方法可用于解决多种模型的参数估计、自适 新息、辅助模型最小二乘法 ,文献 [ 12 ]提出了多输入 应滤波、自适应信号处理和 自适应控制等问题 [ 1—5 ] 。 多输出时变系统的多新息投影辨识算法 ,并研究了参 回顾辨识的发展史 ,从 1967 年国际自动控制联合会 数估计误差的均方收敛性 。文献 [ 14 ]将多新息辨识 ( ) IFAC 每三年组织一次 “辨识与系统参数估计 ”专题 理论与前向神经网络相结合 ,提出了一种基于前向神 讨论会以来 ,系统参数估计方法和各种辨识应用软件 经网络的多新息随机梯度算法 。本文还运用随机过 ( ) 工具得到长足发展 ,辨识方法的 有界 收敛性、收敛 程理论研究多新息随机梯度辨识方法参数估计误差 速度 、估计误差上界的研究也取得了丰富的成果[ 6, 7 ] 。 上界 。 但是 ,诞生的新辨识方法却不多 ,可见提出新的辨识 1　多新息辨识算法 方法是辨识领域中最困难的研究课题 。文献 [ 8 ]提 出的多新息辨识方法是受文献 [ 9 ]算法的启发 ,直接 考虑下列线性回归横型的辨识问题 , 给出了多新息辨识算法的数学表达式 。文献 [ 10 ]近 T ( ) φ ( ) θ ( ) ( ) y t = t + v t 1 似推导了多新息随机梯度辨识方法 ,给出了近 10 种 ( ) θ n