- 1、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
第十课 递归神经网络 人工神经网络理论及应用 教学课件
人工神经网络理论及应用 屈桢深 哈尔滨工业大学 延时单元网络——FIR 对应输入输出关系 延时单元网络——IIR 时空神经元模型 FIR前馈网络学习算法I 误差函数定义为(累计误差) 权值更新采用SD, FIR前馈网络学习算法II 对于输出层 FIR前馈网络学习算法III 令 ① ② ② FIR前馈网络学习算法IV ①根据网络模型: 因此有 因此有: 或记为 FIR前馈网络学习算法V 权值更新公式 注意到 要用到未来Q步信息,因此 FIR前馈网络学习步骤 设定网络层数及延时数Q; 前向传播,计算E ; 当kQ时,计算权值修正量; 返回(1), 直到误差ΔE小于指定值。 随时间演化的反向传播(BPTT) BPTT学习过程I 误差函数定义为(累计误差) 权值更新采用SD, BPTT学习过程II 定义 从最后一段权值开始更新, BPTT学习过程III 向前传播一层, BPTT学习过程IV 继续向前传播,可记为 BPTT学习过程V 进一步记为 部分反馈网络 RTRL模型表示 输入 (2)输出 即y(k)与wij(k-1), u(k-1)相关 RTRL学习过程I 误差函数定义为(瞬时误差) ① ② RTRL学习过程II ① ② ③ ④ ③ ? RTRL学习过程III ④ 因此有 RTRL学习过程IV 定义 ,并注意到 初始条件: RTRL学习步骤 从k=0开始,使用网络模型动态方程计算输出;权值初值取随机数; 按前述方式计算 ; 计算权值修正量 返回(1), 直到误差E(k)小于指定值。 Williams R. J. et. al. An efficient gradient-based algorithm for on-line training of recurrent network trajectories. Neural Computation, 2:490-501, 1990 阎平凡,张长水. 人工神经网络与模拟进化计算(2版). 清华大学出版社,2005. 9.1-9.5节 * * 10. 递归神经网络 主要内容 延时神经元与时空神经元 FIR网络学习算法 随时间演化的反向传播算法(BPTT) 实时递归学习(RTRL) 对应输入输出关系 对应输入输出关系 组成的网络称为FIR前馈网络 * 特点: 把网络各时刻处理扩展成前馈网络 感兴趣序列长度T给定, 复制T次 输出延时反馈至输入 存在隐单元 示例 实时递归学习算法(RTRL) 本讲参考文献 *
文档评论(0)