deeplearningfromimagetosequence.docVIP

  1. 1、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
deeplearningfromimagetosequence

Deep learning From Image to Sequence Content 1. 回顾 deep learning在图像上的经典应用? ? ? 1.1 Autoencoder ? ? 1.2 MLP ? ? 1.3 CNN详细的见上一篇CNN 2.?deep learning处理语音等时序信号 ? ? 2.1 对什么时序信号解决什么问题 ? ? 2.2 准备知识 ? ??? ? 2.2.1 Hidden Markov Model(HMM) ? ??? ? 2.2.2?GMM-HMM for Speech Recognition ? ??? ? 2.2.3?Restricted Boltzmann Machine(RBM) 3. ?DBN 和 RNN 在语音上的应用? ? ? 3.1 DBN ? ??? ? 3.1.1 DBN架构 ? ??? ? 3.1.2 DBN-DNN for Speech Recognition ? ? 3.2 RNN ? ??? ? 3.2.1 RNN种类 ? ??? ? 3.2.2 RNN-RBM for Sequential signal Prediction --------------------------------------------------------------------------------------------- 1. 回顾 deep learning处理图像等非时序信号 详细的见上一篇CNN ---------------------------------------------- 1.1 AutoEncoder(unsupervised) 扩展:Stack AutoEncoder(可以变成supervised),见Andrew Ng的UFLDL教程,我就不贴图了 ---------------------------------------------- 1.2 MLP MLP( ANN)是最naive的神网分类器。一个hidden层,连两端nonlinear function,output输出为f(x),softmax做分类。 ---------------------------------------------- 1.3 Convolutional Neural Network 特点:1. 非全连接,2、共享权重 做法:1. 卷积 2. 降采样(pooling) 具体见上一篇CNN --------------------------------------------------------------------------------------------- 2. deep learning处理语音等时序信号 2.1 对什么时序信号解决什么问题: handwriting recognition speech recognition music composition protein analysis stock market prediction ... 2.2 准备知识: ---------------------------------------------- 2.2.1 Hidden Markov Model(HMM) - 带unobserved(这就是所谓hidden)states的随机过程,表示输入语音信号和hidden state(因素)的模型: figure from wiki 训练HMM模型:给定一个时序y1...yT, 用MLE(typically EM implemented,具体见这篇第三部分training) 估计参数; ---------------------------------------------- 2.2.2?GMM-HMM for Speech Recognition?(较大,单独放在一篇blog里了) 2.2.3?Restricted Boltzmann Machine 讲RBM之前要先讲一下生成模型……How to build a single layer of feature detector 大体分为两类——directed model undirected model: directed model?(e.g. GMM 从离散分布求latent状态) 根据先验分布选择latent variable的状态 给定latent states,根据条件分布求observable variables的状态 2.undirected model ?? 只用参数W,通过能量函数定义v(visible)和h

文档评论(0)

docindpp + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档