人工智能PPT课件(共9章)第9章 深度学习及其应用.pptx

深度学习掀起了人工智能的又一次热潮

互联网引领人工智能快速突破

GoogleBal@百度FORTUNE

人工智能四巨头

facebookMicrosoft

1956年

人工智能概念提出1970-1980年代

第一个Al冬天1987-1993年

1950年第二个AI冬天

图灵测试

2013年以后

2006年

深度学习的兴起

逻辑推理专家系统机器学习/深度学习

Bald百度

Google

Microsoft

amazon

1990年代

机器学习

人工神经网络的兴起

FourTechGiants

深度学习属于机器学习

人工智能

机器学习

深度学习

感知智能

能听会说

能看会认

认知

智能

计算智能

能推会想

能算会数

人工智能

算法

引擎

·深度学习对并行计算、单位时间数据吞吐能力有更高要求

GPU/FPGA的发展及计算能力的提升使得云计算平台可以快速计算、处理大量数据。

·机器学习算法是实现人工智能落地的引擎

·机器学习尤其是深度学习/强化学习的完善与迭代促成了人工智能与商业场景的结合。

深度学习属于机器学习

·大量实时产生的数据为人工智能的落地应用奠了基础。

·通过大量数据训练人工智能的算法模型。

计算

平台

数据

基础

机器学习的分类

有监督学习

机器

学习

无监督学习

强化学

习

半监督

学习

深度学习—概述

5

□深度学习的概念由Hinton等人于2006年提出，是机

器学习的一个分支，这一概念源于人工神经网络的研究。深度学习本质上其实就是多层神经网络。

口深度学习：一种基于无监督特征学习和特征层次结构的学习方法

□深度学习已经应用到许多领域，包括计算机视觉，

语音识别以及自然语言处理。

深度学习-无监督学习和有监督学习的结合

6

动机——为什么要自动学习特征

□机器学习中，获得好的特征是识别成功的关键

□手工选取特征费时费力，需要启发式专业知识，很大程度上靠经验和运气

Spinimage

RIFT

□是否能自动地学习特征?

GLOH

Textons

SIFT

HoG

米

□一般而言，特征越多，给出信息就越多，识别准确性会得到提升；

□但特征多，计算复杂度增加，探索的空间大，可以用来训练的数据在每个特征上就会稀疏。

口结论：不一定特征越多越好!需要有多少个特征，需要学习确定。

动机——为什么要自动学习特征

第一次兴起(1958

年):感知机，由于没有引入非线性，不能求解异或问题。

第二次兴起(1986年):将BP(Back

Propagation)算法用于ANN的训练过程。

第三次兴起(2012年):深度卷积神经网络的兴起，一直到现在。

BP算法：信号的正向传播和误差的反向传播。

人工神经网络发展

1995

SVM

200020102020

1986

BP

第二次

1982兴起Hopfield

1969

“AIWinter”

单层神经网络

神经元

神经网络兴衰史

2012

CNN

第三次

兴起

2006

DBN

1943

1949

MP

Hebb

诞生

194019501960197019801990

1958

Perceptron

第一次

兴起

2020

Winter?

多层神经网络

两层神经网络

人工神经网络发展

第一次高潮

萌芽期

1940s1960s1980s

Hopfield网络深度网络

Boltzman机1-OBN

BP算法CNNBM

LeCun98DeepCNNRNN

G.E.HintonY.Bengio

Y.Lecun

AndrewNgRobFergus

2000s

MP模

型

阈值加和模型Hebb

学习

规则

SVM

Vapnik95

Boosti

ng

iSchapire

95

感知器模型

自适应-

线性单元

第二次高潮

低谷低谷

第三次浪潮

DeepLearning,Science2006(vol.313,pp.

504-507)