03-胶囊网络课件.pdf

胶囊网络

q针对卷积神经网络训练数据需求大、环境适应能力弱、可解

释性差、数据分享难等不足，2017年10月，GeoffreyE.

Hinton教授等在“神经信息处理系统大会上发表论文，提出

了新型神经网络结构——胶囊网络（CapsuleNetworks）。

q胶囊是一个包含多个神经元的载体，每个神经元表示了图像

中出现的特定实体的各种属性。

q胶囊不是传统神经网络中的一个神经元，而是一组神经元。

q胶囊网络的核心思想：胶囊里封装的检测特征的相关信息是

以向量的形式存在的，胶囊的输入是一个向量，是用一组神

经元来表示多个特征。

17

胶囊网络的基本结构

q输入层：数字图片经过标准的卷积层，有256个通道，每个

通道均用9×9的卷积核，将输入层图片中的像素亮度转化成

局部特征输出，作为Conv1层的输入。

qPrimaryCaps层：卷积的胶囊层，包含32个胶囊。

PrimaryCaps才是胶囊真正开始的地方。

18

胶囊网络的基本结构

qDigitCaps层：胶囊网络的全连接层。

q要识别的是10类数字（0~9），因此该层的胶囊个数共有10

个，每个胶囊表示的向量中元素的个数为16，代表着不同状

态下的同一个数字。

19

胶囊网络的学习运算

q胶囊网络的输入

q耦合系数

o非线性激活函数

Squashing

非线性激活函数squashing也称为压缩函数，前一部分是输入向

量线性求和S的缩放尺度，后一部分是线性求和S的单位向量。

20

胶囊网络的学习运算

q动态路由算法

在胶囊网络中用动态路由算法代替了卷积神经网络中的池化，

都是一种对有用信息的提取方式。

21

胶囊网络的学习运算

q损失函数

网络的卷积参数和Capsule内的权值都要根据损失函数进行更新。

采用的损失函数是最大化正负样本到超平面的距离：

22

胶囊网络的学习运算

q重构网络

重构是用预测的类别Capsule向量，即模值最大的向量重新构建

出该类别代表的实际图像。

●重构网络重构包含三个全连接层的网络解码器。该解码器输出

784个数字，对应重构图像的像素个数（28x28784像素）。

●这一过程的损失函数通过计算FCSigmoid层的输出像素与原始

图像像素点的欧氏距离而构建。23

胶囊网络实验

q在手写数字图像数据集MNIST上的部分实验结果：

q泛化能力实验结果：

对MNIST测试集的数字大小、粗细、位置做了部分改变。

实验结果：CapsNet在有重叠数字的AFFNIST数据集上获得了

比CNN好得多的结果。

24

胶囊网络的学习运算

q识别数字高度重叠的实验

MultiMNIST上两个数字的边框范围平均有80%是重合的数字。

MultiMNIST图片（白色）和由CapsNet重构后的结果（红色和绿

色）重合的数字。

实验结果：CapsNet实现了较低的分类错误率。