机器学习基础 第7章-神经网络基础.pptVIP

第7章 神经网络基础 符号主义与连接主义 符号主义：显式地使用逻辑规则进行计算与推理 连接主义：模拟生物神经网络的信息处理方式 连接主义模型的特点 拥有处理信号的基础单元 处理单元之间以并行方式连接 处理单元之间的连接是有权重的 7.1 基础概念 神经元 基本的信息操作和处理单位 神经元 神经网络 一个有向图 神经元为顶点 神经元的输入为顶点的入边 神经元的输出为顶点的出边 神经网络 输入层：接受来自网络外部的数据的顶点 输出层：向网络外部输出数据的顶点 隐藏层：除了输入层和输出层以外的其他层 神经网络 训练：根据训练样本，对神经网络内部的参数进行调整与修正 有监督训练：训练样本包含神经网络的输入与预期输出 非监督训练：训练样本仅包含神经网络的输入 7.2 感知机 单层感知机 多层感知机 单层感知机的问题：无法克服线性不可分的问题（如：异或运算） 多层感知机 例：实现异或运算的多层感知机 7.3 BP神经网络 后向传播算法 (Back Propagation, BP) 多层感知机的问题：隐藏层结点的误差无法像单层感知机那样直接计算得到 解决方案：后向传播算法 梯度下降 寻找局部极小值：在权值空间中朝着误差最速下降的方向有哪些信誉好的足球投注网站 梯度下降 后向传播