【数据挖掘与Clementine】第07章 clementine人工神经网络.pptxVIP

数据挖掘与Clementine第七章Clementine人工神经网络神经网络模型节点多层感知器模型的结构 输入层：代表输入字段 隐含层：可以有多个子层 输出层：代表输出字段 * 权值： 连接各层单元的连接强度。它会随着网络的不断训练而不断变化。网络分类网络B-P径向基网络隐藏层不限只有一个隐节点和输出节点算法相同不同节点中之间权重调整为 1 神经网络节点模型选项Clementine 为建立神经网络模型提供六种训练方法： 快速（Quick）：这种方法采用粗略估计方法，根据数据特征选择 神经网络的合适类型（拓扑结构）。需要注意的是计算隐藏层预设规模的方法已经与Clementine以前的版本不同。新的方法通常会生成更小规模的隐藏层，训练起来更快，生成的模型更好。如果发现采用预设规模的隐藏层得到的模型精确度较低，使用者可以尝试通过Expert项目提高隐藏层规模或者使用别的训练方法。 动态（Dynamic）：这种方法首先创建一个初始拓扑结构，然后随着训练的进展添加或剔除隐藏单元以修改拓扑结构。 多重（Multiple）：这种方法创建拓扑结构不同的几个神经网络（具体的数目取决于训练数据的情况）。随后这些网络以伪平行方式训练。在训练结束时，RMS错误最小的模型代表最终的模型。 修剪（Prune）：这种方法以一个大型神经网络开始，随着训练的进行剔除（修剪）隐藏层和输入层的最差单元。这种方法通常很慢，但是常常生成比其它方法更好的结果。 径向基函数网络（RBFN）：径向基函数网络(RBFN)使用类似于k－means聚类的方法，根据目标字段值拆分数据。 彻底修建（Exhaustive prune）：这种方法与Prune方法有关。这种方法以一个大型神经网络开始，随着训练的进行剔除（修剪）隐藏层和输入层的最差单元。由于是彻底修剪，神经网络训练参数的选择要确保对可能模型空间进行彻底的有哪些信誉好的足球投注网站以选出最好的模型。这种方法通常是最慢的，但是常常生成最好的结果。需要注意的是这种方法会花很长的时间训练数据，特别是训练大型数据集。快速方法模式（Mode）：简单选项（Simple），则系统将给点默认的参数。高级选项（Expert），则可以根据用户的需要自己设定参数的值，主要参数有：隐含层数（Hidden layers）持续次数（persistence）学习的效率（Learning Rates）：Alpha值初始Eta值（Initial Eta）高的Eta值（High Eta）Eta衰减速度（Eta dacay）低的Eta值（Low Eta）注意：在神经网络节点没有动态 方法和彻底修剪方法的 选项神经网络高级选项——节点学习效率节点的学习效率（Learning Rates）：Alpha：一个用于更新训练时的权值的动量。动量（momentum）倾向于保持权值沿一致方向变动。要求指定0到1之间的一个值。较高的alpha值有助于避免网络的局部极小值。Eta：即学习比率，控制每次网络升级时权值的调整幅度。除RBFN方法Eta值恒为常数外，对其他所有训练方法，Eta值随着训练的进行而变化。初始Eta值是Eta的起始值。在训练中，Eta从初始值开始，降低到Eta低值，然后重置为Eta高值，又再次降低到Eta低值。最后两步反复进行，直到训练结束。Eta 衰减指定eta开始降低时的比率，表示为从Eta高值到Eta低值的循环数。对每一个Eta选项都要指定值。 适应度