神经网络入门六.docVIP

神经网络入门连载之六 4.10??功能的两个改进 (A Couple of Improvements)　　尽管扫雷机学习寻找地雷的本领十分不错，这里我仍有两件事情要告诉你，它们能进一步改进扫雷机的性能。 4.10.1 改进一（Improvement Number One）　　首先，单点crossover算子留下了许多可改进的余地。按照它的规定，算子是沿着基因组长度任意地方切开的，这样常有可能使个别神经细胞的基因组在权重的中间被一刀两段地分开。 　　为清楚起见，我们来考察图16的权重。这是我们以前在说明基因组如何编码时看过的一个简单网络。 在这里，杂交算子可以沿向量长度的任意一处切开，这样，就会有极大几率在某个神经细胞（如第二个）的权重中间断开，也就是说，在权重0.6和-0.1之间某处切开。这可能不会是我们想要的，因为，如果我们把神经细胞作为一个完整的单元来看待，则它在此以前所获得的任何改良就要被骚扰了。事实上，这样的杂交操作有可能非常非常象断裂性突变（disruptive mutation）操作所起的作用。  图16 简单的网络 　　与此针锋相对，我已创建了另一种类型的杂交运算，它只在神经细胞的边界上进行切开。在图16的例子中，就是在第3、4或第6、7的两个基因之间切开，如小箭头所示。 为了实现这一算法，我已在CNeuralNet类中补充了另一个切割方法: CalculateSplitPoints。这一方法创建了一个用于保存所有网络权重边界的矢量，它的代码如下:vectorint CNeuralNet::CalculateSplitPoints() const{? ?vectorint SplitPoints;??? ?int WeightCounter = 0;??? ?// 对每一层? ?for (int i=O; im_NumHiddenLayers + 1; ++i)? ? {? ???// 对每一个神经细胞? ???for (int j=O; jm_vecLayers.m_NumNeurons; ++j)　　{? ?? ? 　 // 对每一个权重? ?? ? 　 for (int k=O; km_vecLayers.m_vecNeurons[j].m_NumInputs; ++k)? ?? ???　 { ? ?? ?? ???　 ++WeightCounter;? ?? ???　 }? ?? ???SplitPoints.push_back(WeightCounter - 1);? ?? ?}? ?}? ?return SplitPoints;}　　这一方法是CController类构造函数在创建扫雷机并把断裂点向量传递给遗传算法类时调用的。它们被存储在一个名叫m_vecSplitPoints的std::vector向量中。然后遗传算法就利用这些断裂点来实现两点杂交操作，其代码如下:void CGenAlg::CrossoverAtSplits(const vectordouble??mum,? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ???const vectordouble??dad,? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ???vectordouble? ?? ?? ?babyl,? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ???vectordouble? ?? ?? ?baby2){? ?// 如果超过了杂交率，就不再进行杂交，把2个上代作为2个子代输出? ?// 如果2个上辈相同，也把它们作为2个下辈输出? ?if ( (RandFloat() m_dCrossoverRate) || (mum == dad))? ???{? ?? ?baby1 = mum; ? ?? ?baby2 = dad;? ?? ?return;? ???}? ?// 确定杂交的2个断裂点? ?int index1 = RandInt(0, m_vecSplitPoints.size()-2);? ?int index2 = RandInt(Index1, m_vecSplitPoints.size()-1);? ?int cp1 = m_vecSplitPoints[Index1];? ?int cp2 = m_vecSplitPoints[Index2];? ?// 创建子代for (int i=0; imum.size(); ++i)? ?{ ? ???if ( (icp1) || (i=cp2) )? ?? ? {? ?? ?? ???