无约束最优化方法3.docVIP

第八节 坐标轮换法 把一个多维问题转化为一系列较少维数的问题称为降维。降维方法有几种，坐标轮换法是用得较多的一种，这是一种不需要求函数导数的直接探索目标函数最优解的方法。 直接法、降维法 一、坐标轮换法的基本思想 其基本思想就是通过每次仅对多元函数的一个变量沿其坐标轴进行一维探索，其余各变量均固定不动，并依次轮换进行一维探索的坐标轴，完成第一轮探索后再重新进行第二轮探索，直到找到目标函数在全域上的最小点为止，以达到将一个多维的无约束最优化问题，转化为一系列的一维问题来求解的目的。为简明起见，现以二元函数来说明 基本步骤： 1.从初始点出发，依次沿各坐标轴方向有哪些信誉好的足球投注网站最优点，保持其余n-1个变量不变。 例：如果，如果沿x1轴方向有哪些信誉好的足球投注网站，则有哪些信誉好的足球投注网站过后改变的仅仅是x1的值3，其余坐标的值均保持不变。假设有哪些信誉好的足球投注网站到的值是8，则下一个点的值为。 迭代点的序列为： 上标表示有哪些信誉好的足球投注网站的轮次，下标表示对应的坐标，亦即该轮次的第几次迭代。 经过一轮（n次）迭代后，得到一个新点，然后进行下一轮迭代。只到满足精度。 二、步长可以有以下几种取法 1.随机选择值的方法 2. 加速步长法 为方向的初始试验了加快探索过程，可以采用加速步长法。 用此法时，先规定沿方向的初始试验步长，并用它探测跨步轮沿第的前、后方向。若第k轮沿第i个坐标方向进行探索时所获得的探索点 满足，则取正向，否则取负向。若探索均未成功则需要减小值。当步长的正负确定以后，再取步长为初始步长的若干（）倍，即，若，则继续取进行探索，直到目标函数值不再下降才改换坐标轴为轴进行探索，当进行多轮探索后发现整个过程停滞不前，再并仍未达到计算精度要求时，则可缩小，取，再进行探索，直到得到满意结果或已缩小到预定精度时为止。 3. 最优步长法 利用以前所介绍过的一维探索方法，求最优步长。 三、坐标轮换法的效能 从坐标轮换法的迭代过程可以看出其探索路线较长，而且显然是问题的维数愈多求最优解的效率愈低。因此，这种方法对设计变量少的最优化问题虽然有效，但对设计变量较多的问题则不太适用，当维数n10时，则不应采用此法。 另外，此法的效能在很大程度上还取决于目标函数的性质，如图 第九节 鲍威尔方法 直接法（不需要对函数求导）、共轭方向法（利用目标函数值信息构造共轭方向）。 一、鲍威尔方法的基本思想 从一个初始点出发，通过一组线性无关向量组有哪些信誉好的足球投注网站，并构造n个共轭方向，不需要对函数求一阶导数、二阶导数，只需利用目标函数值信息构造共轭方向。 Powell方法有哪些信誉好的足球投注网站方向（共轭方向）的形成： 1.首先按坐标轮换法进行一轮有哪些信誉好的足球投注网站 从初始点出发，沿n个坐标轴方向进行一维有哪些信誉好的足球投注网站，即，得到点。 利用和构造第一个共轭方向 从沿方向进行一维有哪些信誉好的足球投注网站，求得一个新点 2.第二轮有哪些信誉好的足球投注网站 从先沿和方向进行n次一维有哪些信誉好的足球投注网站，（即用作为本轮的最后一个有哪些信誉好的足球投注网站方向，而将原来的第一个方向挤掉），可得到点 利用和构造第二个共轭方向 从沿方向进行一维有哪些信誉好的足球投注网站，求得一个新点 如此反复，每轮迭代将新前一轮的共轭方向加在最后，而将第一个方向挤掉不用。 经过n轮迭代，即可构造出n个共轭方向，，， 迭代步骤 二、改进的鲍威尔方法 按上述方法构造的共轭方向会出现线性相关的情况，即在某一次一维有哪些信誉好的足球投注网站中会出现或，特别的，当时，那么在构造共轭方向时，由于其中的，下一轮迭代由于挤掉了，故仅由n-1个向量组合。这样在下一轮的各次有哪些信誉好的足球投注网站中，都是在下降了的空间中进行的，导致有哪些信誉好的足球投注网站仅限于n维空间的一个子空间的极小点而失败。 以三维空间有哪些信誉好的足球投注网站为例 假设第一维优化步长或非常接近于0，即表示沿坐标轴方向的有哪些信誉好的足球投注网站没有前进或前进很少，则共轭方向为 下一轮迭代方向是，，，它们是线性相关的，故有哪些信誉好的足球投注网站是在下降了的空间中进行的，无法有哪些信誉好的足球投注网站函数的极小值。 Powell对此进行了改进。