Delta方法.docxVIP

Delta 方法 摘要 在统计学中，独立和的中心极限定理或者Linderberg-Feller中心极限定理都给出了随机变量服从极限正态分布的条件，不过，很多时候我们关注的不是随机变量本身的分布，而是随机变量函数的分布，而delta 方法作用就是利用估计量的极限方差求得渐近正态估计量函数的极限分布。Delta方法主要利用了Taylor展开证明。 介绍 假定统计量是参数的一个估计，但是我们感兴趣的是，其中是一个已知的函数。一个很自然的想法是用统计量来估计。但是的渐进性质如何呢？ 首先由连续映射定理可知，如果序列以概率收敛于，且在处连续，那么以概率收敛于。一个类似的问题是关心极限分布。特别的如果弱收敛到一个极限分布，那么对于一样成立？ 定理证明 Delta 方法（一元） 如果一列随机变量满足，其中均为有限的常数，那么 ，其中满足存在且取值不为零。 Delta 方法（多元） 设都是k变元函数，有一阶全微分,.又为一串随机向量，满足条件 这里为常向量，为k阶常方阵，则 其中C为矩阵，其（i，j）元为 Taylor多项式 如果函数g(x)有r阶导数，即存在，则对任意常数a, g(x)在a附近r阶Taylor多项式（Taylor polynomial of order r about a为 Taylor定理 如果存在，则 Taylor定理表明余项是Taylor多项式的无穷小，由于我们仅考察Taylor级数近似，常常忽略其余项，所以余项的具体表达式并不十分关心，不过在余项的具体表达式中，下列表示最为常用 Slutsky 定理 如果依分布收敛于随机变量，依概率收敛于常数a则 A.依分布收敛于随机变量； B．依分布收敛于随机变量， 方法 设速记变量序列满足：依分布收敛于，函数g在指定处满足：存在且不为零，则 （依分布收敛） 证明 （一元）在附近的Taylor展式为 余项 其中，当时余项趋于零。由于依概率收敛于，故余项依概率收敛于零，于是 （依分布收敛） 再由Slutsky定理可知，此定理得证。 （多元）因都有一阶全微分，故有 按照假定有极限分布，故当，依概率成立。因此上式左边的极限分布，与右边的第一项分布的极限分布相同。按假定，后者等于的分布，其中，这就证明了多元的Deita方法。 扩展 下面我们介绍Deita方法的一种推广。推广考察??情形，这种情况却有可能发生，例如我们在Taylor展式中多取一项，即 余项 令，重新整理后，即 余项 回忆变量的平方服从分布，于是 （依分布收敛） 二阶Deita方法 设随机变量序列满足：依分布收敛于，函数g在指定的处满足存在且不为零，则 （依分布收敛） 应用 样本协方差 的样本协方差定义为，可以表示为，其中函数，为了简单，我们用的n而不是n-1，假定是取自那些一阶矩到四阶矩有限的分布的，并且一阶矩到四阶矩表示为。由多元的中心极限定理可知， 映射在点，并且其导数。因此如果向量服从上面的正态分布，那么 上式后面的变量是正态分布，且均值为零，方差可以被表示。如果，方差可以简化为。一般情况下可以变为这种情况，因为在样本替换为中心化的随机变量的情况下不会改变。令，表示的中心矩。发现和为初始样本的方差，我们得到 由Slutsky 定理，对于无偏的样本协方差矩阵这个结果依然成立，因为 卡方检验的水平 作为前面的例子的应用，考虑检验方差的卡方检验。正态理论规定，当超过的上分位数时拒绝原假设。如果样本观察值都来自正态分布，检验有一个精确的水平。如果最初的样本分布不是正态分布是不是仍然成立。不幸的是，答案是否定的。 当n很大时，我们可以借助上面的结论。根据中心极限定理和前面的例子的陈述 ， 这里表示分布的峰度。第一个式子能够得到收敛到标准正态分布的上分位数。因此卡方检验的水平满足 渐近的水平变为当且仅当分布的峰度等于零。这其实就是正态分布的情形。另一方面重尾分布有一个很大的峰度。如果分布的峰度是接近无穷，那么渐进水平接近 。我们可以得出结论卡方检验对于那些影响峰度值的参数是不稳定的。当检验的临界值在自由度n-1的卡方分不下给定时至少是对的。 如果用用正态分布去近似，且渐进方差被估地准确的话这个问题就不会被提出来。 在上面的例子中的渐进分布由Delta方法得到。实际上，它可以由更简便更直接方法得到。 上式的第二项以概率收敛到零；第一项由中心极限定理渐进正态，所以整个式子由Slutsky 定理渐进正态 偏度 样本的样本偏度定义为 意料之中的它会以概率收敛到潜在分布的偏度。定义系数，分别是三阶中心矩和标准差，对称分布的偏度，比如正态分布，是等于零的，样本的偏度可以用来检验潜在分布的正态性质的某些方面。对于大样本的情形，检验临界值可以用正态近似来定义。 样本偏度可以写成，其中表示如下 有中心极限定理可知，序列为渐近正态，且均值为零。假