概率论与数理统计第16讲.pptVIP

概率论与数理统计第16讲 本讲义可在网址 或 下载 §4.3 协方差与相关系数 对多维随机变量, 随机变量的数学期望和方差只反映了各自的平均值与偏离程度, 并没能反映随机变量之间的关系. 本节将要讨论的协方差是反映随机变量之间依赖关系的一个数字特征. 在证明方差的性质时, 我们已经知道, 当X与Y相互独立时, 有 E{[X-E(X)][Y-E(Y)]}=0反之则说明, 当E{[X-E(X)][Y-E(Y)]}?0时, X与Y一定不相互独立. 这说明量E{[X-E(X)][Y-E(Y)]}在一定程度上反映了随机变量X与Y之间的关系. 一, 协方差的定义定义1 设(X,Y)为二维随机向量, 若 E{[X-E(X)][Y-E(Y)]}存在, 则称其为随机变量X和Y的协方差, 记为cov(X,Y), 即 cov(X,Y)=E{[X-E(X)][Y-E(Y)]}. (3.1) cov(X,Y)=E{[X-E(X)][Y-E(Y)]}按定义, 若(X,Y)为离散型随机变量, 其概率分布为 P{X=xi, Y=yj}=pij (i,j=1,2,?)则 cov(X,Y)=E{[X-E(X)][Y-E(Y)]}若(X,Y)为连续型随机变量, 其概率密度为f(x,y), 则 cov(X,Y)=E{[X-E(X)][Y-E(Y)]}此外, 利用数学期望性质, 易将协方差的计算化简 cov(X,Y)=E(XY)-E(X)E(Y) (3.4)事实上cov(X,Y)=E{[X-E(X)][Y-E(Y)]} =E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y)特别地, 当X与Y独立时, 有 cov(X,Y)=0 二, 协方差的性质1. 协方差的基本性质(1) cov(X,X)=D(X);(2) cov(X,Y)=cov(Y,X);(3) cov(aX,bY)=abcov(X,Y), a,b为常数;(4) cov(C,X)=0, C为常数;(5) cov(X1+X2,Y)=cov(X1,Y)+cov(X2,Y).(6) 若X,Y相互独立时, 则cov(X,Y)=0. 2. 随机变量和方差与协方差的关系 D(X?Y)=D(X)+D(Y)?2cov(X,Y), (3.5)特别地, 若X与Y相互独立时, 则 D(X?Y)=D(X)+D(Y)注: ①上述结果可推广至n维情形: ②若X1,X2,?,Xn两两独立, 则 例1 已知离散型随机向量(X,Y)的概率分布为 解 计算E(X), 计算E(Y), 计算E(XY), E(X)=0.95, E(Y)=-0.15, E(XY)=0于是cov(X,Y)=E(XY)-E(X)E(Y) =0.95?0.15=0.1425 例2 设连续型随机变量(X,Y)的密度函数为 于是 从而得 所以 三, 相关系数的定义协方差是对两个随机变量的协同变化的度量, 其大小在一定程度上反映了X和Y相互间的关系, 但它还受X与Y本身度量单位的影响. 例如, kX与kY之间的统计关系与X与Y之间的统计关系应该是一样的, 但其协方差却扩大了k2倍, 即 cov(kX,kY)=k2cov(X,Y) 为了避免这一点, 可将每个随机变量标准化, 即取 定义2 设(X,Y)为二维随机变量, D(X)0, D(Y)0, 称 四, 相关系数的性质1. |rXY|?1 2. 若X和Y相互独立, 则rXY=0. 但反之不成立.注: 进一步有: rXY=0?cov(X,Y)=0? E(XY)=E(X)E(Y)?D(X?Y)=D(X)+D(Y).3. 若D(X)0, D(Y)0, 则|rXY|=1当且仅当存在常数a(a?0), 使 P{Y=aX+b}=1.而且当a0时, rXY=1, 当a0时, rXY=-1. 证明 必要性. 当rXY=?1时 由方差的性质可知, 存在常数C使 充分性. 若P{Y=aX+b}=1(a?0), 于是 注: ①相关系数rXY刻画了随机变量Y与X之间的线性相关程度.|rXY|的值越接近1, Y与X的线性相关程度越高;|rXY|的值越接近0, Y与X的线性相关程度越弱;当|rXY|=1时, Y与X的变化可完全由X的线性函数给出.当rXY=0时, Y与X之间不是线性关系. ②当rXY=0时, 只说明Y与X没有线性关系. 并不能说明Y与X之间没有其它函数关系. 从而不能推出Y与X独立.4. 设e=E[Y-(aX+b)]2, 称为用aX+b来近似Y的均方误差, 则有下列结论:设D(X)0, D(Y)0, 则 证明 因e=E[Y-(aX+b)]2 =E(Y2)+a2E(X2)