信息处理与编码 修订本 作者 吴伟陵 第2章.pptVIP

第2章 限失真信源与信息率失真函数 2.1 引 言 2.2 R(D)函数的性质 2.3 离散信源R(D)函数的计算 2.4 连续(模拟)信源的信息率失真函数R(D) 2.1 引 言 首先在通信系统的信源和信宿的联合空间上定义一个失真测度： d(ui，uj):U×V→R+(［0，+∞］) 设U×V上的联合分布为p(ui，vj)，则平均失真为： d＝∑∑p(ui，vj)d(ui，vj) ui vj 在讨论信息率失真函数时，考虑到信源与信宿之间有一个无失真信道，它可以用条件转移概率来描述，在离散时简记为Pji，我们称这个在信源与信宿之间的无失真信道为试验信道。 在实际通信工程中，往往采用R(D)的逆函数，失真信息率D(R)函数更为合适，其原因是作为一个典型信源编码系统，一般以某个速率R为限制条件(它反映现有的数字信道容量)，而不是以某个失真D作为起始参量。 将公式(2-1-12)与公式(2-1-13)用如图2-1-2所示图形表示。 2.2 R(D)函数的性质 定理2-2-1：对于离散、单个消息(符号)、限定失真信源，其R(D)函数应满足： (1) R(D)是D的下凸(∪)函数； (2) R(D)是D的单调非增函数； (3) R(D)是D的连续函数； (4) R(0)＝H(p)。 2.3 离散信源R(D)函数的计算 2.3.1 等概率对称性失真信 源R(D)函数的计算 *2.3.2 一般情况下的参量表达式 下面，我们讨论R(D)函数的计算，按照R(D)函数的定义，需要在以下约束条件下，求互信息的极值。 定理2-3-1：R′(D)＝S，即R(D)斜率为参量S。 *2.3.3 R(D)函数的迭代算法 2.4 连续(模拟)信源的信息率失真函数R(D) “inf”表示下确界，它对应于离散信源极小值，R(D)是［Dmin，Dmax］内的连续下凸函数。 定理2-4-1：有一连续非正态信源U，已知其方差为σ２，熵为HC(U)，若规定失真函数为d(u，v)=(u-v)2，则其信息率失真函数R(D)满足下列不等式： * 在线教务辅导网： 教材其余课件及动画素材请查阅在线教务辅导网 QQ:349134187 或者直接输入下面地址： 图2-1-2 无记忆等概率信源的R(D)与R′(D)