信息论课程论文..doc

从通信联合收发优化剖析香农三大定理 --“信息论与编码 ”课程论文 课程：信息论与编码 指导老师：王忠 姓名：秦天柱 学号：2012141441420 摘要 本文立足之点为通信系统的收发联合优化，主要根据一种基于广义的率失真函数的信源编码、信道编码和差错隐藏联合优化的方法对此进行讨论。并在此基础上，对香农三大定理进行剖析，分析了香农三大定理的内在联系与通信系统理论构建之间的关系。 1 引言 随着现代通信技术的发展，通信的重要性不言而喻。早在二十世纪四十年代初，香农提出三大定理，奠定了通信的数字理论基础。用户数量也随之增长，传输错误当然也不可避免。自此，容错恢复编码技术近年来成为无线视频传输研究中的热点。传统的方法[ 3, 4] 往往假设视频信源是统计平稳的， 然后对整个视频序列建立经验的或理论的率失真模型来进行码率分配优化；并且只考虑信源编码和信道编码本身的性能，而没有考虑差错隐藏技术的影响。 本文着重分析了一种针对图像局部区域的信源信道编码以及差错隐藏特性的广义的率失真函数. 这种基于局部广义率失真特性的信源编码,信道编码和差错隐藏的联合优化(以下简称JSCE)有可能取得更好的视频传输效果。并由此将香农的三大定理（无失真信源编码定理、信道编码定理和限失真信源编码定理）进行剖析，深入研究其内在联系和为通信系统的联合优化提供的理论支撑。 2 通信系统的联合优化 2.1 广义的率失真函数 在进行无线视频传输的码率优化分配时,我们将信源编解码,信道编解码和差错隐藏联合起来进行考虑.失真因素包括信源的量化误差,信道传输错误而引起的失真,以及差错隐藏的增益优化的目的, 是在一定的码流速率和信道条件下,获得最小的端对端失真. 实现这种联合优化, 需要获得每一最小编码单元在一定的码率分配方案和信道条件下的端对端的失真期望值, 我们将之定义为广义的率失真函数, 用D(rs , rc c)表示, 其中rs为信源编码的码率, 单位是比特/ 像素(bpp), rc 为信道编码的效率, c 为信道的状态矩阵, 它和所选的信道模型有关.例如,对于加性高斯白噪声(AWGN)信道, 可以用一个的参数, 即信噪比Eb/ N0 来表征信道状态.本文中采用均方误差(MSE)来作为图像失真的度量, 其表达式为: 其中M, N 为二维图像的大小, pn , m和 pn , m为发送和接收图像像素的灰度值.广义率失真函数D(rs , rc| c), 可由图像宏块丢失后经差错隐藏后的失真dL 和量化误差引起的失真dQ 加权得到, 如下式: D(rs , rc|c)=Pe(rs , rc|c)dL +(1-Pe(rs , rc|c))dQ(rs) 其中, Pe(rs , rc c)为宏块的丢失概率, 它和信源信道的码率分配rs , rc , 以及信道编码的性能有关.式(2)表明, 在相同的信道和信道编码条件下, 决定广义率失真特性的参数为dQ(rs)和dL .由于量化电平是离散的, 所以dQ(rs)是一组离散的点;同时我们可以认为dL 是信源编码的码率为0, 但经过差错隐藏之后的失真.进一步, 我们构造由归一化后的不同量化电平下的失真和码率组成的特征矢量: Vdr = ( d 0 , rs0),( d 1 , rs1), … ,( dN , rsN)」 其中: di =di/ dmax , rsN=rsi/ rs max , i =0, 1 , … , N dmax和rsmax为所允许的最大失真和最大的信源编码速率 则两矢量之间的度量可定义为: 　　dr -d(Vdr , V′dr)=‖ Vdr -V′dr ‖= ΣN(( di - d′ i)2+( rsi - r′Si)2) 1/2 根据上式所定义的广义率失真函数和其特征矢量, 就可以获得对最小视频编码单元的信源编码、信道编码和差错隐藏率失真特性的有效描述, 从而可以利用它来进行码率分配优化, 以获得最小的端对端失真。 2.2 信源编码、信道编码和差错隐藏的联合优化算法 .为降低运算复杂度, 可以在优化前将具有相同广义率失真特性的图像宏块合并, 从而使得优化单元的数目控制在可接受的范围之内.假设合并后的区域控制在N0 以内, 则合并算法如下: (1)设定dr-d门限值T 的初始值为T0 . (2)选取一尚未合并的宏块bi , 并将之合并到新的区域Rl .如果所有宏块均已合并, 转入(4). (3)对于尚未合并的宏块bj , 其率失真矢量为V′dr , 如果对区域Rl 中的任何一个宏块bi , 都满足:dr-d(Vdr , V′dr)T (7)则将宏块bj 归为区域Rl .其中Vdr为bi